Les GPU IA de NVIDIA font face à une croissance massive des données, mais la production de NAND V10 de Samsung pour le stockage CMX nouvelle génération apporte une solution, au coût de l’industrie

Les serveurs d’intelligence artificielle avec leurs multiples GPU NVIDIA devaient gérer d’énormes quantités de données temporaires, le fameux cache clé-valeur. L’explosion de ces données crée désormais un goulot d’étranglement, nécessitant le recours à une nouvelle solution : le stockage mémoire contextuel ou CMX. C’est sur ce terrain que Samsung intervient de manière stratégique.

Samsung, fournisseur clé de NVIDIA

Les serveurs d’intelligence artificielle équipés d’une multitude de GPU NVIDIA géraient auparavant d’importants volumes de données temporaires, le cache clé-valeur. Mais l’expansion astronomique de ces informations commence à saturer les puces, exigeant le développement d’un stockage mémoire contextuel dédié, le CMX. C’est précisément là que Samsung entre en jeu.

Un nouveau rapport indique que le géant coréen fournit déjà d’importantes quantités de mémoire V9 NAND à NVIDIA pour cet usage, tandis que la V10 entre en phase de production de masse. Bien que ces expéditions devraient libérer les GPU des limitations liées aux données contextuelles, ce sont les autres acteurs du marché et les consommateurs qui en subiront les conséquences, la disponibilité pour eux devenant très restreinte.

Recherches sur la V11 NAND

Pour répondre à la demande, Sedaily rapporte que la production de V-NAND par Samsung couvre une capacité de 100 000 unités pour NVIDIA, 60 % des capacités de l’entreprise étant allouées à la ligne V9. La NAND V10 devrait permettre d’augmenter le nombre de couches de stockage, garantissant à NVIDIA de pouvoir intégrer des SSD de plus grande capacité dans un même module CMX.

Actuellement, chaque unité de stockage mémoire contextuel pour serveurs IA peut accueillir 576 disques SSD, atteignant une capacité colossale de 9 600 To. Si cette technologie peut potentiellement éliminer le goulot d’étranglement des données pour les GPU NVIDIA, elle s’accompagne d’un déficit d’approvisionnement. Cette situation laisse présager des difficultés pour les autres entreprises et les consommateurs, qui devront satisfaire leurs besoins en stockage à des prix élevés.

Initialement, l’essor de l’intelligence artificielle a provoqué une pénurie de DRAM, entraînant une flambée des prix. Ce changement a déjà eu un impact négatif sur le marché du stockage. Et ce n’est que le début. À mesure que les GPU pour IA déchargeront de plus en plus de données contextuelles temporaires vers le CMX, les besoins insatiables de NVIDIA augmenteront de façon exponentielle.

Selon le rapport, le volume de puces de stockage pour le CMX devrait passer de 35 millions de téraoctets à plus de 100 millions en 2026. Samsung devrait atteindre 250 millions de téraoctets en expéditions NAND, consolidant sa position de principal fournisseur potentiel de NVIDIA. Point positif : après des années de pertes, le géant technologique coréen a enfin trouvé un débouché majeur, ses profits pour 2026 devant dépasser les bénéfices cumulés des 40 dernières années.

Avec ce changement d’orientation industriel, les fabricants de NAND ont identifié où se situent les partenariats les plus lucratifs. C’est précisément là que les problèmes commencent à s’aggraver pour l’ensemble du secteur. Le seul aspect positif de l’alliance entre Samsung et NVIDIA pourrait être l’accélération du développement de la V11 NAND. Cette mémoire promet jusqu’à 500 couches de stockage empilées verticalement, soit 100 de plus que la V10, qui offrait déjà une densité de stockage 50 % supérieure à la V9 et ses 286 couches.

Cette technologie pourrait être exploitée pour produire en masse des SSD grand public de plus grande capacité à un coût réduit, mais seulement si Samsung décide d’y allouer une partie de sa production. Pour l’instant, satisfaire le reste de l’industrie semble relever du fantasme.