L’importance de HBM et DRAM diminue ; voici la mise à jour silencieuse que les géants de l’IA s’arrachent avant la prochaine grande vague
Les hyperscalers multiplient les investissements colossaux pour étendre leurs capacités, mais butent sur un trio de défis : consommation électrique, encombrement physique et flambée des mémoires HBM et DRAM. Un nouveau type de composant pourrait pourtant leur offrir une bouffée d’air, en déchargeant les GPU les plus sollicités et en réduisant l’empreinte des datacenters. Samsung et SK hynix misent déjà sur cette technologie, qui promet de transformer en profondeur l’infrastructure de l’IA.
Des SSD QLC pour alléger la charge des datacenters IA
Alors que les hyperscalers continuent d’accroître leurs investissements massifs pour booster leur capacité, une prise de conscience grandit face aux risques qui menacent leurs ambitieux objectifs : la consommation électrique, les contraintes d’espace physique et la hausse des prix des mémoires HBM et DRAM, qui ne fera qu’empirer en raison d’une capacité de production stagnante. Heureusement, un nouveau rapport détaille un composant inédit qui devrait accélérer la réalisation de leurs buts, et avec l’expansion toujours plus rapide des capacités, cette pièce deviendra un acteur clé de ce secteur particulier.
Samsung et SK hynix mènent le marché des eSSD QLC haute capacité, soulageant les datacenters IA alors que HBM et DRAM deviennent le goulot d’étranglement de l’inférence
Nous avions déjà rapporté que Samsung avait accéléré la production de mémoire flash V10 NAND pour NVIDIA, afin de contenir la croissance démesurée des GPU et des datacenters IA via une technologie appelée Context Memory Storage (CMX). D’après ZDNet, la même dynamique se concentre désormais sur le marché des SSD professionnels, où les fabricants de mémoire Samsung et SK hynix cherchent à aider les hyperscalers à réduire l’espace serveur et la consommation électrique, tout en engrangeant des profits confortables.
Ces industriels prennent aujourd’hui la tête du marché des eSSD haute capacité basés sur la technologie QLC. Si les SSD QLC (Quad-Level Cell) sont moins durables que les modèles TLC (Triple-Level Cell) et MLC (Multi-Level Cell), ils offrent une capacité par unité plus élevée pour un coût moindre, ce qui permet aux hyperscalers de réaliser d’importantes économies d’espace. Pour minimiser l’usure de ces disques, les clients peuvent passer des commandes plus importantes et remplir leurs datacenters au maximum.
Avec ces eSSD, la charge pesant sur la mémoire des GPU pour stocker les données contextuelles temporaires, appelées cache Key-Value (KV), sera considérablement réduite. Cela aide les puces graphiques à préserver leurs cycles de lancement tout en diminuant les coûts opérationnels quotidiens des datacenters IA. TrendForce indique que les prix contractuels des eSSD ont bondi d’environ 80 %, ce composant passant progressivement du simple rôle de stockage à celui de support actif pour les charges de travail exigeantes de l’IA.
Parallèlement aux eSSD, leurs contrôleurs de stockage reçoivent la même attention, et la société Pado devrait profiter de cette croissance fulgurante, tout comme Samsung et SK hynix. Le seul inconvénient, que les lecteurs connaissent probablement déjà, est que la demande croissante des hyperscalers pour le stockage entraînera une hausse massive des prix. Cela signifie que les SSD grand public, déjà devenus onéreux après la crise de la DRAM, deviendront inaccessibles pour le plus grand nombre.
