Groq, racheté par NVIDIA, migre ses futurs LPU du SRAM vers la DRAM 3D

Groq, la société récemment rachetée par NVIDIA, travaille sur une nouvelle génération de puces mémoire. Selon des rumeurs, l’entreprise prévoirait d’utiliser une technologie de DRAM empilée en 3D, marquant un virage stratégique vers la capacité pure.

Groq mise sur la DRAM empilée en 3D pour ses futures puces

Après le lancement de ses racks LPX intégrés à l’écosystème Vera Rubin de NVIDIA pour l’inférence IA, Groq prépare déjà la suite. La société vise désormais à intégrer de la DRAM, et non plus de la SRAM, dans ses prochains composants, en utilisant une technique d’empilement tridimensionnel.

Actuellement, les LPU Groq embarquent 500 Mo de SRAM, offrant un débit phénoménal de 150 To/s. Leur objectif avec la DRAM est différent : privilégier une capacité bien plus importante, quitte à sacrifier un peu de vitesse. Un informateur de l’industrie des semi-conducteurs a confirmé cette orientation.

Groq prévoit d’introduire l’empilement 3D dans sa prochaine génération de puces, en superposant de la DRAM plutôt que de la SRAM existante. Le secteur interprète cette décision comme une volonté d’augmenter massivement la capacité des puces. La SRAM est rapide mais limitée en capacité, tandis que la DRAM, plus lente, permet d’atteindre de grandes tailles.

via ZDNet Korea

Cette approche d’empilement 3D, similaire à celle utilisée pour la mémoire HBM, consiste à superposer plusieurs couches de DRAM verticalement, reliées par des TSV. Cette technique réduit l’encombrement et améliore l’efficacité énergétique par rapport aux modules DRAM classiques.

La priorité de Groq pour cette nouvelle génération semble claire : maximiser la capacité mémoire tout en conservant une partie des performances en bande passante de ses puces SRAM. Face à la croissance constante des modèles d’IA, cette technologie pourrait trouver un écho favorable chez NVIDIA, qui utilise déjà les solutions Groq dans ses infrastructures dédiées à l’intelligence artificielle. L’entreprise pourrait même proposer des versions distinctes avec DRAM et SRAM, laissant le choix aux clients en fonction de leurs besoins spécifiques.