NVIDIA : L’avenir de l’IA avec la photonicité et l’empilement 3D GPU/DRAM
NVIDIA a récemment dévoilé sa vision pour les futurs accélérateurs IA, lors de la conférence IEDM 2024, en présentant une solution innovante de photonique sur silicium. Cette approche vise à répondre aux exigences croissantes en matière de calcul AI.
Une Nouvelle Approche avec la Photonique sur Silicium
Alors que les techniques de packaging modernes atteignent une phase test, l’industrie ressent un besoin pressant d’innovation. Le recours à la photonique sur silicium (SiPh) se profile comme une alternative pertinente face aux méthodes traditionnelles. Au cours de l’événement IEDM 2024, NVIDIA a partagé une stratégie unique mettant en avant l’utilisation d’interposeurs SiPh et la superposition verticale des tuiles GPU pour des produits de calcul massive.
Here’s @NVIDIA‘s vision of the future of AI compute.
Silicon photonics interposer
SiPh intrachip and interchip
12 SiPh connects, 3 per GPU tile
4 GPU tiles per tier
GPU ‘tiers’ (GPU on GPU?!?)
3D Stacked DRAM, 6 per tile, fine-grainedFrom #iedm24. My guess, 2028/2029/2030… pic.twitter.com/5IsDkYSWT2
— 𝐷𝑟. 𝐼𝑎𝑛 𝐶𝑢𝑡𝑟𝑒𝑠𝑠 (@IanCutress) Décembre 8, 2024
L’intégration des interposeurs photoniques sur silicium en remplacement des connexions électriques traditionnelles présente divers avantages. Cette technologie pourrait offrir une bande passante plus élevée et une latence réduite, tout en étant plus économe en énergie. NVIDIA prévoit d’ailleurs d’utiliser 12 interposeurs SiPh pour une communication intrachip et interchip, améliorant ainsi le flux de données entre les tuiles GPU, renforçant ainsi la scalabilité et la performance.
La technique de superposition GPU constitue un point central de l’approche de NVIDIA. La compagnie a annoncé l’utilisation de la superposition 3D, empilant verticalement plusieurs tuiles GPU pour augmenter la densité des puces et réduire leur empreinte. Cette configuration, désignée « tiers GPU », comprend quatre tuiles GPU empilées, ce qui pourrait minimiser la latence des interconnexions.
Bien que cette approche semble prometteuse, plusieurs défis demeurent, notamment le caractère encore naïf de la technologie SiPh à ce stade. Avant une intégration généralisée, NVIDIA devra se tourner vers une production de SiPh à grande échelle, un processus qui pourrait prendre du temps. Par ailleurs, l’augmentation aggressive de la superposition pourrait engendrer des problèmes thermiques, incitant NVIDIA à envisager un système de refroidissement intra-puce qui reste à développer.
L’analyste Ian Cutress estime que cette implémentation pourrait voir le jour d’ici les cinq prochaines années, probablement entre 2028 et 2030, en tenant compte des complexités inhérentes à cette technologie.
