Raja Koduri rejoint le conseil consultatif de SanDisk pour livrer des mémoires flash 8X-16X pour AI GPUs
Le nouveau rôle de Raja consistera à orienter SanDisk dans le développement de la mémoire HBF ou High Bandwidth Flash pour les GPU dédiés à l’IA, puisque la mémoire HBM classique présente des limites en termes de capacité.
Raja Koduri Rejoint le Comité Consultatif des Mémoires HBF chez SanDisk pour Atteindre une Capacité Mémoire Jusqu’à 4 To sur les GPU IA
Raja Koduri, après avoir pris sa retraite d’Intel en tant qu’Architecte en Chef de la division Graphique, se consacre à augmenter la capacité de VRAM sur les GPU destinés à l’IA. Il a récemment annoncé son entrée dans le Comité Consultatif Technique de SanDisk, un constructeur reconnu de dispositifs de stockage, pour travailler sur la mémoire HBF afin de répondre aux besoins élevés de capacité des GPU IA.
Excited to partner with Sandisk.
When we began HBM development our focus was improving bandwidth/watt and bandwidth/mm^2 (both important constraints for mobile), while maintaining competitive capacity with the incumbent solutions. With HBF the focus is to increase memory…
— Raja Koduri (@RajaXg) July 24, 2025
La collaboration de Raja avec SanDisk représente un tournant majeur grâce à son expertise en conception de GPU. Son expérience dans le domaine des architectures de calcul s’aligne parfaitement avec l’objectif de SanDisk de développer la mémoire HBF et d’éliminer les contraintes dont souffre la HBM.
Lorsque ils ont commencé le développement de la HBM, ce objectif était d’améliorer le rapport bande passante/watt et bande passante/mm² (deux contraintes importantes pour les appareils mobiles) tout en maintenant une capacité compétitive. Avec la HBF, l’accent est mis sur l’augmentation significative de la capacité mémoire tout en conservant une bande passante compétitive.
– Raja Koduri
Bien que la HBM ait rapidement progressé en offrant des capacités mémoire élevées pour les superpuces IA, la HBF est conçue pour augmenter considérablement ces capacités en utilisant la technologie Through-Silicon Vias. Un stack HBF peut atteindre plusieurs téraoctets, et l’intégration de huit stacks permet aux GPU IA d’atteindre jusqu’à 4 To de VRAM tout en maintenant la bande passante élevée de la HBM.
Il est essentiel de préciser que la HBF de SanDisk ne vise pas à concurrencer la DRAM dans des tâches sensibles à la latence. Les opérations IA, telles que l’inférence et le développement de modèles à grande échelle, nécessitent une capacité mémoire plus importante pour fournir des résultats rapides. Une plus grande capacité et bande passante sont prioritaires face aux exigences de latence dans ces scénarios.
SanDisk s’efforce de positionner la HBF comme un écosystème à norme ouverte, favorisant son adoption par l’industrie. Le large réseau et l’expérience de Raja dans la création d’écosystèmes joueront un rôle clé dans l’établissement de partenariats avec les fournisseurs de GPU.
La HBF est prête à transformer l’IA en périphérie en dotant les dispositifs de capacités mémoire et de bande passante permettant le fonctionnement de modèles sophistiqués localement en temps réel.
– Raja Koduri
