NVIDIA Blackwell Ultra améliore les performances d’“Agentic AI” avec jusqu’à 50× plus de Tokens/Watt
NVIDIA présente sa solution Blackwell Ultra, conçue pour les hyperscalers, avec des résultats impressionnants du GB300 NVL72 en matière de latence et de charge de travail contextuelle.
NVIDIA Blackwell Ultra : performances d’agentic de haut niveau grâce aux avancées de NVLink
Le secteur de l’IA a connu une évolution significative depuis son essor en 2022, marquée par un virage vers l’informatique agentique. Pour des fournisseurs tels que NVIDIA, garantir une bande passante mémoire suffisante est crucial pour satisfaire les exigences de latence. Les tests sur Blackwell Ultra, réalisés avec InferenceMAX de SemiAnalysis, mettent en lumière un potentiel formidable.
NVIDIA met l’accent sur le « token/watt », un indicateur clé dans le développement des hyperscalers. Avec le GB300 NVL72, la marque revendique une augmentation de 50x du débit par mégawatt par rapport aux GPU Hopper. Cette avancée résulte de l’optimisation des performances brutes et du passage à une architecture NVLink à 72 GPU, offrant une connectivité de 130 To/s.
La technologie NVLink, intégrée au Blackwell Ultra, permet d’atteindre d’excellentes performances. En comparaison, l’architecture Hopper ne dispose que d’un design à 8 puces. Grâce à l’architecture optimisée et au format de précision NVFP4, le GB300 surpasse la concurrence.
Les tests du GB300 montrent une réduction de 35x des coûts par million de tokens, le rendant idéal pour les laboratoires de pointe et les hyperscalers. L’évolution des lois de mise à l’échelle est rapide, renforcée par la structure de « co-design » extrême de NVIDIA et la fameuse loi de Huang.
NVIDIA compare également le GB200 et le GB300 (NVL72) pour les charges de travail à long contexte, soulignant que le coût par token est 1.5x inférieur avec une attention deux fois plus rapide. Cela fait du Blackwell Ultra une solution adaptée aux exigences des systèmes agentiques.
Avec l’intégration des hyperscalers en cours, ces premiers benchmarks montrent que NVIDIA parvient à maintenir la mise à l’échelle des performances. La nouvelle génération Blackwell, avec Vera Rubin, promet des performances encore meilleures, consolidant ainsi la position de NVIDIA sur le marché.
