NVIDIA ConnectX-8 : SuperNIC pour systèmes Blackwell avec PCIe G6 et 800GbE
NVIDIA a détaillé son ConnectX-8, un NIC de nouvelle génération pour les systèmes Blackwell, qu’il qualifie de SuperNIC en raison de ses avancées technologiques.
Le SuperNIC ConnectX-8 d’NVIDIA : Conçu pour les systèmes Blackwell et offrant des vitesses allant jusqu’à 800G
Selon NVIDIA, l’entraînement et l’inférence de l’IA sont deux charges de travail distinctes nécessitant une politique réseau flexible de bout en bout. L’inférence est une charge désagrégée et partitionnée, tandis que l’entraînement est synchronisé et prolongé.
Le NIC ConnectX-8, comme mentionné, est soutenu par Spectrum-X Ethernet et Quantum-X Infiniband.
Voici quelques points forts de ce NIC :
- Technologie RDMA déployée sur des millions de GPU
- 800G pipeline hardware RDMA, conçu pour l’IA
- Équilibrage de charge intégré, contrôle de congestion
- Programmabilité approfondie pour l’IA et la polyvalence des centres de données
- Intégration étroite avec l’architecture système
- Sécurité de classe entreprise
En termes de caractéristiques, le ConnectX-8 est compatible avec Verbs, NCCL, NIXL, DOCA APIs et dispose d’une interface Ethernet Spectrum-X intégrée jusqu’à 800 Gb/s.
NVIDIA indique que le RDMA du ConnectX-8 offre une scalabilité illimitée à 800G avec différentes tailles de messages.
Le NIC est d’abord déployé dans les tout nouveaux systèmes NVIDIA Blackwell GB300 NVL72, basés sur le GPU Blackwell Ultra.
Chaque interrupteur PCIe CX8 a des pistes Gen6 x16 pour le GPU Blackwell Ultra et x16 pour le CPU Grace.
NVIDIA montre également comment le ConnectX-8 évolue avec 64 GPUs.
Pour maintenir le réseau efficace, le ConnectX-8 comprend un Accélérateur de chemin de données, un processeur événementiel RISC-V.
En examinant certaines figures de performance de Spectrum-X partagées par NVIDIA, ils ont :
- 1,6x plus de bande passante effective
- 1,3x plus de bande passante collective
- 2,2x plus de bande passante all-reduce
- 1,3x plus de bande passante all-to-all
- 1000x plus rapide pour la collecte de télémétrie
Spectrum-X et le ConnectX-8 SuperNIC apportent 800G à la table, avec un support PCIe Gen6. La société prévoit de fournir plus de détails dans les mois à venir.
