SoftBank pense que les GPUs d’AMD seront plus utiles pour l’IA avec une stratégie ‘Divide and Conquer’
La dernière initiative de SoftBank vise à rendre la puce AMD Instinct beaucoup plus performante pour les tâches d’IA grâce à un mécanisme de « partitionnement GPU » prometteur.
SoftBank déploie un orchestrateur conçu en interne pour les GPU AMD Instinct
Récemment, AMD n’a pas été le choix privilégié pour les hyperscalers, la lumière étant plutôt braquée sur NVIDIA, surtout après le lancement de la série Blackwell. Parmi les clients d’AMD, SoftBank apparaît fréquemment ; leur division technologique a récemment introduit un système intéressant. Selon un post de blog de SoftBank, un orchestrateur a été associé aux puces AMD Instinct, permettant de distribuer les ressources de calcul en fonction de l’intensité et de la disponibilité de la charge de travail.
En collaboration avec AMD, SoftBank a développé une fonctionnalité améliorée d’orchestrateur qui exploite les capacités de partitionnement des GPU Instinct™. Cela permet à un seul GPU d’être utilisé comme plusieurs appareils logiques, favorisant une allocation optimale des ressources GPU selon les besoins de l’application d’IA.
– SoftBank
Sur le plan technique, l’orchestrateur de SoftBank se concentre sur la distribution de ressources de calcul au sein des GPU AMD Instinct. Il segmente les charges de travail selon plusieurs instances de GPU fonctionnant sur des Accelerator Complex Dies (XCD). On peut avoir une instance (mode SPX) ou jusqu’à huit (mode CPX), offrant ainsi un niveau de granularité accru. Au-delà de la division XCD, l’orchestrateur utilise également les capacités mémoires d’AMD, en les divisant en régions HBM individuelles pour chaque instance de GPU.
Avec cet orchestrateur, SoftBank vise un contrôle plus précis des ressources de calcul tout en assurant une isolation stricte au niveau hardware, visant à éviter les pics de latence imprévisibles. Bien que la société n’ait pas publié de chiffres de performance, elle évoque une « allocation de ressources optimale », particulièrement efficace pour les charges de travail SLM et MLM. À l’avenir, SoftBank envisage d’utiliser de tels orchestrateurs pour d’autres accélérateurs d’IA, mais pour l’instant, l’application reste limitée aux GPU AMD.
