AMD Instinct MI300X se positionne comme un grand concurrent d’IA pour NVIDIA
Les accélérateurs Instinct MI300X d’AMD semblent offrir des performances vraiment compétitives, même en termes d’efficacité.
AMD Instinct MI300X sera un grand concurrent de NVIDIA en intelligence artificielle
Selon les dernières informations, les accélérateurs Instinct MI300X vont causer des « maux de tête » à la concurrence en raison de leurs excellentes performances/efficacité.
La série Instinct MI300X a été lancée officiellement en décembre 2023 et suscite un grand intérêt de la part de l’industrie, en particulier de celle dédiée aux services d’intelligence artificielle.
> rocm-smi
like freshly baked bread, 8x MI300X is online
if you’re building on open LLMs and you’re blocked on compute, lmk. Everyone should have access to this wizard technology called LLMs.
that is to say, the next batch of @LaminiAI LLM pods are here. pic.twitter.com/NjRAYjxehp
— Sharon Zhou (@realSharonZhou) January 19, 2024
Selon des tests de performance réalisés par AMD, Instinct MI300X avec l’architecture CDNA 3 surpasse les performances de ses concurrents, ce qui bénéficiera à AMD pour se positionner solidement face à des concurrents tels que NVIDIA.
Les Instinct MI300X combineront des nœuds de 5 nm et 6 nm avec un total de 153 milliards de transistors. Par rapport au MI250X, AMD a augmenté la capacité de la mémoire HBM3 de 50%.
Selon les spécifications publiées par AMD, Instinct MI300X présente les caractéristiques suivantes.
- Capacité de mémoire 2,4 fois supérieure
- Bande passante mémoire 1,6 fois supérieure
- 1,3x TFLOPS du FP8
- 1,3x TFLOPS FP16
- Jusqu’à 20 % plus rapide que le H100 (Llama 2 70B) dans une comparaison 1 contre 1
- Jusqu’à 20 % plus rapide que le H100 (FlashAttention 2) dans une comparaison 1 contre 1
- Jusqu’à 40 % plus rapide que le H100 (Llama 2 70B) en serveur 8v8
- Jusqu’à 60 % plus rapide que le H100 (Bloom 176B) en serveur 8v8
Selon le média Taiwan Economic Daily, ces accélérateurs Instinct ont déjà été expédiés à des clients, dont des entreprises telles que LaminiAI.
Apparemment, AMD a réussi à se positionner favorablement grâce à un bon stock de ce type d’accélératrices, contrairement à NVIDIA qui rencontre des problèmes d’expédition pour satisfaire tous ses clients.
AMD estime que le segment de l’IA a le potentiel de croître jusqu’à atteindre un chiffre de 400 milliards de dollars de revenus d’ici 2027.
