AMD Lance ROCm 7 avec de Nouvelles Capacités pour l’Intelligence Artificielle et le Développement
AMD a récemment présenté sa nouvelle version de technologies de logiciels open stack, ROCm 7, qui vise à améliorer la productivité des développeurs et l’optimisation des performances d’IA.
Présentation de ROCm 7 : Innovations Logicielles Axées sur l’IA
Avec ROCm 7, AMD fait un pas en avant par rapport à son précédent logiciel, ROCm 6, qui a connu plusieurs mises à jour ces dernières années. Voici quelques caractéristiques essentielles sur lesquelles AMD se concentre avec cette nouvelle version :
- Algorithmes et modèles récents
- Fonctionnalités avancées pour l’évolutivité de l’IA
- Support de la série MI350
- Gestion de clusters
- Capacités pour les entreprises
AMD se concentre sur les capacités d’inférence croissantes présentes dans son logiciel. Le nouveau stack inclut des frameworks améliorés tels que vLLM v1, llm-d, SGLang, tout en servant plusieurs optimisations comme l’inférence distribuée et la désagrégation. De nouveaux algorithmes à venir incluent l’auto-réglage GEMM et l’authoring de Core Python.
En matière de support de la série MI350, ROCm 7 prend en charge les types de données avancés tels que FP8, FP6 et FP4, garantissant ainsi que les utilisateurs profitent des dernières innovations. La performance des inférences est particulièrement améliorée, avec des gains allant jusqu’à 3,5 fois dans les charges de travail d’IA.
Les performances d’inférence se révèlent impressionnantes, avec des augmentations jusqu’à 3,2 fois pour Llama 3.1 70B et 3,4 fois pour Qwen2-72B par rapport à la version précédente. Les utilisateurs bénéficieront de performances supérieures, notamment dans les applications comme Deep Seek R1 où ROCm 7 sur l’Instinct MI355X atteint un débit 30 % plus rapide que la plateforme NVIDIA Blackwell B200 avec CUDA.
En matière de formation, ROCm 7 continue d’offrir des améliorations significatives avec un gain de 3 fois pour Llama 2 70B et d’autres modèles. Ces avancées renforcent son positionnement sur le marché.
Ce nouveau logiciel s’étendra également à l’IA d’entreprise, intégrant des solutions de bout en bout sécurisées et simplifiant le déploiement. Le stack fonctionnerait en harmonie avec les GPU, CPU et DPU, prenant en charge divers types de charge de travail, notamment ceux liés à la génération d’IA.
Enfin, AMD prévoit de rendre le support de ROCm accessible sur les ordinateurs portables et stations de travail basés sur Ryzen d’ici la fin de l’année, avec un support Linux intégré et complet sous Windows dans la seconde moitié de l’année.
