AMD rend possible les modèles AI GPT-OSS 20B & 120B sur Ryzen et Radeon : Ryzen AI MAX+ 395, seul chip à 120B avec 128 Go de mémoire

Avec le lancement des modèles d’IA GPT-OSS 20B et 120B par OpenAI, AMD annonce que ses processeurs Ryzen AI MAX et ses GPU Radeon prennent en charge ces nouveautés avec des performances améliorées.

Le Processeur AMD Ryzen AI MAX+ 395 : Capable d’Exécuter le Modèle GPT-OSS 120B Nativement, avec Support des GPU Radeon

Aujourd’hui, OpenAI a dévoilé les modèles AI GPT-OSS 20B et 120B, nouvelles versions ouvertes de GPT-2. AMD a révélé que ses processeurs Ryzen AI et les GPU Radeon offrent un support immédiat pour ces modèles, disponibles via LM Studio.

Mais qu’est-ce que GPT-OSS ? Ce sont des modèles ouverts conçus pour résoudre des problèmes complexes avec une capacité agentique. La majorité des PC et puces AI peuvent traiter le modèle 20B, cependant, le modèle 120B nécessite plus de ressources. C’est là qu’interviennent les puces Strix Halo et Ryzen AI MAX d’AMD, avec une mémoire maximale de 128 Go, idéales pour ces modèles.

Les poids convertis MXFP4 en GGML nécessitent environ 61 Go de VRAM et s’intègrent sans effort dans les 96 Go de mémoire graphique dédiée du processeur AMD Ryzen AI MAX+ 395. Notez qu’une version de pilote égale ou supérieure à AMD Software : Adrenalin Edition 25.8.1 WHQL est requise pour activer cette fonctionnalité.

Avec des vitesses atteignant jusqu’à 30 tokens par seconde, les clients d’AMD bénéficient d’un modèle de classe datacenter, dont les performances restent très utilisables grâce à la bande passante de la plateforme Ryzen AI MAX+ et l’architecture mélange d’experts du modèle OpenAI GPT-OSS 120B. La grande mémoire du Ryzen AI MAX+ 395 (128 Go) prend également en charge les implémentations du Modèle Context Protocol (MCP) avec ce modèle. Les utilisateurs avec les processeurs AMD Ryzen AI 300 peuvent aussi pleinement profiter du modèle 20B d’OpenAI.

Pour une performance ultra-rapide avec le modèle OpenAI GPT-OSS 20B, les utilisateurs peuvent opter pour la carte graphique AMD Radeon 9070 XT 16 Go dans un système de bureau. Certes, cette configuration offre des vitesses de traitement impressionnantes, tout en ayant un avantage considérable en termes de temps de transfert de données (TTFT). Cela indique que les utilisateurs utilisant des implémentations MCP pour les modèles 20B connaîtront des performances très réactives en situations typiquement engageantes en calcul.

Utilisez les Modèles GPT-OSS 120B et 20B sur Processeurs AMD Ryzen AI et Cartes Graphiques Radeon

1. Téléchargez et installez AMD Software : Adrenalin Edition 25.8.1 WHQL ou version supérieure. Notez que les performances peuvent être dégradées ou absentes avec des pilotes plus anciens.
2. Sur une machine équipée d’AMD Ryzen AI, faites un clic droit sur Desktop > AMD Software : Adrenalin Edition > Performance Tab > Tuning Tab > Variable Graphics Memory > réglez VGM selon le tableau des caractéristiques ci-dessous. Si vous êtes sur une carte graphique AMD Radeon, passez cette étape.
3. Téléchargez et installez LM Studio.
4. Ignorez l’onboarding.
5. Allez dans l’onglet découverte (loupe).
6. Recherchez « gpt-oss ». Vous devriez voir une option avec le préfixe « LM Studio community » à gauche. Sélectionnez le variant 20B ou 120B (selon votre produit dans le tableau ci-dessous). Cliquez sur télécharger.
7. Allez dans l’onglet chat.
8. Cliquez sur le menu déroulant en haut et sélectionnez le modèle OpenAI. Assurez-vous de cocher “Charger les paramètres manuellement”.
9. Déplacez le curseur « GPU Offload » au MAX. Cochez les paramètres de mémorisation.
10. Cliquez sur charger. Si vous utilisez le modèle 120B, cela peut prendre un certain temps et la barre de chargement peut sembler bloquée (les vitesses de lecture des SSD chutent après une poussée, et il s’agit d’un modèle volumineux).
11. Commencez à utiliser le modèle !

AMD a également fourni une liste de support pour les modèles GPT-OSS d’OpenAI. Le Ryzen AI MAX+ 395 est le seul chip capable de traiter le modèle 120B, tandis que ses autres GPU, tels que la Radeon RX 9000, Radeon AI PRO R9000 et Radeon RX 7000 avec au moins 16 Go de mémoire, peuvent gérer les modèles GPT-OSS 20B sans difficultés.