AMD MEXT : la mémoire Flash compense une baisse de 50% du DDR5 en gardant des performances similaires

AMD présente MEXT, une solution logicielle de mémoire qui associe DRAM et Flash pour réduire les coûts et alléger la pression pesant sur les serveurs EPYC. L’approche utilise l’IA pour masquer la latence du Flash, tout en conservant les données chaudes dans le DRAM. L’objectif est de fournir plus de capacité disponible dans les data centers sans modifier le matériel.

AMD MEXT veut soulager la crise du DRAM avec une solution Flash

Le cycle de la mémoire s’emballe et l’équilibre offre/demande continue de se dégrader. Le DRAM représente 75 % du coût total d’un serveur, tandis que les fabricants subissent des pénuries sans échéance visible.

Même si le prix du DRAM a fortement chuté, de près de 50 M€ par Go dans les années 1970 à environ 8 € par Go dans les années 2010, un progrès de 6 000 000x lié à la loi de Moore, les tarifs sont repartis à la hausse et dépassent désormais 10 € par Go.

Le problème est encore plus vaste : l’IA et les data centers absorbent une grande partie des fournitures de DRAM, mais une majorité de cette mémoire reste gaspillée. AMD cite les cas de Microsoft Azure et de Meta, confrontés à un surdimensionnement de 50 % du DRAM, la moitié de la mémoire n’étant jamais utilisée par la machine virtuelle. Il faut y ajouter 25 % de DRAM bloqué dans ces instances, et 50 à 80 % de mémoire totale sous-utilisée car les pages finissent par rester froides.

Ce taux de sous-utilisation a poussé AMD à chercher une réponse autour du DRAM et du Flash. La solution vise à supprimer le surdimensionnement et les blocages mémoire, sans modification matérielle ni logicielle. AMD souhaite intégrer le Flash au domaine de la mémoire, car il coûte 50 % moins cher à l’achat et consomme 30 fois moins d’énergie que le DRAM. Seul obstacle : le Flash reste 500 fois plus lent que le DRAM.

Créée en 2022, AMD MEXT est aujourd’hui présentée comme une couche logicielle mémoire utilisant l’IA pour compenser la latence du Flash. Les pages froides sont déchargées vers le stockage Flash, tandis que des algorithmes anticipent les pages prochainement nécessaires et les rapatrient dans le DRAM. Le principe est simple : rendre le Flash aussi utilisable que le DRAM.

AMD MEXT s’appuie sur trois briques :

• Driver Linux : module noyau léger et peu coûteux en ressources, compatible avec n’importe quel système Linux
• AI Engine : ensemble de modèles d’IA, incluant des LLM basés sur une architecture de transformer
• RAM View : plateforme d’observabilité qui montre la charge mémoire en temps réel

Le moteur IA Double-Click fonctionne un peu comme un grand modèle de langage, mais pour les pages mémoire. Il embarque un algorithme d’amélioration continue, léger, entraîné en temps réel et capable de se former en moins d’une seconde. Il s’exécute sur un seul cœur EPYC et ne nécessite aucun GPU.

Avec MEXT, AMD poursuit deux buts. Le premier consiste à réduire la quantité de DRAM nécessaire, donc le budget mémoire d’un data center. Une mémoire DRAM physique associée à MEXT Flash peut abaisser l’usage du DRAM de 20 à 75 % et conserver des performances similaires, même lorsque le stockage Flash est utilisé comme mémoire système.

Le second est d’augmenter la capacité mémoire des data centers. Avec MEXT, le DRAM physique peut tripler la capacité disponible, à un coût bien inférieur à l’ajout de DRAM classique.

Les cas d’usage sont nombreux : IA agentique, conception EDA, bases de données et analytique, média et divertissement. Les déploiements possibles couvrent un data center sur site, le cloud ou des configurations mixtes avec des machines virtuelles et des conteneurs.

Dans l’IA agentique, une combinaison à 50 % de DRAM et 50 % de MEXT Flash apporte un gain de 90 % de performance par euro dans un flux à cinq agents, et 70 % pour des agents très gourmands en mémoire. Une répartition 25 % DRAM et 75 % MEXT permet un gain de 3,4x sur la même tâche de concurrence à cinq agents, tandis qu’un agent gourmand atteint 3,5x de performance par euro.

En conception EDA, Synopsys PrimeTime sur des CPU EPYC de 6e génération conserve jusqu’à 95 % des performances avec une réduction de 50 % du DRAM grâce à MEXT, pour un rapport performance/euro de 1,9x. Une baisse de 75 % du DRAM conserve encore 80 % des performances et offre 3,2x de performance par euro face à une configuration tout DRAM.

Sur des machines virtuelles Azure utilisant Spark TPC-DS et des CPU EPYC de 5e génération, MEXT maintient jusqu’à 99 % des performances sur un cluster à trois nœuds avec une répartition 50 % DRAM / 50 % MEXT contre une base entièrement DRAM.

Côté disponibilité, AMD indique que MEXT entre en phase 1. La solution est déjà prête à être déployée sur des CPU AMD EPYC dotés de nombreux cœurs et sur des serveurs équipés de disques ou de baies NVMe dédiés. Lors de la phase 2, une licence sera proposée, avec RAM View préinstallé.

AMD vise 83 % d’économies par rapport à une alternative tout DRAM, avec 4,9 M€ de coûts mémoire évités lors de déploiements initiaux de 145 serveurs, appelés à atteindre 2 000 serveurs en 2027.

AMD laisse aussi entendre que MEXT pourrait dépasser les data centers et gagner des segments clients. Son usage par des systèmes grand public reste à confirmer, mais il offre une première indication sur la façon dont la mémoire pourrait être gérée en cas de tension sur les approvisionnements.

AMD MEXT propose une voie logicielle concrète pour réduire le goulot d’étranglement mémoire en mariant le DRAM conventionnel et le Flash, beaucoup moins coûteux. Grâce à une IA légère, les données chaudes restent en DRAM pendant que les pages froides sont déchargées en silence, ce qui réduit les dépenses, étire la capacité et maintient les performances sur les charges d’IA, de conception et d’analytique, sans modification du matériel.

Au-delà des premiers déploiements sur EPYC, cette méthode pourrait modifier la manière dont les data centers, puis d’autres systèmes, organisent la mémoire face aux tensions persistantes sur les approvisionnements.