AMD 3D V-Cache booste Ryzen pour le RAG AI, +88 % face aux CPU non-X3D

Les récents tests mettent en avant l’avantage net des Ryzen X3D d’AMD pour les charges IA orientées RAG. Grâce à une très grande mémoire cache empilée, ces puces réduisent la latence des recherches vectorielles et limitent les goulots d’étranglement côté GPU. Le benchmark open source X3D RAG confirme des gains marqués face aux modèles non X3D, y compris à nombre de cœurs équivalent.

Pourquoi les Ryzen X3D accélèrent le RAG local

Les CPU 3D V-Cache d’AMD offrent une nette accélération par rapport aux versions non X3D dans les benchmarks IA, démontrant leur adéquation avec les pipelines RAG.

Benchmarks IA des CPU AMD 3D V‑Cache vs non 3D V‑Cache: forte hausse pour les pipelines RAG

On distingue deux approches courantes pour l’IA générative. Les LLM sont des modèles préentraînés sur de vastes jeux de données, avec des tailles de paramètres variables. Ils montrent toutefois leurs limites dès qu’il faut répondre à des informations absentes de leur corpus d’apprentissage.

C’est là qu’intervient le RAG (Retrieval‑Augmented Generation). Les modèles RAG puisent des informations dans une base externe pour répondre à des requêtes hors corpus. Les réponses gagnent en précision, au prix d’une exécution parfois un peu plus lente que les LLM seuls.

Le RAG s’appuie fortement sur les recherches dans des bases vectorielles. Même si les GPU assurent l’essentiel du calcul IA via leur parallélisme, une large part des requêtes vectorielles reste traitée par le CPU. Quand le volume de requêtes augmente, le risque de saturation côté CPU grandit et peut devenir un goulot d’étranglement.

Avec la montée des charges de travail d’IA agentique, le traitement sur CPU devient aussi crucial que le calcul sur GPU. Des CPU plus performants seront nécessaires pour contenir la latence, à mesure que les workflows se recentrent sur la recherche.

Des CPU avec de grandes capacités de cache sont particulièrement pertinents ici. L’algorithme de recherche HNSW (Hierarchical Navigable Small World) s’exécute côté CPU lorsque le GPU prend en charge l’inférence LLM. Un cache plus vaste réduit le temps de récupération des graphes HNSW, ce qui améliore les performances IA.

Pour valider cette hypothèse, GiggleHD a exécuté le X3D RAG Benchmark sur plusieurs CPU, dont les Ryzen 9000X3D d’AMD. Les résultats parlent d’eux‑mêmes.

X3D RAG Benchmark: benchmark open source qui mesure l’impact du cache et de l’architecture CPU sur la recherche vectorielle basée sur graphes et les étapes associées dans des pipelines RAG locaux ou on‑prem. Conçu pour les CPU x86 (testé sur systèmes AMD et Intel).

La cible est un PC personnel ou une petite équipe, en configuration nœud unique, avec environ 100K à 200K vecteurs. Il ne vise pas à représenter des services de bases vectorielles distribuées à grande échelle.

Sur la recherche par lots 100K, les Ryzen 3D V‑Cache affichent jusqu’à 88% de mieux que les puces sans 3D V‑Cache. En batch 200K, le Ryzen 7 9850X3D dépasse de plus de 50% le Ryzen 7 9700X. Tous deux ont 8 cœurs. L’octocœur 3D V‑Cache devance même le Ryzen 9 9950X à 16 cœurs.

Sur la construction d’index 100K, les temps chutent de 50%, et de 39% en 200K. Le débit progresse aussi sur les puces 3D V‑Cache. Enfin, lors des tests de débit RAG concurrent, les Ryzen 3D V‑Cache à 8 cœurs s’en sortent très bien, tandis qu’en TTFT le différentiel entre CPU est plus réduit car cette étape dépend surtout du GPU et non du CPU.

Au final, les CPU avec de gros caches, en particulier les modèles AMD 3D V‑Cache, ne se limitent pas aux performances en jeux. Ils se montrent aussi très efficaces pour le RAG, avec d’excellentes aptitudes en recherche vectorielle, en construction d’index et en traitement concurrent.

AMD lancera aussi le Ryzen 9 9950X3D2 dans quelques jours, avec deux dies 3D V‑Cache. On peut s’attendre à des scores élevés, puisqu’il offrira la plus grande capacité de cache jamais vue sur un Ryzen de bureau.