Cette nouvelle solution mémoire réduit le goulot d’étranglement des GPU pour l’IA, diminuant les coûts de déploiement en entreprise de plus de 50% avec de la DRAM et des SSD

Face à la demande croissante d’IA, la mémoire des GPU devient un facteur limitant. ADATA propose une solution innovante pour contourner ce problème, permettant d’utiliser les ressources système et les SSD pour déployer des modèles.

TRUSTA : Une réponse aux limitations de mémoire pour l’IA

La forte croissance des besoins en IA, notamment pour l’inférence et les workflows agentiques, met la pression sur les ressources matérielles. Les entreprises cherchent plus de mémoire sur les accélérateurs comme les GPU, tandis que la demande en mémoire système a aussi explosé. Pour répondre à ce défi, la marque TRUSTA, filiale d’ADATA, lance une nouvelle solution baptisée « AI scaler Extended Memory ». Cette approche vise à combiner toute la mémoire disponible dans un système, incluant les solutions de stockage comme les SSD, pour déployer des modèles simultanément et réduire les bottlenecks.

TRUSTA présente officiellement le TRUSTA AI Scaler Extended Memory Solution. Cette solution pionnière intègre l’AI Scaler Toolkit comme élément central, permettant d’étendre le déployement des modèles d’IA au-delà des architectures basées uniquement sur les GPU, vers la mémoire système et les SSD haute vitesse. Cette intégration logicielle-matérielle aide les entreprises à surmonter les limitations de mémoire des GPU et peut réduire les coûts de déployement de l’IA de plus de 50% pour les scénarios d’inférence et de fine-tuning de modèles.

Cette initiative symbolise aussi l’évolution d’ADATA d’une marque de mémoire et stockage vers un fournisseur de solutions intégrées logiciel-matériel, renforçant son engagement pour construire une infrastructure IA sur site plus efficace, scalable et flexible pour les entreprises mondiales.

Une nouvelle hiérarchie mémoire pour réduire les coûts de plus de 50%

Les projections indiquent une croissance annuelle composée de l’infrastructure IA d’environ 26% jusqu’en 2034, avec un déployement qui s’étend hors du cloud vers des installations sur site et edge. Pour établir des configurations mémoire plus économiques et scalables combinant GPU, DRAM et SSD, TRUSTA introduit un nouveau concept.

L’exécution de grands modèles de langage requiert souvent des GPU haut de gamme, créant des barrières de déployement élevées et une scalabilité limitée. La solution TRUSTA AI Scaler Extended Memory Storage Solution est conçue pour répondre à ce challenge. Comparée aux architectures reposant uniquement sur la mémoire des GPU, l’AI Scaler Toolkit étend le déployement des modèles à la mémoire GPU, la DRAM et les SSD, permettant une utilisation plus efficace des ressources système.

Dans des scénarios testés, l’inférence de modèle qui nécessite typiquement plusieurs GPU peut être optimisée pour fonctionner sur un seul GPU combiné à une mémoire système étendue. Pour le fine-tuning, la solution peut aussi allouer dynamiquement les ressources de calcul entre GPU, DRAM et SSD pour permettre un scaling plus flexible, réduisant les coûts de déployement de plus de 50% et aidant les entreprises à évaluer l’adoption de l’IA avec des budgets limités.

Une innovation récompensée à COMPUTEX, supportant les modèles mainstream

L’AI Scaler Toolkit est conçu comme une plateforme gratuite et open-source, non liée à des configurations matérielles spécifiques, permettant aux entreprises, institutions de recherche et développeurs de configurer les ressources selon leurs besoins. La plateforme supporte les familles de modèles mainstream, incluant Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi et Gemma, avec une compatibilité qui continue de s’étendre. Elle supporte aussi les applications d’agents IA comme OpenClaw, NemoClaw et Hermes Agentic, aidant les utilisateurs à intégrer AI Scaler dans des workflows Agentic IA plus complets.

L’AI Scaler Toolkit est maintenant disponible au téléchargement et à l’utilisation. TRUSTA présentera aussi son dernier SSD d’entreprise TD7P51 ECO PCIe Gen5 à COMPUTEX, offrant des capacités jusqu’à 15.36TB et supportant plusieurs facteurs de forme comme U.2, E1.S et E3.S. Le SSD intègre aussi des technologies comme le FDP (Flexible Data Placement), améliorant la fiabilité et la stabilité via un placement intelligent des données. Les produits TRUSTA ont aussi été validés sur plusieurs plateformes serveur leaders mondiales, renforçant le portefeuille de stockage d’entreprise pour les applications IA, cloud et data center.