La demande de GPU pour ChatGPT devrait dépasser les 30 000, aidant l’essor de l’IA NVIDIA
La demande croissante de ChatGPT pour les GPU va profiter directement à NVIDIA qui est l’un des plus grands acteurs du marché de l’IA, rapporte Trendforce.
La demande de ChatGPT pour les GPU AI augmente, le nouveau modèle nécessitera plus de 30 000 GPU NVIDIA
Les estimations précédentes avaient estimé le nombre de GPU alimentant le modèle GPT autour de 10-20K, mais avec le nouveau modèle, OpenAI devrait utiliser bien plus que cela. Selon le rapport, 30 000 est le nombre attendu pour le dernier modèle qui alimentera ChatGPT, mais il semble que nous pourrions voir encore plus de demande.
Dans le cas du Generative Pre-Trained Transformer (GPT) qui sous-tend ChatGPT, le nombre de paramètres de formation utilisés dans le développement de ce modèle de langage autorégressif est passé d’environ 120 millions en 2018 à près de 180 milliards en 2020. Selon l’estimation de TrendForce, le nombre de GPU dont le modèle GPT avait besoin pour traiter les données d’entraînement en 2020 s’élevait à environ 20 000. À l’avenir, le nombre de GPU qui seront nécessaires pour la commercialisation du modèle GPT (ou ChatGPT) devrait atteindre plus de 30 000.
Notez que ces estimations utilisent l’A100 de NVIDIA comme base de calcul. Par conséquent, l’IA générative devenant une tendance, la demande devrait augmenter de manière significative pour les GPU et profiter ainsi aux participants de la chaîne d’approvisionnement associée. NVIDIA, par exemple, tirera probablement le meilleur parti du développement de l’IA générative. Son DGX A100, qui est un système universel pour les charges de travail liées à l’IA, fournit 5 pétaFLOPS et est presque devenu le premier choix pour l’analyse du Big Data et l’accélération de l’IA.
via Trendforce
La société de recherche note que la demande de GPU AI devrait dépasser les 30 000 et que l’estimation utilise le GPU A100 qui est l’une des puces AI les plus rapides avec jusqu’à 5 pétaflops de performances AI. Ce nombre peut augmenter ou diminuer en fonction des puces utilisées, mais cela va mettre beaucoup de pression sur NVIDIA pour savoir s’il souhaite déplacer son offre vers des GPU AI ou des GPU de jeu.
Le PDG de NVIDIA, Jensen Huang, a fait l’éloge de l’outil ChatGPT d’OpenAI à plusieurs reprises, que ce soit lors d’entretiens ou lors de leur appel sur les revenus financiers. La société a fait de nombreux progrès dans le segment de l’IA avec l’introduction la plus récente de la super résolution vidéo RTX qui utilise les prouesses de l’IA de ses GPU grand public pour améliorer la qualité de la vidéo et du streaming sur plusieurs applications. Les cœurs de tenseur AI de la société sont utilisés par les développeurs de jeux et les maisons de production sous la forme du DLSS 3 pour un meilleur débit de performances tout en conservant la fidélité visuelle.
La montée en puissance de ChatGPT va certainement être une bénédiction déguisée pour NVIDIA, car la demande de hardware PC s’effondre en raison de la hausse de l’inflation à travers le monde. Dans le même temps, la demande de plus de puissance d’IA dans des instances telles que ChatGPT peut compenser les différences de revenus. L’industrie prévoit que NVIDIA peut voir la demande dépasser l’offre globale au cours des prochains trimestres.
Ci-dessous, la vidéo d’un de nos confrères hardware de la semaine :
Ci-dessous, nos guides d'optimisations dont : Optimiser Windows 11 pour les jeux - Optimiser Windows 10 pour les jeux - Comment réduire latence - Stock PS5
