La folie de l’IA en Chine crée des centres de données vides et des loyers de GPU en chute

Après l’essor initial de l’IA en Chine, le marché fait face à une réalité difficile avec une surabondance de centres de données sous-utilisés et des changements économiques. Les acteurs, autrefois enthousiastes, doivent désormais naviguer dans un paysage complexe où les attentes et les besoins évoluent.

À la suite du lancement marquant de ChatGPT fin 2022, l’industrie de l’IA en Chine a connu un essor d’excitation et d’investissements. Cependant, cet enthousiasme initial a laissé place à une réalité difficile alors que le pays doit composer avec une surabondance de centres de données sous-utilisés et des dynamiques de marché changeantes.

Xiao Li, un ancien entrepreneur dans le secteur de l’immobilier qui s’est tourné vers l’infrastructure de l’IA en 2023, a constaté cette transformation de près à travers la demande fluctuante pour les GPU NVIDIA. Il y a un an, les commerçants de son réseau se vantaient d’acquérir des GPU NVIDIA haute performance malgré les restrictions d’exportation américaines. Beaucoup de ces puces étaient détournées illégalement vers Shenzhen via des canaux internationaux. Au sommet du marché, un NVIDIA H100 – essentiel pour l’entraînement des modèles d’IA – pouvait se vendre jusqu’à 200 000 yuan (28 000€) sur le marché noir.

Aujourd’hui, Li a remarqué que les commerçants sont devenus plus dédiés et que les prix des GPU se sont stabilisés. De plus, deux projets de centres de données qu’il connaît peinent à attirer de nouveaux investissements alors que les leakers anticipent des rendements faibles. Cette pression financière a contraint les dirigeants de projet à écouler les GPU excédentaires. « Tout le monde semble vendre, mais il n’y a pas beaucoup d’acheteurs, » a-t-il déclaré à MIT Technology Test.

En résumé, la location de GPU aux entreprises pour l’entraînement de modèles d’IA – une stratégie clé pour la dernière génération de centres de données – était autrefois considérée comme un succès garanti. Cependant, l’émergence de DeepSeek et des facteurs économiques changeants dans le secteur de l’IA ont mis l’industrie des centres de données du pays sur un terrain instable.

La construction rapide de centres de données à travers la Chine, de la Mongolie intérieure au Guangdong, a été alimentée par une combinaison de directives gouvernementales et d’investissements privés. Plus de 500 nouveaux projets ont été annoncés en 2023 et 2024, avec au moins 150 achevés d’ici la fin 2024. Cependant, ce boom de construction a conduit à une situation paradoxale : une abondance de puissance de calcul, notamment dans le centre et l’ouest de la Chine, associée à une pénurie de puces répondant aux besoins actuels d’inférence et de réalité réglementaire.

L’émergence de DeepSeek, une entreprise qui a développé un modèle de raisonnement open-source égalant les performances de ChatGPT mais à une fraction du coût, a encore perturbé le marché. Hancheng Cao, professeur adjoint à l’Université Emory, a noté que cette avancée a déplacé l’attention du développement de modèle vers les applications pratiques. « La question brûlante est passée de ‘Qui peut créer le meilleur modèle de langage ?’ à ‘Qui peut les utiliser mieux ? »

Ce changement a mis en lumière les limitations de nombreux centres de données construits à la hâte. De nombreuses installations optimisées pour l’entraînement à grande échelle de l’IA ne sont pas adaptées aux exigences de faible latence des tâches d’inférence nécessaires pour les modèles de raisonnement en temps réel. En conséquence, les centres de données situés dans des zones éloignées avec des coûts d’électricité et de terrain moindres perdent de leur attrait aux yeux des entreprises d’IA.

La surabondance de puissance de calcul a conduit à une chute dramatique des prix de location des GPU. Un serveur NVIDIA H100 avec huit GPU se loue désormais pour 75 000 yuan par mois (environ 10 345€), contre des sommets précédents d’environ 180 000 yuan (25 141€). Certains opérateurs de centres de données ont choisi de laisser leurs installations inoccupées plutôt que de fonctionner à perte.

Jimmy Goodrich, conseiller principal en technologie à la RAND Corporation, attribue cette situation à des acteurs inexpérimentés se lançant dans le secteur de l’IA. « Les douleurs de croissance que l’industrie de l’IA en Chine traverse sont essentiellement dues à des acteurs inexpérimentés – des entreprises et des gouvernements locaux – se jetant sur le train de l’engouement, construisant des infrastructures qui ne sont pas optimales pour les besoins d’aujourd’hui, » explique-t-il.

Le système politique chinois, avec son accent sur les projets économiques à court terme pour l’avancement de carrière, a joué un rôle important dans l’essor des centres de données. Les responsables locaux, cherchant à stimuler leur carrière politique et à relancer l’économie face à un ralentissement post-pandémique, se sont tournés vers l’infrastructure de l’IA comme un nouvel moteur de croissance.

Cette approche descendante a souvent ignoré la demande réelle ou la faisabilité technique. De nombreux projets ont été dirigés par des dirigeants et des investisseurs ayant une expertise limitée dans l’infrastructure de l’IA, aboutissant à des infrastructures construites à la hâte qui ne respectaient pas les normes de l’industrie.

La montée de modèles de raisonnement comme le R1 de DeepSeek et le ChatGPT d’OpenAI a déplacé les besoins informatiques de l’entraînement à grande échelle à l’inférence en temps réel. Ce changement exige du hardware à faible latence, souvent situé près des principaux pôles technologiques, afin de minimiser les délais de transmission et d’assurer l’accès à une main-d’œuvre qualifiée.

En conséquence, de nombreux centres de données construits dans le centre, l’ouest et les zones rurales de la Chine peinent à attirer des clients. Certains, comme un nouvel établissement construit à Zhengzhou, distribuent même des bons de calcul gratuits aux entreprises technologiques locales, mais peinent toujours à trouver des utilisateurs.

Malgré les défis, le gouvernement central chinois priorise le développement de l’infrastructure de l’IA. Début 2025, il a convoqué un symposium sur l’industrie de l’IA, soulignant l’importance de l’autonomie dans cette technologie.

Des entreprises technologiques majeures comme Alibaba et ByteDance ont annoncé des investissements significatifs dans le cloud computing et l’infrastructure hardware de l’IA.

Goodrich suggère que le gouvernement chinois considère la situation actuelle comme une douleur de croissance nécessaire. « Le gouvernement central chinois considérera probablement [les centres de données sous-utilisés] comme un mal nécessaire pour développer une capacité importante… Ils voient la fin, pas les moyens, » évoqué-il.

Alors que l’industrie évolue, la demande pour les puces NVIDIA reste forte, notamment pour le modèle H20 conçu pour le marché chinois. Cependant, pour beaucoup dans le domaine, comme le directeur de projet de centre de données Fang Cunbao, l’état actuel du marché a amené à une réévaluation.

Au début de l’année, Fang a quitté entièrement l’industrie des centres de données. « Le marché est trop chaotique. Les premiers utilisateurs en ont profité, mais maintenant ce ne sont que des personnes qui poursuivent des failles politiques, » explique-t-il. Il se concentre désormais sur l’éducation à l’IA.