DeepSeek R1 : Exécution d’inférence sur les puces AI Ascend 910C de Huawei
Le modèle d’IA de DeepSeek exécute des charges de travail d’inférence sur les nouveaux processeurs Ascend 910C de Huawei, illustrant l’évolution de l’industrie de l’IA en Chine ces derniers mois.
DeepSeek et son utilisation des puces AI d’Huawei
La société chinoise DeepSeek a récemment fait sensation dans les marchés de l’IA, notamment avec l’annonce de son modèle LLM R1. Ce lancement a contribué à faire chuter de 2 trillions de dollars la valeur boursière américaine, provoquant une certaine panique chez les investisseurs. Les détails concernant la puissance de calcul nécessaire pour entraîner le modèle R1 suscitent des controverses, mais Huawei semble jouer un rôle majeur dans son succès.
I feel this should be a much bigger story: DeepSeek has trained on NVIDIA H800 but is running inference on the new home Chinese chips made by Huawei, the 910C. pic.twitter.com/6IAgQlQ3ou
— Alexander Doria (@Dorialexander) Janvier 28, 2025
Pour les néophytes, le processeur AI Ascend 910C de Huawei se positionne comme un concurrent direct des accélérateurs AI Hopper H100 de NVIDIA. Bien que les spécificités du chip de Huawei soient encore floues, il est prévu que la production de masse commence au premier trimestre 2025, suscitant l’intérêt de grandes entreprises chinoises comme ByteDance et Tencent. Ces puces représentent une alternative de premier choix à celles de NVIDIA sur le marché chinois.
La puissance de calcul employée pour le modèle R1 de DeepSeek demeure floue, alimentant de nombreuses idées reçues. Par exemple, le chiffre de « 5 millions de dollars » ne représente pas le coût total de l’entraînement, mais plutôt celui de l’exploitation du modèle final. De plus, des informations suggèrent que DeepSeek aurait accès à plus de 50 000 unités des H100 de NVIDIA, indiquant qu’ils ont besoin de ressources similaires à celles des autres modèles d’IA sur le marché.
Utiliser les puces de Huawei pour les inférences est un choix stratégique, car elles sont disponibles en quantité suffisante pour les entreprises locales, et leur coût est compétitif par rapport aux déclinaisons « découpées » de NVIDIA ou même aux accélérateurs disponibles par des voies non officielles. Huawei se prépare également à lancer la prochaine génération de ses puces AI Ascend, qui devraient rivaliser avec les produits Blackwell de NVIDIA, renforçant ainsi la concurrence à l’échelle mondiale.
