Serveurs IA : une densité de 1000+ KW avec l’architecture Rubin Ultra de NVIDIA
La montée en puissance des architectures d’IA entraîne une augmentation considérable de la densité énergétique des baies de serveurs. Des technologies avancées, comme les puces NVIDIA « Rubin Ultra », pourraient permettre d’atteindre des niveaux de plus de 1 000 kilowatts. Cet accroissement repousse les limites de la consommation énergétique dans le secteur de l’intelligence artificielle.
La consommation énergétique des serveurs IA
La demande croissante en puissance de calcul pour l’IA se heurte à un défi majeur : la consommation énergétique. Les infrastructures modernes de calcul doivent répondre à cette exigence tout en traitant les implications environnementales. En effet, l’augmentation de la densité des baies de serveurs, martelée par la nécessité d’un plus grand pouvoir de calcul, appelle à une réflexion sur les ressources énergétiques disponibles.
Actuellement, les clusters d’IA affichent une densité de baie d’environ 130 à 250 KW. D’après une analyse de Vertiv, ce chiffre est voué à exploser, atteignant potentiellement plus de 1 000 KW dans les prochaines années. Cette évolution représente un point de phase crucial, tant pour les entreprises que pour les décideurs mondiaux, face à la demande énergétique croissante.
La notion de densité des racks décrit la chaleur générée et la puissance nécessaire pour faire fonctionner l’ensemble des équipements d’un rack de serveur. En 2020, cette densité était d’environ 8,2 KW. Ce bond spectaculaire en seulement quatre ans souligne l’aptitude du secteur à innover rapidement lorsqu’il est stimulé par une demande forte. La progression des densités de serveurs indique clairement l’importance du calcul accru dans l’écosystème technologique.
1000 kilowatt AI server racks incoming by end of decade pic.twitter.com/zzzI1UcMS5
— tae kim (@firstadopter) Novembre 19, 2024
L’atteinte de cette densité de 1 000 KW est anticipée avec l’introduction des serveurs AI « Rubin Ultra » de NVIDIA. Ces nouvelles architectures promettent de redéfinir les standards de performance et de revolutions dans le secteur, offrant ainsi des solutions robustes aux besoins de calcul d’IA qui explosent.
Cette augmentation des chiffres de densité entraîne inévitablement un besoin accru en énergie. Auparavant, des rapports indiquaient que les centres de données de NVIDIA consommaient une quantité d’énergie similaire à celle de pays entiers. Avec l’arrivée de nouveaux produits, ce chiffre a probablement connu une hausse significative, ce qui pousse l’industrie à rechercher des solutions innovantes pour ses besoins énergétiques croissants.
Parmi les solutions envisagées, l’utilisation d’infrastructures nucléaires pour alimenter les centres de données fait l’objet de discussions. Des entreprises comme Microsoft et OpenAI auraient exploré cette option. Avec la tendance actuelle de la consommation d’énergie en flux ascendant, des choix alternatifs, tels que l’énergie nucléaire, pourraient bien devenir la norme pour répondre à une demande de plus en plus pressante.
