NVIDIA GeForce RTX 30 : un mod les rend jusqu’à 2x plus rapides en IA

Les cartes graphiques GeForce RTX 30 Series d’NVIDIA recèlent une réserve de puissance cachée. Un projet open-source permet de lever une restriction logicielle, décuplant le débit des cœurs Tensor dans certaines tâches de calcul. Une aubaine pour l’IA locale sans toucher au pilote.

GPU Unlock, l’outil qui libère les RTX 30

L’architecture GeForce RTX 30 Series, aussi nommée Ampere, n’aurait pas encore tout révélé. Un nouveau projet baptisé GPU Unlock, créé par un développeur sur GitHub nommé Zagitta, permet de contourner certaines limitations de performances artificielles. L’outil peut presque doubler le débit de calcul des cœurs Tensor sur des charges spécifiques, et ce sans nécessiter de pilote NVIDIA modifié ni de flash VBIOS permanent.

Ce projet cible spécifiquement la limitation du taux d’émission d’instructions qui affecte les opérations des cœurs Tensor en FP16/BF16 avec accumulation FP32, fonctionnant à un rythme réduit sur les cartes Ampere grand public par rapport aux modèles professionnels. En supprimant cette barrière, l’outil active une puissance de calcul supplémentaire dont les GPU étaient déjà capables.

Fait notable, GPU Unlock s’appuie sur des recherches antérieures impliquant les GPU NVIDIA CMP dédiés au minage de cryptomonnaies. Il combine les techniques de déverrouillage du firmware du projet CMP avec une approche d’initialisation précoce, utilisant un module noyau Linux qui s’exécute avant le chargement du pilote NVIDIA. Ce module modifie les sélecteurs de vitesse matériel concernés, effectue une réinitialisation au niveau fonction (FLR), puis laisse le pilote standard initialiser le GPU normalement.

Les utilisateurs n’auront donc pas à patcher leur pilote NVIDIA à chaque mise à jour. Le développeur liste actuellement le support pour les GPU GA102, GA103, GA104 et GA106, couvrant une grande partie de la gamme GeForce RTX 30 Series, bien que la compatibilité et les gains ne soient pas garantis sur chaque carte.

À lire :  The Elder Scrolls VI : selon Fortune, il pourrait être l'exclusif choc d'Helix pour 2028

Les améliorations de performances peuvent être remarquables. Selon des benchmarks publiés sur le dépôt GitHub du projet, une RTX 3090 Ti avec une limite de puissance de 450W a fourni les résultats suivants dans des tests de multiplication matricielle dense (GEMM) avec accumulation FP32 :

Précision D’origine Avec GPU Unlock Amélioration
FP16 87,46 TFLOPS 118,39 TFLOPS +35%
BF16 87,50 TFLOPS 157,41 TFLOPS +80%
TF32 42,58 TFLOPS 82,61 TFLOPS +94%

Ces résultats ne concernent pas uniquement la RTX 3090 Ti. Le propriétaire d’une RTX 3080 Ti rapporte un débit BF16 passant de 71,59 à 113,98 TFLOPS, tandis que les performances en TF32 sont passées de 35,65 à 65,28 TFLOPS, avec le GPU limité à 315W. Un autre rapport de compatibilité sur une RTX 3080 10GB documente une augmentation des performances en FP16/BF16 d’environ 65 TFLOPS à 110–113 TFLOPS sous la limite de puissance d’origine de 320W. Ces améliorations ont également été signalées sur X.

Mais qu’en est-il des performances dans des applications réelles ? Des membres de la communauté ont commencé à tester le déverrouillage sur des charges de travail d’IA concrètes, et les premiers retours sont positifs.

Un utilisateur de RTX 3090 Ti sur Reddit a testé GPU Unlock dans ComfyUI, rapportant un débit supérieur de 58,6% avec MOSS-Image SFT BF16, de 57,2% avec Qwen-Image 2.1 Turbo BF16 et de 56,1% avec Z-Image Turbo BF16. Parallèlement, les configurations en INT8 n’ont vu que de très faibles gains, avec MOSS-Image SFT INT8 amélioré de seulement 0,3%. Le testeur a aussi rapporté une sortie d’image décodée identique entre les configurations d’origine et déverrouillée.

À lire :  NVIDIA DLSS 5 : modifié pour des jeux non supportés, il dope les FPS jusqu'à 40 %

L’inférence de modèles de langage de grande taille (LLM) est un autre domaine bénéficiaire potentiel, même si les améliorations dépendent fortement de la charge de travail. Par exemple, un rapport de compatibilité RTX 3090 documente une amélioration de 33% du débit de traitement des prompts/inférence avec vLLM, tandis que la génération de tokens reste pratiquement inchangée. C’est compréhensible, car le décodage LLM est souvent limité par la bande passante mémoire plutôt que par le débit brut des cœurs Tensor.

Un développement supplémentaire mérite d’être souligné : une implémentation expérimentale pour Windows, utilisant une approche basée sur l’UEFI au lieu du module noyau Linux original. Son développeur a documenté une implémentation réussie sur RTX 3090, avec un débit de calcul BF16 augmenté d’environ 82,5%. Ceci reste néanmoins une solution expérimentale et spécifique au matériel, et non une version Windows généralement compatible.

Il existe aussi des limitations importantes. GPU Unlock n’augmente pas la bande passante mémoire, n’active pas de cœurs CUDA supplémentaires et n’améliore pas automatiquement toutes les charges de travail. Au moins un rapport de compatibilité sur une RTX 3080 Ti 20GB documente une procédure de déverrouillage réussie sans l’amélioration de performances BF16 attendue, démontrant que les résultats ne sont pas universels.

Concernant le jeu vidéo, les technologies DLSS d’NVIDIA utilisent également les cœurs Tensor, mais aucune preuve convaincante n’indique actuellement que GPU Unlock améliore les performances de jeu ou les temps d’exécution du DLSS. Les instructions et modes d’accumulation concernés doivent être utilisés par la charge de travail réelle pour qu’un bénéfice se matérialise. Par conséquent, les benchmarks de calcul impressionnants ne doivent pas être confondus avec une augmentation équivalente du nombre d’images par seconde en jeu.

Malgré tout, GPU Unlock est une évolution passionnante pour les propriétaires de GeForce RTX 30 Series, particulièrement ceux utilisant leur GPU pour l’inférence IA locale, la génération d’images et d’autres applications intensives en calcul. Bien que le projet soit encore expérimental, la perspective d’extraire bien plus de performances d’un matériel existant sans le modifier de façon permanente est très intéressante.

Source : Dépôt GitHub GPU Unlock

Guide Optimisation Pc Windows 11 Jeux Performance Bot Guide Optimisations Pc Windows 10 Jeux Performances Sur Omgpu.com Bot

Guide Comment Reduire Input Lag Latence Omgpu Bot Comment supprimer Coil Whine carte graphique

Vous pourriez aussi aimer