Carte graphique NVIDIA GeForce RTX 3090 Ti : +80% de puissance FP16/BF16 grâce à Linux
Une nouvelle astuce logicielle contourne les limitations que NVIDIA impose à ses cartes graphiques grand public. En se faisant passer pour des modèles professionnels, ces GPU GeForce voient leurs performances en calcul flottant augmenter de manière significative.
GPU Unlock libère les performances bridées des GeForce
Le nouvel outil permettrait à l’RTX 3090 Ti de voir ses performances de calcul BF16 passer de 87,5 TFLOPS à 157 TFLOPS, tout en améliorant les vitesses d’inférence vLLM de jusqu’à 36%.
Un projet open-source nommé « GPU Unlock » a trouvé le moyen de contourner les restrictions logicielles appliquées par NVIDIA à ses cartes graphiques GeForce. Cette solution permet à ces GPU d’accéder à des capacités de calcul en demi-précision supérieures, normalement réservées aux modèles professionnels.
Son développeur, « zagitta », explique que NVIDIA limite certaines capacités de calcul et fonctionnalités de GPU virtuel sur ses produits grand public, bien qu’ils partagent la même architecture que les cartes Quadro, Tesla ou RTX A-Series, nettement plus coûteuses.
La méthode de « GPU Unlock » est originale. Le projet patche dynamiquement le module du pilote NVIDIA dans le noyau Linux et intercepte les requêtes pour l’identifiant physique du GPU sur le bus PCIe, en le remplaçant par celui d’un modèle professionnel compatible. Le pilote est ainsi trompé et reconnaît la carte GeForce comme une carte professionnelle, levant les restrictions.
Les gains de performances sont notables. Sur une GeForce RTX 3090 Ti basée sur l’architecture Ampere, les performances de calcul BF16 bondissent de 87,5 TFLOPS à 157 TFLOPS, soit une augmentation de 80%. Les calculs TF32 voient également leurs performances presque doubler, passant de 42,6 TFLOPS à 82,6 TFLOPS. La RTX 3080 profite aussi de l’amélioration, avec ses performances FP16/BF16 qui grimpent de 65 TFLOPS à une fourchette située entre 110 et 113 TFLOPS, sans toucher à la limite de puissance de 320W.
Le moteur d’inférence vLLM bénéficie lui aussi de l’outil, avec une amélioration de 33 à 36% des vitesses de traitement en contexte long et une réduction de 25% de la latence du premier jeton généré. En revanche, les performances de décodage restent similaires, la technique n’agissant pas sur les limitations de bande passante mémoire.
Pour le moment, GPU Unlock est compatible uniquement avec Linux et fonctionne avec les GPU GeForce des séries GTX 900, GTX 1000, RTX 20 et RTX 30. Les cartes RTX 40 et RTX 50 ne sont pas prises en charge.
