NVIDIA Nemotron 3.5 : 3 modèles pour agents IA, du 120B Super VL aux 4 & 24 Go pour l’edge

NVIDIA intensifie son engagement en faveur des modèles open-weight, notamment après son accord pour acquérir Hugging Face. Pour illustrer cette dynamique, le fabricant vient de dévoiler trois nouveaux modèles ouverts, conçus pour différentes applications d’agents IA.

NVIDIA étoffe sa gamme Nemotron avec trois nouveaux modèles

NVIDIA a présenté trois modèles open-weight : le Nemotron 3.5 Super VL à 120 milliards de paramètres pour coordonner des agents permanents, le Nemotron 3.5 Bolt 74B-A9B 24GB optimisé pour les charges de travail locales et le Nemotron 3.5 Bolt E4B 4GB destiné aux agents conversationnels rapides.

Le Nemotron 3.5 Super VL est un modèle ouvert à 120 milliards de paramètres conçu pour des agents spécialisés et toujours actifs. NVIDIA affirme qu’il offre une précision de pointe pour les tâches agentiques multimodales, comme le suivi d’instructions, l’utilisation d’outils ou la compréhension visuelle, avec des performances comparables à ses plus grands modèles de raisonnement pour un cinquième du nombre de paramètres.

Le constructeur indique également qu’il s’agit du modèle open-weight le plus rapide de sa catégorie, fonctionnant environ cinq fois plus vite que son concurrent direct, ce qui permet d’exécuter rapidement un grand volume de tâches en entreprise.

Ce modèle intègre des capacités visuelles avancées, ciblant spécifiquement la reconnaissance de caractères, les tableaux, les graphiques et les données structurées dans des documents visuels comme les pages web ou les PDF. En combinant la compréhension du texte et de l’image, il permet aux agents d’extraire du texte, de lire des graphiques et de générer des insights sans avoir à transférer les tâches entre différents systèmes.

Les entreprises peuvent ensuite affiner ce modèle sur leurs propres données, outils et processus métier, puis le déployer sur l’infrastructure de leur choix pour un contrôle et une confidentialité maximale.

NVIDIA fournit le modèle avec ses poids ouverts, ses jeux de données et ses méthodes d’entraînement. Le Nemotron 3.5 Super VL a déjà été entraîné sur plus de 25 billions de tokens et environ 4 millions d’exemplaires post-entraînement. Il fonctionne sur toute la pile matérielle NVIDIA, incluant DGX Spark, DGX Station, Jetson et les environnements cloud, et est disponible sous forme de microservice prêt pour la production via NVIDIA NIM.

Le Nemotron 3.5 Bolt 74B-A9B 24GB est quant à lui un modèle pour périphériques optimisé pour gérer localement des charges de travail agentiques. Basé sur l’architecture Super VL, ce modèle hybride de type mixture-of-experts contient 74 milliards de paramètres mais n’en active que 9 milliards à la fois.

Élément important, il utilise une quantification sur 2 bits, lui permettant de tenir dans 24 Go de mémoire. Ceci offre un équilibre entre vitesse et intelligence pour gérer des tâches locales quotidiennes nécessitant un raisonnement en plusieurs étapes, une navigation web ou l’utilisation d’outils.

Les utilisateurs de ce Bolt peuvent déléguer localement des tâches, comme la recherche de composants PC ou l’écriture et le débogage de code, sans envoyer aucune charge de travail vers le cloud. Il est spécialisé pour le matériel NVIDIA RTX Spark et DGX Spark 64GB et est disponible sur Hugging Face avec le support de plateformes comme vLLM, Ollama, LM Studio et llama.cpp.

Enfin, le Nemotron 3.5 Bolt E4B 4GB est un modèle pour périphériques développé spécifiquement pour des agents physiques et conversationnels rapides. Il est conçu pour fonctionner sur du matériel GeForce RTX, Jetson et RTX/DGX Spark. Il excelle dans la combinaison d’une conversation naturelle avec l’utilisation d’outils en plusieurs tours, le suivi d’instructions et la compréhension de l’état d’une application. Ces capacités lui permettent d’alimenter efficacement des interfaces embarquées, des personnages interactifs et des assistants vocaux ou matériels locaux rapides.