Chat avec RTX : NVIDIA présente son chatbot IA pour les GPU RTX 3000 et 40
NVIDIA présente ‘Chat with RTX’, un chatbot IA géré directement à partir des GPU GeForce RTX 3000 et RTX 4000.
Chat with RTX : NVIDIA présente son propre chatbot IA
NVIDIA a introduit une nouvelle fonctionnalité qui tire parti des cœurs Tensor (plus spécifiquement TensorRT-LLM & Retrieval Augmented Generated [RAG]).
Un autre chatbot IA fonctionne via de gros centres de données qui génèrent tout le contenu à distance. Au lieu de cela, avec ‘Chat with RTX’, l’application peut fonctionner via un navigateur, beaucoup plus facilement que d’autres modèles d’IA qui peuvent être téléchargés directement.
‘Chat with RTX’ semble exploiter des modèles de langage populaires tels que Mistral ou Llama2 pour générer des réponses. De plus, ce chatbot peut utiliser des vidéos YouTube et peut avoir accès à différents formats de fichiers, y compris du texte, des PDF, des documents DOC/DOCX et XML.
L’idée de ce chatbot est de faciliter les choses pour les utilisateurs qui utilisent souvent les chatbots. Pour tirer parti de ‘Chat with RTX’, l’application nécessite une carte graphique de la série RTX 3000 et RTX 4000 avec un minimum de 8 Go de mémoire VRAM, ce qui exclut des cartes graphiques comme la RTX 3050 6G, qui n’a que 6 Go.
NVIDIA a annoncé son propre chatbot, mais n’a pas fourni de date exacte pour sa disponibilité. Cependant, vous pouvez trouver plus d’informations sur le lien suivant.
Ceux qui n’ont pas les dernières cartes graphiques NVIDIA devront continuer à utiliser d’autres alternatives. AMD se décidera-t-il à lancer une application similaire ? Nous le serons bientôt.
