Intel et BCG s’associent pour booster l’IA générative avec les accélérateurs Habana Gaudi
Intel et BCG se sont associés dans le cadre de leur nouveau partenariat stratégique pour stimuler l’IA générative avec les accélérateurs Habana Labs Gaudi.
Intel entre dans le segment de l’IA générative avec ses accélérateurs Habana Gaudi et annonce un partenariat stratégique avec le BCG
L’IA générative et l’IA en général sont le sujet brûlant de nos jours. NVIDIA est actuellement en tête de cet espace avec ses GPU AI et AMD suit le mouvement. Désormais, Intel a également décidé d’entrer sur le segment dans le cadre d’un tout nouveau partenariat avec le BCG, qui souhaite fournir une IA générative sécurisée et de niveau entreprise.
À cette fin, le BCG s’appuiera sur l’écosystème hardware d’Intel, qui comprend des processeurs évolutifs Xeon et des accélérateurs Habana Gaudi optimisés pour l’IA, ainsi qu’une gamme de logiciels hybrides à l’échelle du cloud.
« L’IA générative est un espace émergent et dynamique, ce qui indique que les organisations doivent choisir la bonne technologie pour propulser leur parcours GenAI », déclare Suchi Srinivasan, directeur général et associé du BCG. « La technologie doit être de niveau entreprise dès le premier jour et permettre la confidentialité, la sécurité, la facilité d’utilisation et l’évolutivité. Notre collaboration avec Intel permettra aux entreprises de développer des avantages concurrentiels via des solutions GenAI personnalisées tout en naviguant de manière réfléchie dans les changements de personnes, de processus et de politiques nécessaires pour tirer le maximum de ces solutions transformatrices.
L’IA générative nécessite une approche véritablement démocratisée qui permet un choix plus sûr et évolutif afin que les entreprises puissent bénéficier en toute sécurité de la technologie », a déclaré Sandra Rivera, vice-présidente exécutive et directrice générale du Data Center and AI Group chez Intel. « Notre collaboration avec le BCG nous permet d’aider les clients à créer des applications d’IA génératives qui nécessitent une technologie optimisée sur l’ensemble de la pile, complètement à l’intérieur du périmètre de sécurité de leur choix. »
via Intel / BCG
Intel propose actuellement ses accélérateurs Habana Gaudi de 2e génération basés sur le nœud de processus 7 nm, offrant 24 TPC pour le décodage et le traitement des médias fonctionnant sur un format FP8 (contre 8 TPC). La configuration de la mémoire comprend 96 Go de mémoire HBM2e, offrant une bande passante de 2,45 To/s et 48 Mo de SRAM supplémentaires. La mise en réseau est assurée par 24 commutateurs 100GbE. Un tel saut de performance indique également que le TDP doit être considérablement augmenté et que le Gaudi2 fonctionne à un TDP de 600 W (contre 350 W). Ces puces seraient compétitives par rapport aux GPU A100 AI de NVIDIA en termes de performances/coûts.
La société travaille également sur ses accélérateurs Habana Gaudi de 3e génération qui utiliseront le nœud de processus TSMC 5 nm et offriront des performances et une efficacité encore plus élevées. Comparé à NVIDIA H100, la dernière offre de l’équipe verte, l’accélérateur Gaudi3 sera très compétitif en termes de prix et de performances. Il y aura même à l’avenir des solutions hybrides combinant l’expertise technologique des accélérateurs Haban Gaudi (4e génération) avec les GPU hyper-évolutifs d’Intel tels que le Ponte Vecchio d’AXG.
« Gaudi3 arrive très bientôt », a déclaré Medina. « C’est en fait dans la fabrication. Ce sera notre produit TSMC 5nm.
En ce moment, Ponte Vecchio se concentre sur Argonne National Lab, n’est-ce pas ? Plus de cas d’utilisation HPC », a déclaré Medina. « Intel reconnaît que si ce serveur a besoin de faire juste de l’IA – si c’est une lourde charge – alors c’est Gaudi2, et ce sera Gaudi3 immédiatement après cela. Désormais, la prochaine génération – la quatrième génération – va combiner les capacités de Gaudi et certaines des capacités d’AXG.
Nous sommes déjà en train de concevoir ce qui sera l’accélérateur de prochaine génération », a ajouté Medina. « Intel va en fait, vraiment unifier les roadmaps entre Habana et le côté AXG de l’organisation. Nous travaillons sur une intégration plus profonde.
Intel Habana COO Eitan Medina (via HPC Wire)
Il semble bien qu’Intel n’attendra plus alors que d’autres graviront les échelons de l’IA et rejoindront également la course. Encore une fois, les autres, en particulier NVIDIA, ont des années d’avance sur le segment de l’IA, il y aura donc du rattrapage à faire pour les autres joueurs.
Retrouvez, la vidéo d’un de nos confrères hardware de la semaine :
Sources : VideoCardz, WCCF Tech
Ci-dessous, nos guides d'optimisations dont : Optimiser Windows 11 pour les jeux - Optimiser Windows 10 pour les jeux - Comment réduire latence - Stock PS5
