Aller au contenu

Préférences et cookies

Afin d’améliorer votre expérience sur notre site et de réaliser des statistiques de visites, nous utilisons des cookies. Rien n’est déposé sans votre accord, et le refus n’enlève l’accès à aucun contenu. Ce choix peut être modifié à tout moment.

Gérer les traceursVos données

Personnaliser

ArticleInfrastructure & Cloud

Intel lance ses Xeon 6 6900P et ses accélérateurs Gaudi 3 pour l'IA

Avec son processeur Xeon 6 Granite Rapids, Intel affirme qu'il apporte des performances deux fois supérieures à celles de son prédécesseur.

La rédaction

Après de nombreuses informations distillées lors de points presse ces derniers mois, Intel a officiellement lancé ses processeurs pour serveurs Xeon 6 6900P Granite Rapids-AP (mono et bisocket 7529) ainsi que les accélérateurs Gaudi 3 pour l’IA, en faisant des déclarations assez audacieuses. Après les Xeon 6 6700E dotés de cœurs d’efficacité (E-cores) avec une consommation d'énergie réduite pour les tâches moins exigeantes, le fondeur commercialise ici les versions haute performance avec cinq modèles dans série Xeon 6 6900P - gravée en Intel3 soit du 5 nm et + Intel7 soit 10 nm pour l'E/S - avec des cœurs performance (P-cores) conçus pour les charges de travail intensives en calcul. Le Xeon 6980P, par exemple, dispose de 504 Mo de cache L3 et fonctionne à 2 GHz par défaut, mais peut augmenter jusqu'à 3,9 GHz en mode turbo, selon la charge de travail.

Intel lance ses Xeon 6 6900P et ses accélérateurs Gaudi 3 pour l'IA

Pour augmenter encore les performances globales du système, jusqu'à deux processeurs Xeon 6980P peuvent fonctionner ensemble dans une configuration multiprocesseur (SMP). (Crédit Intel)

La série 6900P prend en charge six liens Ultra Path Interconnect 2.0 pour des vitesses de transfert CPU à CPU allant jusqu'à 24 Gb/s, jusqu'à 96 lignes PCIe 5.0, dont 64 voies peuvent être réservées au CXL 2.0 pour étendre ses capacités mémoire, stockage flash, GPU ou réseau. Ces Xeon bénéficient de plus d’instructions vectorielles supplémentaires pour le calcul, et une extension matricielle avec un point optimal de 16 bits en virgule flottante pour l'inférence d'IA. Intel affirme que son Xeon 6 6900P offre des performances deux fois supérieures à celles de son prédécesseur grâce à un nombre accru de cœurs, une bande passante mémoire doublée et des capacités d'accélération d'IA intégrées dans chaque cœur.

Intel met en avant les performances

Les caractéristiques des puces Xeon 6900P sont impressionnantes. Par rapport à la génération précédente de Xeon, le nombre maximal de cœurs est doublé - jusqu’à 128 avec le 6980P facturé 17 800$ HT- en utilisant une conception en chiplets. Ainsi, au lieu d'un grand morceau de silicium, le processeur est divisé en trois parties plus faciles à fabriquer. Le Xeon 6 est de plus le premier processeur à prendre en charge les modules MRDIMM de Micron, qui améliorent les performances en termes de bande passante et de latence. Dans le cas du Xeon 6900P, le gain monte jusqu'à 57% pour atteindre 8 800 MT/s (millions de transferts par seconde).

Intel lance ses Xeon 6 6900P et ses accélérateurs Gaudi 3 pour l'IA

Comme à son habitude, Intel a ajouté des instructions supplémentaires à sa puce Xeon pour accélérer certains calculs. (Crédit Intel)

Le nombre accru de cœurs a cependant un prix, et c'est la consommation d'énergie. La puissance thermique de conception (TDP) pour quatre des cinq processeurs de la famille 6900P est de 500 watts, tandis qu'une seule puce consomme 400 watts (la 6952P). En comparaison, le Xeon de cinquième génération avait un TDP maximum de 350 watts. Mais il y a indéniablement un gain de performance. Dans le benchmark utilisant un chatbot Llama 2 de 7 milliards de paramètres, le Xeon 6972P à 96 cœurs d'Intel est plus de trois fois plus rapide que l'Epyc 9654 Genoa à 96 cœurs d'AMD et 128% plus rapide que la génération précédente de Xeon. Dans un benchmark de traitement du langage Bert, le Xeon 6972P est 4,3 fois plus rapide que l’Epyc 9654 et 2,2 fois plus performant que la génération précédente de Xeon. Il convient toutefois de noter que le processeur Epyc utilisé dans les benchmarks est arrivé sur le marché depuis deux ans, et qu'AMD devrait bientôt sortir une nouvelle génération de processeurs.

Gaudi 3 pour revenir sur le marché de l'IA

Enfin, prenant pour cible Nvidia, Intel commercialise la puce d'accélération IA Gaudi 3 (gravée en 5 NM chez TSMC), qui, selon elle, est 40 % plus économe en énergie en moyenne que les puces Nvidia H100 similaires. "L'accélérateur d'IA Intel Gaudi 3 alimentera des systèmes d'IA comptant jusqu'à des dizaines de milliers d'accélérateurs connectés via le standard commun d'Ethernet ", a déclaré Intel. Par exemple, 24 ports Ethernet 200 gigabits sont intégrés dans chaque accélérateur Intel Gaudi 3, offrant une mise en réseau flexible et standard. Il promet d'offrir 4 fois plus de capacités de calcul IA et une bande passante mémoire 1,5 fois supérieure à son prédécesseur, le Gaudi 2, ce qui permettra un dimensionnement efficace pour prendre en charge des grappes de calcul volumineuses et éliminer le verrouillage propriétaire des équipementiers grâce aux infrastructures réseau exclusives, souligne Intel. L'idée est que l'accélérateur puisse offrir une performance décuplée pour les modèles d'entraînement et d'inférence IA, offrant aux entreprises un choix plus large de systèmes à déployer lors du passage à l'IA générative à grande échelle, a déclaré M. Katti.

Newsletter

La Quotidienne LMI

Recevez chaque matin l’actualité IT de la rédaction.