Avec sa puce Tomahawk Ultra, Broadcom optimise l'Ethernet pour le HPC et l'IA

Ce n’est pas un hasard si l’Ethernet domine dans les charges de travail d'entreprise et les mises à l’échelle. D’abord, le protocole est facile à utiliser et ensuite, il offre le bon niveau de performance. Cependant, lorsqu'il s'agit de réseaux à grande échelle, l’Ethernet est encore moins efficace que son concurrent Infiniband. Avec sa puce de réseau pour datacenter Tomahawk Ultra annoncée aujourd'hui, Broadcom veut améliorer les capacités de montée en charge de l'Ethernet. Optimisée spécifiquement pour les applications de calcul à haute performance (HPC) et de mise à l'échelle de l'IA, la Tomahawk Ultra s’ajoute à la famille de composants Tomahawk. Si elle partage de nombreuses caractéristiques avec les puces Tomahawk 5 et 6 livrées en juin 2025, elle offre également des caractéristiques uniques, notamment une latence ultra-faible, la prise en charge de paquets de taille minimale et une meilleure efficacité réseau.

Mais, contrairement à la Tomahawk 6, l’Ultra de Broadcom n’est pas axée sur le débit : elle fournit jusqu'à 51,2 Tbps à pleine bande passante contre 102,4 Tbps pour la Tomawak 6. Par contre, elle excelle dans la latence ultra-faible, avec une latence de commutation de 250 nanosecondes, et dans la performance des paquets, qui peut atteindre 77 milliards de paquets par seconde. « Nous voulions que l’Ethernet standard dépasse l’InfiniBand, avec toutes ses caractéristiques et pour toutes les métriques importantes pour le HPC », a déclaré Pete Del Vecchio, chef de produit pour la famille de commutateurs Tomahawk chez Broadcom, à notre confrère Network World.

Architecture optimisée pour une latence minimale des paquets

La Tomahawk Ultra rompt fondamentalement avec la conception des commutateurs Ethernet traditionnels. Alors que ces derniers optimisent le débit global et les capacités de mise en mémoire tampon, l’Ultra donne la priorité à la latence, en atteignant une latence de commutation inférieure à 250 nanosecondes tout en maintenant un débit de 51,2 Tbps, même avec des paquets de 64 octets de taille minimale. Les paquets de taille minimale tiennent compte d’un élément particulièrement important pour le HPC et en partie délaissé jusque-là par les commutateurs Ethernet. Comme l’a expliqué M. Del Vecchio, les applications HPC utilisent différents modèles d'API, notamment MPI (Message Passing Interface) et SHEM (Symmetric Hierarchical Memory), qui ont tendance à utiliser un grand nombre de très petits paquets. La prise en charge de la taille minimale des paquets permet la diffusion en continu de ces paquets à pleine bande passante. Cette capacité est essentielle pour une communication efficace dans les charges de travail scientifiques et informatiques. Elle est particulièrement importante pour les réseaux à grande échelle où la communication entre le GPU et le commutateur se fait en un seul saut.

Un coup de pouce « Ultra » pour un Ethernet sans perte

Un autre domaine spécifique d'optimisation du Tomahawk Ultra concerne l'Ethernet sans perte. Broadcom a intégré la prise en charge de capacités entièrement définies pour la première fois dans la spécification 1.0 de l'Ultra Ethernet Consortium (UEC) en juin. Le support de l'Ethernet sans perte est assuré par :

• Link Layer Retry (LLR) : avec cette approche, la puce détecte automatiquement les erreurs de transmission à l'aide de la correction d'erreur directe Forward Error Correction (FEC) et demande une retransmission. M. Del Vecchio a expliqué que lorsque les erreurs dépassent les capacités de la FEC, désormais, grâce au Link Layer Retry au niveau de la couche de liaison, le switch peut demander une retransmission du paquet.

• Credit-Based Flow Control (CBFC) : il empêche les chutes de paquets dues au débordement de la mémoire tampon. « Si le récepteur n'a plus d'espace pour recevoir un paquet, le commutateur envoie un signal de pause à l'expéditeur », a indiqué M. Del Vecchio. Une fois l'espace disponible, il envoie une notification indiquant qu'un certain nombre de paquets peuvent être envoyés.

Les In-network collectives (INC) pour réduire les opérations du réseau

La puce Tomahawk Ultra contribue également à accélérer la vitesse globale des opérations de calcul intensif et d'intelligence artificielle grâce à ce que l'on appelle les In-network collectives (INC). Les opérations collectives en réseau sont des opérations dans lesquelles plusieurs unités de calcul, comme les GPU, doivent partager et combiner leurs résultats de calcul. Par exemple, dans une opération dite « AllRreduce », les GPU qui calculent différentes parties d'un problème doivent faire la moyenne de leurs résultats sur le réseau. Avec Tomahawk Ultra, au lieu que les GPU envoient des données dans les deux sens et effectuent des calculs séparément, le commutateur lui-même dispose d'un matériel capable de réduire le nombre d'opérations. La capacité INC peut recevoir des données de tous les GPU, effectuer des opérations de calcul comme le calcul de la moyenne directement sur le réseau, puis propager le résultat final à tous les GPU. Les avantages sont doubles. « D’une part, la capacité INC décharge certains calculs sur le réseau, mais plus important encore, elle réduit de manière significative la bande passante des transferts de données sur le réseau », a précisé M. Del Vecchio.

Rivalité SUE-NVLink

Pour aller plus loin, la puce Tomahawk Ultra prendra également en charge la spécification Scale-Up Ethernet (SUE) de Broadcom afin d'optimiser l'ensemble du chemin d'application à application. Le fournisseur a contribué à l'intégralité de la spécification SUE à l'Open Compute Project (OCP) en mai, pour la partager de manière ouverte. Développé par Broadcom, le framework SUE vise à aider les fabricants de xPU (GPU/accélérateurs) à optimiser leur interface réseau pour disposer d’une communication haute performance et à faible latence. Il fournit des conseils pour une mise en réseau Ethernet efficace entre les unités de traitement.

M. Del Vecchio note que le SUE prend en charge des en-têtes optimisés de 10 octets par rapport aux en-têtes standard de 46 octets et permet un transfert de données efficace avec un minimum de surcharge. L'objectif est de faire de l’Ethernet une alternative viable et ouverte aux technologies d'interconnexion propriétaires comme le NVLink de Nvidia, avec de meilleures performances et un soutien plus large de l'écosystème. Le projet SUE est également une alternative au groupe Ultra Accelerator Link (UALink) qui a vu le jour en mai. « Nous ne savons pas ce qui sortira de l'UALink. Il n'y a pas de commutateur sur le marché, et probablement rien en production avant quelques années », a fait remarquer M. Del Vecchio. « La principale décision à prendre aujourd'hui est de savoir si l’on utilise l’Ethernet, ou le NVLink ».