Pour optimiser ses réseaux, Alibaba Cloud optimise ses logiciels

A l’occasion de la conférence de l’ACM (Association for Computing Machinery)qui se déroulera du 8 au 11 septembre au Portugal, Alibaba Cloud va montrer les moyens mis en place pour améliorer le débit réseau dans ses datacenters sans avoir à recourir à du matériel supplémentaire.

Zooroute pour optimiser la reprise après une panne

Parmi ces solutions, il y a ZooRoute, un service de récupération rapide après une panne qui selon la société chinoise, peut assurer un contournement global dans les réseaux cloud à grande échelle en quelques secondes. « En cas de panne, des stratégies comme le réacheminement rapide et l'ingénierie du trafic ne peuvent offrir qu'un contournement local en quelques secondes ou un contournement global en quelques minutes. Même si le reroutage de protection (Protective Rerouting, PRR) et la simplification de l'architecture réseau sont proposés pour accélérer la re-convergence globale, ils nécessitent des mises à niveau des équipements sous-jacents, ce qui rend leur déploiement à grande échelle difficile », ont écrit les chercheurs de l'entreprise dans un article à propos de ZooRoute.

Zooroute optimise le routage après une panne. (Crédit Photo: Alibaba Cloud)

Si les opérateurs de centres de données ne sont pas disposés à procéder aux mises à niveau nécessaires des équipements, « les entreprises sont contraintes de développer leurs propres solutions de récupération, qui impliquent généralement des ressources redondantes ou des modifications de la stack protocolaire, ce qui augmente les dépenses d'investissement et d'exploitation », ont poursuivi les chercheurs. « En revanche, ZooRoute peut rechercher en permanence des chemins viables et réacheminer instantanément le trafic en cas de panne, sans qu'il soit nécessaire de modifier le matériel ou les applications des sociétés hébergées », ont-ils précisé dans l'article. Charlie Dai, vice-président et analyste principal chez Forrester, a expliqué que là où d'autres fournisseurs de services cloud comme AWS et Google utilisent le reroutage rapide et l'ingénierie du trafic, l'approche proactive de ZooRoute semble plus agressive et plus fine que les solutions classiques. Alibaba Cloud dit utiliser ZooRoute dans AliCloud depuis 18 mois et qu’il a pu réduire ainsi le temps d'indisponibilité de 92,71 %.

Nezha pour les VM et Stellar pour l’IA

La mise à niveau logicielle de Nezha donne aussi à Alibaba Cloud la capacité de maintenir les performances réseau des machines virtuelles intensives sans dépenser davantage en commutateurs virtuels (vSwitches) accélérés par des SmartNIC. Ce système distribué de partage de charge vSwitch identifie les SmartNIC inactives et les utilise pour créer un pool de ressources à distance pour les cartes d’interface réseau virtuelles (vNIC) à forte demande. Alibaba, qui a testé le système dans ses centres de données pendant un an, affirme que « Nezha résout efficacement les surcharges vSwitch et élimine ce goulot d'étranglement ». Selon les chercheurs, « avec un nombre de flux simultanés amélioré jusqu'à 50 fois et un nombre de vNIC jusqu'à 40 fois supérieur, le goulot d'étranglement est désormais la pile du noyau VM ». De son côté, M. Dai de Forrester pense que la conception statelesss et le regroupement à l'échelle du cluster de Nezha sont supérieurs aux solutions proposées par les fournisseurs de services cloud concurrents.

Avec Stellar, Alibaba Cloud adresse la performance des réseaux pour les charges IA. (Crédit Photo: Alibaba Cloud)

Par ailleurs, la division cloud computing d'Alibaba travaille sur une autre évolution logicielle qui offrira de meilleures performances réseau pour les charges de travail liées à l'IA. Baptisée Stellar, cette mise à jour contourne les problèmes d'évolutivité et de stabilité posés par sa pile RDMA (Remote Direct Access Memory) actuelle pour les charges de travail hautes performances ou les services d'IA. Selon les chercheurs, la mise à jour améliore de 15 fois le temps d'initialisation des conteneurs et jusqu’à 14% la vitesse de formation des LLM. Selon Charlie Dai, le logiciel Stellar est plus évolutif et plus stable pour les clusters d’IA à grande échelle que la pile de support pour RDMA utilisée par AWS, Azure ou Google Cloud.

D’autres logiciels pour optimiser les réseaux

Parmi les autres mises à jour destinées à améliorer le réseau que les chercheurs d'Alibaba présenteront lors de la conférence, on peut encore citer Hermes, SkeletonHunter et SkyNet. Le premier promet de relever le défi de l'équilibrage de la distribution des connexions dans les load balancer cloud multicœurs sur la couche 7 (applicative). « Alibaba Cloud a déployé Hermes sur 100 000 cœurs de CPU », ont rapporté les chercheurs, ce qui a permis de réduire de 99,8 % les blocages quotidiens et de réduire de 18,9 % le coût unitaire de l'infrastructure d'équilibrage de charge de niveau 7 », précisent les experts.

Hermes s'occupe des load balancer sur la couche 7. (Crédit Photo: Alibaba Cloud)

De son côté, SkeletonHunter vise à diagnostiquer et à localiser les pannes réseau dans la formation de grands modèles conteneurisés. Enfin Skynet est un système complet d'analyse réseau conçu pour les infrastructures réseau mondiales. Le concept central consiste à agréger les alertes réseau provenant de nombreux outils de surveillance et à les organiser en groupes temporels et géographiques.