La question du réseau pour l’infrastructure IA est toujours importante. Cisco et Nvidia viennent d’apporter une réponse avec la présentation de la gamme de switch N9100 intégrant l’accélérateur Ethernet Spectrum-X de Nvidia. Ils ont par ailleurs présenté des architectures de référence en renforçant l’infrastructure Secure AI Factory et une pile logicielle sur la 6G pour les opérateurs télécoms.
« Ce partenariat est une démonstration de force, combinant le leadership de Nvidia dans le domaine du calcul basé sur l’IA avec la domination de Cisco dans le domaine des réseaux d'entreprise », a écrit R. Scott Raynovich, fondateur et analyste technologique en chef chez Futuriom, Il ajoute, « l'idée d’associer l'expertise de Cisco dans les réseaux d'entreprise avec celle de Nvidia dans le traitement de l’IA et des logiciels est une manière de faciliter l'adoption de l'IA. »
Un équipement pour les NCP et les entreprises
Techniquement, le N9100 de taille 2U est un commutateur Ethernet OSFP 800 Gb à 64 ports qui offre plusieurs vitesses et densités de ports, notamment Ethernet 400, 200 et 100 Gbps. « Il est alimenté par le commutateur Spectrum-4 et le DPU BlueField-3, conçu pour l'IA, le calcul haute performance et les réseaux des datacenters cloud, où une latence ultra-faible, le contrôle de la congestion et des performances prévisibles sont essentiels », comme l’a indiqué Nvidia. « Cet équipement vient compléter la gamme Cisco Nexus 9000 de commutateurs d'agrégation 800G haute densité pour les fabrics de centres de données », a précisé Cisco. Cette gamme « est un élément central de nos offres d'IA d'entreprise. Ils prennent en charge les algorithmes de gestion de la congestion et de contrôle des flux et offrent la latence et la télémétrie appropriées pour répondre aux exigences de conception des fabrics IA/ML », a ajouté le fournisseur.
Avec la série Cisco N9100, Cisco prend désormais en charge l'architecture de référence conforme à Nvidia Cloud Partner (NCP). « Cette évolution est particulièrement importante pour les clients néocloud et de clouds qui construisent des centres de données avec des capacités pouvant aller de quelques milliers à potentiellement plusieurs centaines de milliers de GPU, car ils peuvent ainsi diversifier efficacement leurs chaînes d'approvisionnement », a écrit Will Eatherton, vice-président senior de l'ingénierie réseau chez Cisco, dans un article de blog. Une licence complémentaire donne aux clients la capacité d'étendre l'architecture de référence NCP afin de définir comment ils peuvent combiner la fonctionnalité de routage adaptatif du Spectrum-X avec les commutateurs Nexus 9300 Series. Outre les NCP, les entreprises « qui souhaitent construire leur propre infrastructure d’IA plutôt que de s’appuyer sur le cloud » sont également ciblés rapporte R. Scott Raynovich. Il assure que « tout cela va dans le sens de l’intérêt croissant qui se manifeste pour de nombreux nouveaux domaines du réseau d’IA, comme en témoignent les récents succès d'autres entreprises réseau, comme Arista et Nokia »,
Extension de Cisco Secure AI Factory
Même s’il y a encore peu d’informations précises sur le sujet, Cisco a également étendu sa plateforme Secure AI Factory, en intégrant davantage les logiciels de Nvidia afin d'améliorer l'observabilité, la surveillance et la cybersécurité du réseau pour les applications d'IA. Annoncée en mars, la plateforme Secure AI Factory avec Nvidia rassemble les technologies de sécurité et de mise en réseau de Cisco, les DPU de Nvidia et les options de stockage de Pure Storage, Hitachi, Vantara, NetApp et Vast Data.
Selon les fournisseurs, l'architecture de référence intégrée doit aider les clients à déployer, sécuriser et gérer plus facilement les applications d'entraînement et d'inférence des modèles d'IA. « Secure AI Factory répond aux besoins du marché des entreprises, en mettant l'accent sur la sécurité. Elle inclut l'intégration du logiciel Nvidia AI Enterprise afin d'offrir une cybersécurité robuste pour les applications d'IA utilisant NeMo Guardrails », a indiqué M. Raynovich. « Le produit peut également être combiné avec AI Defense de Cisco pour un déploiement sur site, ce qui permet aux équipes de sécurité et d'IA de protéger les modèles et les applications d'IA. »