Innovations matérielles et avenir du serverless sur Azure

Les événements de Microsoft permettent de découvrir les infrastructures et matériels sous-jacents à Azure. Ignite 2024 n’a pas dérogé à la règle. La présentation « Inside Azure Innovations » de Mark Russinovich a détaillé les efforts de l'éditeur pour améliorer l’efficacité de ses centres de données. L’optimisation des centres de données est essentielle, car les hyperscalers comme Azure supportent une part croissante de la charge réseau, en particulier avec les besoins énergétiques des modèles d’IA générative tels que ChatGPT. Une grande partie de cette charge résulte de l’entraînement des modèles d’IA, mais l’inférence a également des coûts. Microsoft, ayant des objectifs climatiques ambitieux, mise sur l’efficacité de ses centres de données pour les atteindre.

Remplir un centre de données de racks de serveurs n’est pas la méthode la plus efficace pour les exploiter. Azure et d’autres plateformes cloud perçoivent leur matériel différemment, comme des éléments distincts pour le calcul, le réseau et le stockage, combinés dans les blocs de base des machines virtuelles (VM). Aucun accès direct au matériel n’est autorisé, même pour les services de Microsoft, tout fonctionnant via des VM hébergées sur un OS Azure personnalisé basé sur Windows. Cependant, les machines virtuelles étant des entités logicielles, elles compliquent l’optimisation des performances. Depuis des années, Microsoft et ses concurrents travaillent à éliminer ces limitations, partageant des solutions via l’Open Compute Project. Parmi celles de la firme de Redmond figurent des contrôleurs externes pour le stockage NVMe et des accélérateurs spécifiques (FPGA) pour la compression réseau. Avec Azure Boost, il introduit des composants pour décharger certaines fonctions de son hyperviseur Azure. Une carte dédiée prend en charge les fonctions réseau et de stockage, avec des capacités E/S améliorées. Placée en dehors des limites des locataires, Azure Boost partage ses fonctions de manière sécurisée avec tous les utilisateurs du serveur.

Plus de FPGA dans le cloud

Le CTO a présenté une des premières cartes de production basées sur un FPGA Intel Agilex. Ces dernières permettent à Microsoft de déployer de nouvelles versions d’Azure Boost sur des serveurs existants sans remplacer les cartes mères ni imposer des temps d’arrêt prolongés. La carte Agilex fonctionne avec Azure Linux (nouveau nom de CBL-Mariner) sur des cœurs Arm. Les outils Azure Boost améliorent les performances des VM. Par exemple, pour le stockage distant, ils accélèrent les transferts via des interfaces NVMe matérielles, augmentant de 15 % les IOPS et de 12 % la bande passante. Avec des centres de données entiers de VM, ces gains permettent de faire fonctionner davantage de machines sur le même matériel.

Pour le stockage local, Azure Boost a un impact encore plus marqué, notamment pour Kubernetes ou les workloads conteneurisés. Les performances passent de 3,8 à 6,6 millions d’IOPS et la bande passante de 17,2 à 36 Go/s. Les performances réseau profitent également de deux connexions par rack offrant un débit jusqu’à 200 Gbps, soit une amélioration par neuf. La solution réduit également les interruptions liées aux mises à jour de l’infrastructure. M. Russinovich a démontré une mise à jour du réseau en moins de 250 ms, sans impact notable sur les connexions actuelles.

Des innovations réseau avec du matériel personnalisé

Azure Boost s’appuie sur une pile SDN (Software-Defined Networking) développée par Microsoft, basée sur son logiciel Sonic. Le fournisseur déploie des commutateurs intelligents utilisant des unités de traitement des données (DPU) personnalisées pour gérer plus de 1,5 million de connexions par seconde. En ajoutant des DPU, Azure peut répondre à des pics de demande. Ces innovations matérielles soutiennent également l’évolution des plateformes logicielles. Mark Russinovich a affirmé : « Nous croyons que l’avenir du cloud est serverless », et des fonctionnalités comme Azure Boost permettent une capacité accrue pour les opérations serverless.

Une exécution sécurisée et efficace à grande échelle

Ces technologies alimentent les services Azure, comme Azure Container Instances (ACI), qui propose Kubernetes en mode serverless. Avec des nœuds virtuels en attente, ACI peut répondre rapidement à des besoins soudains, comme lancer 10 000 pods en 90 secondes. Les pods d’ACI sont également conçus pour être sécurisés en environnement multi-locataires, chaque workload étant isolé. Cela permet à des entreprises comme OpenAI d’utiliser l’infrastructure Azure pour héberger leurs services d’inférence en toute sécurité. Azure introduit aussi les « NGroups » pour gérer des ensembles de conteneurs comme une seule unité, facilitant le déploiement sur plusieurs zones de disponibilité avec redémarrage automatique en cas de panne.

Calcul confidentiel : une sécurité accrue

Microsoft étend ses capacités de calcul confidentiel avec un HSM intégré à ses serveurs. Cette innovation garantit que les clefs ne sont jamais exposées au-delà des limites de la machine virtuelle. De plus, Microsoft applique ces principes aux GPU, permettant des processus d’inférence entièrement chiffrés via des canaux sécurisés, une technologie qu’elle appelle OpenAI Whisper.

Partage sécurisé de données avec Azure Confidential Clean Rooms

Azure Confidential Clean Rooms offre une solution aux entreprises souhaitant partager des données sans les exposer. Une entreprise peut ainsi affiner un modèle d’IA avec les données de son client dans un environnement sécurisé respectant des règles strictes. Les résultats sont accessibles uniquement après validation des politiques de sécurité. Les innovations présentées par Mark Russinovich lors d’Ignite 2024 révèlent les avancées matérielles et logicielles d’Azure pour soutenir un futur serverless. Elles soulignent comment Microsoft anticipe les besoins croissants des entreprises tout en poursuivant ses objectifs d’efficacité et de sécurité, ouvrant la voie à des applications innovantes et éthiques dans le cloud.