Le fournisseur de stockage cloud Backblaze a remplacé ses liaisons 100 Gigabits par des liaisons 400 Gigabits, car l'IA a modifié la façon dont le trafic circule au sein de ses centres de données. Le fournisseur dispose actuellement de datacenters à Sacramento (Californie), Stockton (Californie), Phoenix (Arizona), Reston (Virginie), Amsterdam (Pays-Bas) et Toronto (Ontario). Les charges de travail IA exécutées chez des NCP comme CoreWeave et Lambda génèrent des flux irréguliers et imprévisibles qui submergent les modèles traditionnels de planification de capacité conçus pour un trafic cloud classique et stable. « Lorsque nous observons ces flux de données volumineux, leur transfert via notre réseau peut entraîner des points de saturation », explique Brent Nowak, responsable de l'ingénierie réseau chez Backblaze. « Nous disposons d'API, d'équilibreurs de charge, de serveurs de bases de données et de baies de stockage. » Et la charge de trafic est aggravée par la manière dont les données circulent dans le réseau, ce qui signifie que 400 gigabits de nouveau trafic peuvent se transformer en téraoctets par seconde à l’intérieur du centre de données, car les fichiers sont distribués et différentes parties de l’infrastructure doivent communiquer entre elles. « Et ce que nous avons observé s’est avéré très imprévisible », ajoute M. Nowak. « Nous venons de constater que ce qui se passe sur notre réseau un mardi peut être très différent de ce qui se passe un jeudi en termes de capacité et de charge de travail. » 

Backblaze a optimisé sa pile pour gérer ces pics de trafic à haute intensité. Aujourd’hui, le fournisseur déploie des capacités de plusieurs fois 400 gigabits par seconde dans le centre de données, explique Nowak. « Nous avons également augmenté la densité de nos commutateurs Arista », ajoute-t-il. « Là où nous avions des commutateurs à 32 ports de 100 gigabits, nous déployons désormais des ports de 400 gigabits. » Cela permet à Backblaze d’avoir une densité plus élevée, un débit plus important et de connecter davantage d’appareils, explique-t-il. Et Backblaze se projette également dans l’avenir. « Je travaille actuellement sur un projet visant à modéliser à quoi ressemblerait notre réseau si le volume de trafic était doublé ou quadruplé », explique Nowak. « Nous sommes confrontés à des pics de trafic qui peuvent submerger et affecter notre réseau d’une manière qui nous oblige à rester vigilants. Et, d’un point de vue technique, c’est plutôt passionnant. Donc, en fait, j’apprécie vraiment cela. » 

La proximité redevient importante

Selon un rapport que Backblaze a publié ce matin, le trafic provenant des réseaux de diffusion de contenu et des fournisseurs de services d’hébergement et d’Internet est resté largement dans les normes historiques au cours de l’année écoulée. Mais le trafic provenant des hyperscalers et des néoclouds a connu des fluctuations spectaculaires, avec des hausses brutales en septembre et octobre, puis une nouvelle augmentation en mars. Un autre changement dans le trafic réseau lié à l’IA concerne la géographie. « Traditionnellement, l’emplacement de l’infrastructure cloud n’avait pas d’importance », explique M. Nowak. Mais avec les charges de travail liées à l’IA, si le stockage est proche du calcul, les entreprises bénéficient d’une latence réduite et d’un débit plus élevé. 

Aujourd’hui, la Virginie et la Californie concentrent un grand nombre de fournisseurs de calcul IA. Cela attire à son tour davantage d’entreprises de stockage. « En juillet, nous avons choisi de doubler notre présence dans l’Est des États-Unis afin de nous rapprocher des hyperscalers et des néoclouds », explique M. Nowak. Et cela entraîne à son tour une demande encore plus forte en calcul, et une concentration encore plus grande. « Il y a un effet boule de neige », ajoute M. Nowak. 

Pourquoi les néoclouds pour l’IA ? 

Les entreprises pourraient penser qu’elles n’ont pas à se soucier des détails du trafic réseau si elles utilisent un hyperscaler pour leurs charges de travail d’IA, car les données et le traitement restent tous deux dans le cloud. Mais il y a des avantages à utiliser un fournisseur de stockage tiers combiné à des néoclouds pour les GPU. Selon un rapport publié par Synergy Research Group début avril, le chiffre d’affaires des néoclouds a atteint 9 milliards de dollars au quatrième trimestre 2025, soit une augmentation de 223 % par rapport à l’année précédente. Le chiffre d’affaires a dépassé les 25 milliards de dollars pour l’ensemble de l’année et devrait atteindre 400 milliards de dollars d’ici 2031. Les NCP offrent des contrats flexibles, un provisionnement plus rapide et des configurations d'infrastructure spécialisées, selon un rapport publié à la fin de l'année dernière par McKinsey — à des prix de GPU jusqu'à 85 % inférieurs à ceux des hyperscalers. « On constate que les hyperscalers doivent eux aussi se tourner vers les neoclouds », explique Stephanie Doyle, responsable du rapport chez Backblaze. 

Selon le rapport Silicon Data de mars, les prix des GPU Nvidia H100 proposés par les hyperscalers étaient environ trois fois plus élevés que ceux des fournisseurs de néoclouds. De plus, même si les hyperscalers ne facturent pas le transfert interne de données, il existe des coûts de transfert interrégional ainsi que des coûts de sortie de données. Et les coûts de stockage des données sont également plus élevés chez les hyperscalers. Selon un rapport d’avril de LeanOps, AWS S3 est le fournisseur de stockage objet grand public le plus cher, coûtant près de quatre fois plus cher que Backblaze et plus de trois fois plus cher que Wasabi, un autre fournisseur de stockage objet populaire. « Ajoutez les frais de sortie de 0,09 $ par Go et S3 peut coûter 10 à 17 fois plus cher que les alternatives en termes de dépenses mensuelles totales », écrit le fondateur de LeanOps, Ravi Kanani, dans le rapport. Les entreprises continuent de préférer AWS S3, ajoute M. Kanani, car S3 s'intègre à plus de 200 services AWS, opère dans plus de 30 régions, offre une gestion automatisée du cycle de vie et assure la sauvegarde de toutes les données avec une durabilité de 99,999999999 %. De plus, les « néoclouds » sont nouveaux sur le marché — d'où le préfixe « néo » — et présentent certaines limites. 

Le réseau, une brique cruciale pour l'IA

Et les fournisseurs de stockage ne sont pas les seuls à être confrontés à des problèmes d’infrastructure réseau liés à l’IA. Selon un rapport de recherche d’Omdia publié mi-avril, les NCP ont fait évoluer leur capacité de calcul pour les charges de travail d’IA, mais le réseau reste à la traîne. D’après cette étude, qui porte sur 50 néoclouds, plus d’un tiers des fournisseurs minimisent leur responsabilité contractuelle, ce qui signifie que les clients doivent prêter davantage attention aux engagements de service, à la sécurité et à la souveraineté des données. Plus de la moitié n'utilisent pas d'échanges de peering Internet, alors même que ceux-ci contribuent à garantir des performances constantes. Et bien que la propriété des adresses IP aide à soutenir la croissance et le contrôle du routage, 46 % des néoclouds ne contrôlent que de petits blocs d'adresses IPv4 — et un cinquième ne s'appuie que sur un seul fournisseur de transit IP, créant ainsi un point de défaillance unique.