Ce que n'est pas parce que la technologie change qu'il en va de même pour les sources de dérives des coûts. C'est un peu la conclusion qu'on pourrait tirer d'une étude de Cast.ai, portant sur les coûts des clusters Kubernetes. Pour mener son enquête, l'éditeur qui propose un outil d'optimisation de cette technologie d'orchestration de conteneurs a analysé 4000 clusters de plus de 50 CPU tournant sur AWS, GCP (Google Cloud Platform) ou Microsoft Azure, avant utilisation de sa solution. Objectif : chiffrer les écarts entre les ressources mises à disposition des clusters et leur niveau d'utilisation réel.

Et, pour Cast.ai, cet écart est massif. Selon le rapport, seule 13% de la puissance de calcul est exploitée en moyenne et 20% des capacités de mémoire. Ce qui, au passage, n'est guère différent des niveaux d'utilisation des serveurs on-premise non virtualisés ! Pour l'éditeur, ces niveaux sont même probablement sous-estimés puisqu'ils concernent des entreprises qui se sont intéressées à une technologie d'optimisation des ressources sur Kubernetes. Donc qui disposent d'un niveau de maturité plus élevé que la moyenne sur la technologie d'orchestration. Et les autres ? « Elles se débattent avec les complexités induites par la gestion d'infrastructures cloud-native et répètent les mêmes erreurs coûteuses qu'en 2022 », estime l'éditeur dans son rapport. Seuls les mégaclusters (plus de 30 000 CPU) font significativement mieux, avec un taux d'utilisation bien plus élevé (44%).

Instances spot sous-utilisées

Cast.ai identifie trois raisons principales qui conduisent les DSI à trop dépenser dans les ressources supportant les clusters Kubernetes : le surprovisionning au niveau du cluster évidemment, mais aussi des marges de manoeuvre injustifiées dans les requêtes mémoire et CPU des pods (un paramétrage de la technologie d'orchestration) et la sous-utilisation des instances spot, bradées par les prestataires de cloud. Dans le cas de Google, s'ajoute le faible usage des instances personnalisées. Cette difficulté à optimiser les dépenses dans les clusters Kubernetes intervient dans un contexte lui-même fortement inflationniste : selon Cast.ai, le prix des instances spot s'est envolé en moyenne de 23% entre 2022 et 2023 sur les régions cloud aux États-Unis, même si leur coût reste bien inférieur aux services standards (en moyenne, 1,8 $ par heure et par CPU, contre 6,7 $ pour une instance à la demande).

Selon le cabinet d'études Gartner, la dépense mondiale sur le cloud public devrait progresser de 20,4% en 2024 à 679 Md$ contre 564 Md$ en 2023.