Datacenters : HPC et IA accélèrent l'adoption du refroidissement liquide

L’IA générative est loin d’être écolo, en effet, les systèmes de GenAI avec leurs modèles d’entrainement de données réclament énormément de puissance de calcul et de ressources de stockage. Résultat : plus de serveurs et de baies dans les datacenters avec à la clé une consommation d’électricité qui explosent. Selon le cabinet IDC, les charges de travail liées à l’IA pourraient compter pour 20% de l’électricité consommée par les centres de données en 2027, contre 9% en 2023. A l’heure actuelle, les datacenters consomment 5 % de la production mondiale d’électricité, ce poste représente d’ailleurs la plus grosse dépense pour les opérateurs de datacenters, soit 46 % des dépenses totales. Plus généralement, IDC estime que la consommation mondiale d’électricité des centres de données va plus que doubler entre 2023 et 2028, avec une croissance annuelle de 19,5 % pour atteindre les 857 térawattheures (TWh) en 2028. L’AIE (agence internationale de l’énergie) va même plus loin en indiquant que le besoin en électricité des datacenters équivaudrait à celui produite par le Japon, soit plus de 1 000 TWh d’ici 2026. L’agence cite l’IA comme la principale cause mais aussi les cryptoactifs, très gourmands en énergie et ouvertement soutenus par l’administration Trump. A l’heure où le coût de l’énergie explose, l’impact est aussi financier. Ainsi, pour Gartner qui a simulé plusieurs scénarios (pour un datacenter affichant un PUE de 1,5), les dépenses en électricité devraient augmenter de 15% par an.

L’eau, une ressource aussi très sollicitée

A cela s’ajoute la consommation d’eau pour refroidir les datacenters, elle a atteint des sommets. Preuve en est, dans son rapport annuel sur l’environnement, Google indique avoir consommé 24 milliards de litres d’eau en 2023 pour ses datacenters et ses bureaux, soit l'équivalent de ce qu'il faut pour irriguer 43 terrains de golf par an, en moyenne, dans le sud-ouest des États-Unis. Cette consommation représente une augmentation de 14 % par rapport à 2022. De son côté, Microsoft avait souligné dans son rapport publié en 2022 que sa consommation avait atteint les 6,4 milliards de litres d’eau (plus de 2500 piscines olympiques) contre 4,7 en 2021, une augmentation, là aussi due en partie à l’IA. De ces constats, les émissions de CO2 bondissent chez la majorité des acteurs à cause de l’IA, par exemple, celles de Google ont grimpé de 48 % depuis 2019 (+ 13% rien qu’en 2023). A titre indicatif, l’industrie numérique représente aujourd’hui environ 5 à 6 % des émissions mondiales de gaz à effet de serre, qu’en sera-t-il en 2030 quand la GenAI sera massivement exploitée par des milliards d’utilisateurs et plus seulement par les quelques millions d’aujourd’hui ? Difficile d’apporter des résultats globaux mais selon l'Electric Power Research Institute (EPRI), chaque question à ChatGPT consommerait environ 2,9 kWh d’électricité, soit près de dix fois plus que les 0,3 wh nécessaires pour une recherche standard sur Google. Selon l’Université de Copenhague, l’empreinte carbone liée à une séance d’entraînement de la version ChatGPT-3 représente 700 000 km parcourus par une seule voiture automobile équivalent CO2.

Refroidissement liquide : une évolution devenue nécessaire pour les serveurs HPC

La gestion thermique est devenue un défi majeur dans l’univers des centres de données. Avec des composants atteignant des niveaux de performance sans précédent, notamment les CPU Intel Xeon et AMD Epyc ou les GPU Blackwell de Nvidia, les méthodes traditionnelles de refroidissement ne suffisent plus. HPE, grâce à ses avancées techniques dans les serveurs ProLiant, répond à cette problématique avec des solutions de refroidissement liquide à la pointe de l’innovation. Gerald Kleyn, vice-président et directeur général des solutions HPC chez HPE, nous a résumé lors de Discover 2024, à Barcelone en décembre dernier, l’impact de ces avancées : « Nos systèmes permettent une réduction de 30 % de la consommation énergétique globale tout en optimisant les performances de calcul. »

Une architecture pensée pour le refroidissement liquide intégral

Les derniers serveurs ProLiant se distinguent par leur architecture spécifiquement conçue pour un refroidissement 100 % liquide. Contrairement aux solutions hybrides (qui associent refroidissement liquide pour les processeurs et refroidissement par air pour le reste des composants), HPE mise sur une approche systémique. Chaque élément critique – CPU, GPU, interconnexions, unités de distribution électrique – est refroidi par des systèmes dédiés, sans recours à des ventilateurs internes. Cette innovation repose sur des plaques froides (cold plates) placées directement sur les composants. Elles permettent de capturer efficacement la chaleur produite par les derniers CPU Intel Xeon et AMD Epyc, ainsi que les GPU Nvidia, notamment ceux basés sur l’architecture Blackwell. En optimisant l’extraction thermique à la source, HPE parvient à maintenir des températures stables même lors de charges de travail extrêmes. « Cette technologie permet de repousser les limites des composants tout en réduisant considérablement les besoins en énergie pour le refroidissement », explique Gerald Kleyn.

Les dernières générations de puces, comme les AMD Epyc et les Intel Xeon Sapphire Rapids, sont connues pour leurs performances, mais aussi pour leur densité thermique. Avec jusqu'à 192 cœurs et des consommations atteignant 500 W par processeur, ces composants exigent une gestion thermique particulièrement performante. Les ProLiant intègrent une solution unique : des plaques froides multi-niveaux qui répartissent uniformément le liquide de refroidissement sur les zones les plus chaudes des processeurs. Cette technologie garantit une dissipation homogène de la chaleur, augmentant la fiabilité et la durée de vie des composants. De plus, ces systèmes sont compatibles avec des configurations de très haute densité, comme les serveurs pouvant accueillir jusqu’à huit accélérateurs Nvidia dans un seul châssis.

Des innovations exclusives pour les GPU Nvidia

Les GPU Nvidia, notamment ceux de la gamme Blackwell et Hopper, sont au cœur des charges de travail en intelligence artificielle et en calcul haute performance (HPC). Ces accélérateurs, capables de consommer jusqu'à 700 W par unité, représentent un défi thermique majeur. HPE a conçu une architecture de refroidissement qui ne se limite pas aux processeurs graphiques eux-mêmes, mais englobe également les convertisseurs de tension et les interconnexions associées. Le système de refroidissement liquide des ProLiant utilise des canaux directs pour dissiper la chaleur des GPU, mais également des composants périphériques tels que des transceivers et des cartes mères spécialement désignées. « Nos solutions permettent une gestion thermique intégrale des GPU, évitant les points chauds et réduisant les besoins en maintenance », précise Gerald Kleyn. Cette approche permet également de maximiser l’efficacité énergétique en minimisant les pertes dues à la conversion de puissance.

Une innovation technologique au service des supercalculateurs et de l’IA

Les innovations de HPE dans le domaine du refroidissement liquide se traduisent par des performances impressionnantes. L’entreprise équipe les trois supercalculateurs les plus rapides au monde, dont le célèbre Frontier, capable de traiter 1,1 exaflop (1 milliard de milliards d’opérations par seconde). Ces machines, utilisées pour des applications allant de la recherche climatique à l’exploration spatiale, tirent parti des systèmes de refroidissement avancés pour fonctionner de manière optimale. Les innovations en refroidissement liquide de HPE ne se limitent pas à améliorer les performances des composants. Elles répondent également à des enjeux environnementaux majeurs. Grâce à ces systèmes, les serveurs ProLiant enregistrent une réduction de 90 % de la consommation énergétique liée au refroidissement, contribuant ainsi à une baisse de 30 % de la consommation globale, selon le dirigeant. Outre cet impact énergétique, les solutions de HPE permettent de réduire l’empreinte au sol des centres de données. La densité accrue des composants, rendue possible par le refroidissement liquide, libère de l’espace, facilitant l’intégration de nouvelles infrastructures dans des environnements contraints. HPE ne compte pas s’arrêter là. L’entreprise travaille déjà sur des solutions encore plus performantes pour accompagner les évolutions des CPU et GPU de nouvelle génération. Des développements dans les technologies de mémoire à haut débit et des interconnexions ultra-rapides sont en cours pour anticiper les besoins futurs. Gerald Kleyn se projette : « La montée en puissance des composants et des charges de travail nécessitera des innovations continues dans la gestion thermique ». 

Serge Leblal

Aujourd’hui, la majorité des datacenters, environ 95%, utilise le refroidissement par air, 40% de la consommation électrique d'un datacenter étant d’ailleurs dédiée au refroidissement et à la climatisation des salles de serveurs. Toutefois, face à la démocratisation galopante des charges IA et du HPC, le système de refroidissement par air a atteint ses limites. « Nous ne nous voyons pas comment assurer une efficacité avec un système de refroidissement par air capable de supporter une densité maxi de 30 kW par rack (voire moins) alors que les densités à venir dépassent déjà et vont dépasser les 40, 50 voire 100 kW » indique François Salomon, business development manager offre froid climatisation chez Schneider Electric. La cause : les composants CPU et surtout GPU qui consomment énormément d’énergie et qu’il faut refroidir plus efficacement. A titre d’exemple, le B200 Blackwell, dernier né des GPU de Nividia, comporte certes des milliards de transistors mais il affiche une consommation record (TDP de 1000W pour le B200). Dans ces conditions, les configurations en Blackwell pourraient nécessiter de 60 à 120 kW par rack, et comme la majorité des datacenters peuvent assurer une densité à maximum 25-30 kW par rack, ça coince. L'alternative la plus viable au refroidissement par air est le refroidissement liquide (Liquid Cooling) qui est proposé sous différentes technologies : les échangeurs de chaleur à porte arrière mais surtout le refroidissement direct sur puce (DLC ou Direct Liquid Cooling) ou encore le refroidissement par immersion, très peu apprécié des DSI français. Le DLC est par exemple une technique choisie par Digital Reality dans son hub PAR10 à La Courneuve. Comme le mentionne David Tison, ingénieur technico-commercial Sud- Est chez Effirak, une société spécialisée dans l’assemblage et la personnalisation de salles IT et qui lançait justement sa gamme de refroidissement DLC lors du dernier salon Data Centre World Paris, l’objectif du DLC est de refroidir le cœur des serveurs, c’est à dire jusqu’aux composants CPU et surtout GPU très énergivores. Comment ? par des plaques froides ou des tuyaux remplis d’eau ou d’un liquide, généralement du PG25 (à base de glycol), positionnés au plus près des composants. En soi, ce procédé du DLC n’est pas nouveau, les gamers l’avaient déjà adopté il y a plusieurs années ; comme nous le répétons régulièrement dans nos colonnes, les usages grand public finissent toujours par arriver dans les entreprises.

Techniquement, ce liquide froid absorbe la chaleur qui est envoyée vers une unité de distribution du liquide de refroidissement (CDU) puis vers un échangeur de chaleur. Lorsque le liquide a été refroidi, il est renvoyé vers ces plaques, fermant ainsi la boucle. Les CDU sont fournis par des fabricants comme Vertiv ou Schneider Electric, ce dernier s’apprête d’ailleurs à lancer un CDU (modèle CPOR1000A) de 1 MW de capacité frigorifique. Chez Lenovo, le DLC (aujourd’hui sous son initiative Neptune) est une histoire déjà ancienne qui remonte à l’époque d’IBM (solution iDataPlex full DLC). Pour Cyril Fakiri, solutions sales leader sur la partie Infrastructure Solutions Group chez Lenovo, cette technologie est devenue nécessaire pour répondre à cette densification dans les datacenters. Un avis que partage Séverine Hanauer, directrice segment stratégique télécom et déploiement edge chez Vertiv pour l’Europe du Sud : « La technologie DLC est effectivement exploitée pour des densités supérieures à celles opérées par le refroidissement par air ce qui améliore l'efficacité des centres de données et entraine aussi une réduction des coûts énergétiques ». Pour François Salomon, sans mettre en péril la fiabilité de l’infrastructure déjà existante, l’avantage du DLC est aussi que 80 à 90% de la chaleur est récupérée. A noter que les projets d’intégration de ces systèmes dans les bâtiments se basent sur des données précises normalisées, notamment celles émises par l’ASHRAE (American Society of Heating, Refrigerating, and Air-Conditioning Engineers), l’organisme va d’ailleurs prochainement renouveler ces guidelines sur les différents serveurs et GPU.

Déjà des offres commerciales en immersion cooling

Pour des densités par rack encore supérieures, certains acteurs s’intéressent aux technologies d’Immersive Cooling. Lors du salon Data Centre World qui s’est tenu à la Porte de Versailles en novembre dernier, l’hébergeur TotaLinux, via sa startup Itrium, a montré un système immersif en expliquant son fonctionnement. « Dans ce système, les serveurs sont immergés dans un fluide diélectrique qui les refroidit via un circuit fermé piloté par un CDU (ndlr : d’origine Midas Immersion Cooling pour ce cas précis) », résume Johan Da Silva, commercial chez TotaLinux. Dans cette démonstration, deux types de serveurs sont utilisés, le premier, plutôt classique, a nécessité une préparation en amont par les équipes d’Itrium, ainsi toutes les pièces en friction comme les ventilateurs ont été extraites. Pour la deuxième catégorie de serveurs, Itrium a inséré des nouveaux modèles spécialement conçus par un constructeur partenaire. Quant au fluide utilisé, c’est une sorte d’huile isolante créée par Total Energies. « Cette huile biosourcée, appelée Biolife, a un grand pouvoir caloporteur et se change tous les 20-25 ans », précise Johan Da Silva. Itrium devrait inaugurer sa technologie d’immersion dans un datacenter prévu à côté de Versailles dans les Yvelines d’ici à six mois. Chez Datacampus, un hébergeur dont le datacenter est situé au Futuroscope possède déjà une offre commerciale en immersion cooling depuis quelques années (voir dernière partie - cas d’usage). En se basant sur ces partenaires, Fujitsu pour les serveurs et l’entreprise barcelonnaise Submer pour la partie immersion, Datacampus peut afficher de solides avantages à ses clients : une consommation électrique réduite de 30%, une densité de 60 kW au mètre carré et un PUE moyen à 1,005 en moyenne sur deux ans. Datacampus mesure la densité au sol car l’immersion cooling est une technologie qui prend surtout de l’espace au sol contrairement aux classiques armoires verticales dans lesquelles on empile les serveurs. En outre, d’après les défenseurs de l’immersion cooling, le datacenter immergé ne fait pas de bruit et nécessite moins de machineries. Il n’est donc plus nécessaire de prévoir un bâtiment ou une salle entièrement pensés pour recevoir les équipements. Reste que cette technologie nécessite du personnel bien formé pour intervenir, des compétences que l’on ne retrouve pas dans les écoles et les centres de formation note à ce titre Pierre Pluviaud, directeur général de Datacampus. « Nous avons appris à égoutter un serveur. Pour intervenir sur des opérations de maintenance, nous avons développé de l’outillage et des procédures afin de ne pas mettre en danger les personnes qui les manipulent ». Pour Cyril Fakiri, la maintenance en immersion reste compliquée et pose aussi d’autres problèmes. « Nous menons aussi des PoC en immersion et nous avons constaté qu’il est difficile de contrôler le chemin de l’huile pour un refroidissement efficace en cas de forte densité, l’immersion nécessite un design nouveau avec des machines ajourées et des composants positionnés différemment sur la carte mère ». Si Lenovo comme HPE n’ont pas pour l’heure l’intention de lancer des gammes dédiées, d’autres s’y intéressent à l’image du français 2CRSi avec sa gamme Atlantis.

Vers des systèmes de refroidissement hybrides

Fabrice Coquio, président de Digital Realty France et senior vice-président pour la région méditerranée, tient aujourd’hui à relativiser sur les usages liés à la GenAI, rares sont encore les besoins de densité à 50 kW. « Nous répondons d’abord aux besoins de nos clients, très récemment, nous avons été contactés par une grande banque dont les besoins ne dépassent pas les 2 kW » et de poursuivre : « certains modèles d’entrainement de l’IA réclament effectivement de la haute densité mais il ne faut pas non plus en faire une généralité ». Selon nos interlocuteurs, l’avenir est plutôt aux datacenters hybrides mélangeant plusieurs technologies de refroidissement en fonction des usages des entreprises. Le fait de provisionner des VM pour des besoins classiques ne nécessite sûrement pas un système de refroidissement liquid cooling onéreux dans le datacenter. A l’opposé, l’entrainement de la GenAi, très gourmande en ressources de calcul et de capacités de stockage fait appel à des GPU dans l’accélération des tâches sur des grands ensembles de données, là le liquid cooling s’impose pour refroidir le datacenter. Et, pour des densités très élevés, il est tout à fait envisageable de combiner plusieurs systèmes de refroidissement, par exemple un dispositif DLC qui refroidit les puces, lesquels sont fixés sur des serveurs immergés dans un bain d’huile. De la pure spéculation technologique, pas si sûre.

En France, 315 datacenters étaient répertoriés par le cabinet d’études Statista, un chiffre qui peut toutefois monter à plusieurs milliers (environ 2500 à 3000) si l’on compte les salles privées, et pour alimenter tous ces datacenters en électricité et en eau, les besoins deviennent considérables. La consommation d’électricité des 315 data centers serait proche des 10 TWh (en se basant sur les chiffres de l’AIE), soit plus de 2% de la consommation totale française, et l’équivalent de la consommation électrique annuelle de plus de 2 millions de foyers. Et ce n’est pas fini pour Fabrice Coquio, président de Digital Realty France et senior vice-président pour la région méditerranée : « Le problème concerne bien l’alimentation électrique au vu des demandes actuelles et même parfois fantomatiques venus des foncières et de prometteurs pour des questions de rentabilité. C’est l’embouteillage, résultat : RTE/Enedis croule sous les demandes, ainsi pour obtenir une puissance qui dépasse les 200 mW, c’est 8 ans d’attente. La dérégulation européenne de l’énergie par les états membres a fortement déstabilisé les opérateurs de réseaux avec pour conséquences un sous-investissement dans les réseaux, pas de chance à l’heure où les usages explosent ». Face à la France qui dispose plutôt d’un bon réseau et qui reste un pays exportateur d’électricité, d’autres pays européens sont dans une situation bien plus délicate à l’image des Pays-Bas qui ont restreint les implantations de centres de données en raison des contraintes qu'ils font peser sur le réseau, mais surtout de l’Irlande. En effet, le pays n’arrive plus à alimenter les datacenters qui s’accumulent autour de sa capitale Dublin. Certes, l’Irlande est un cas particulier, le pays n’a déjà pas un passé industriel comme ses confrères européens. De plus, le nombre de datacenters est disproportionné par rapport au nombre d’habitants, si bien que les datacenters représentent plus de 20% de la consommation électrique du pays. L’été dernier, le conseil du comté de Dublin Sud a refusé l’implantation d’un centre de données Google de 72 000 m² dans le quartier d’affaire Grange Castle dans la banlieue de la capitale. Le conseil a mis en avant une capacité électrique insuffisante sur le réseau national et un manque d’énergie renouvelable significative sur le site. Comment peut-on palier à ce problème ?  Pour Fabrice Coquio, ce n’est donc plus l’électricité qui va venir aux datacenters, mais le contraire : les datacenters vont aller à la source d’énergie. Les grands acteurs du cloud réfléchissent effectivement à ces solutions alternatives d’aller au plus près de la source comme Amazon qui a décidé de bâtir un datacenter à proximité de la centrale nucléaire de Susquehanna en Pennsylvanie. Quant à Microsoft, l’éditeur souhaite, en partenariat avec Constellation Energy, remettre en service le réacteur de la centrale de Three Mile Island qui avait subi un grave accident en 1979 ayant débouché sur des rejets radioactifs. Autre solution envisagée, celle des mini-réacteurs nucléaires modulaires (SMR), des technologies prometteuses mais encore immatures. Microsoft s’y intéresse comme Google qui s’appuie sur la startup Kairos Power pour une mise en service de son premier SMR dès 2030. Mais comme le mentionnent très justement Fabrice Coquio et plusieurs de nos interlocuteurs rencontrés sur le salon Data Centre World Paris, qui va se réjouir d’habiter à côté d’un SMR ? là se pose un vrai problème, celui de l’acceptabilité.

De l’éolien à l’espace

Plus vertueux, d’autres acteurs comme l’exploitant allemand de parcs éoliens WestfalenWind et l’industriel allemand Rittal viennent de mettre en œuvre des datacenters directement implantés au pied des éoliennes. L’objectif est bien de bénéficier d’un approvisionnement direct en énergie éolienne. Certains se lancent dans les datacenters flottants comme l’entreprise américaine Nautilus Data Technologies ou encore la startup française Denv-R dont le premier a d’ailleurs été inauguré il y a deux mois à Nantes. Ce datacenter s’alimente directement de le Loire pour se refroidir. De son côté, pour réduire drastiquement sa consommation d’eau, Microsoft travaille, depuis août dernier, sur un concept de refroidissement avec de l'eau en boucle fermée pour fournir un contrôle précis de la température en limitant l'évaporation de l'eau. En outre, d’autres projets, plus atypiques, explorent les fonds marins, la Chine avait commencé en 2023 à construire un datacenter en forme de cylindre à 20 mètres de profondeur au large de la côte de Hainan, dans le sud de la Chine. Ce prototype devrait être achevé en 2025, à voir ce qu’il permettra réellement d’économiser en termes d’énergie. Microsoft a quant à lui, décidé de stopper son projet de datacenter sous-marin Natick malgré des retours positifs de cette expérience d’après la firme de Redmond. Finalement, la solution ultime ne serait-elle pas l’espace, là aussi plusieurs startups (Lumen Orbit par exemple) et grandes entreprises mènent des expérimentations de placer des centres de données en orbite alimentés par des panneaux photovoltaïques, comme les satellites.

Pour Séverine Hanauer, directrice segment stratégique télécom et déploiement edge chez Vertiv pour l’Europe du Sud, la conception d’un datacenter plus efficient passe aussi par l’optimisation des composants et des matériels. Ainsi, Vertiv s’inspire par exemple dans la conception de ces ventilateurs de l’aéronautique et de l’automobile. La société travaille aussi depuis de longues années avec Nvidia sur des solutions d'alimentation et de refroidissement, elle planche d’ailleurs sur un nouveau système de refroidissement liquide innovant pour les GPU GB200 NVL72. D’autre part, la miniaturisation des processeurs (CPU, GPU, NPU, etc.) opérée par les fondeurs devrait participer à réduire la consommation d’énergie. Comment ? en les gravant plus finement dans leurs propres usines ou dans celles de leurs partenaires technologiques (comme TSMC), actuellement, les puces sont gravées en 5 nanomètres, voire en 3 nm pour les plus avancés. Une gravure plus fine signifie un transistor plus petit qui consomme moins d’énergie mais permet en parallèle de positionner plus de transistors donc plus d’opérations et de performances à la clef De plus, les fondeurs ont tendance à multiplier le nombre de cœurs. C’est le serpent qui se mord la queue. Cela dit, si les processeurs x86 équipent la majorité des serveurs dans les datacenters, les puces Risc d’Arm et ses dérivés, sont reconnus pour être moins énergivores. Celles-ci, s’imposent donc de plus en plus dans les datacenters, par exemple, les Graviton d’AWS, conçus sur une architecture Arm dans leur quatrième génération, améliorent non seulement les performances, de l’ordre de 30 % à 50 %, mais aussi la consommation, jusqu’à 60 % d’énergie en moins, selon AWS, par rapport aux instances EC2 comparables sur x86. Séduits par l’architecture Arm, plusieurs fournisseurs comme Lenovo s’apprêtent également à commercialiser des gammes de serveurs dédiés.

Repenser le design des composants et des machines

L’économie de l’énergie se joue aussi sur la conception même des composants, IBM travaille ainsi depuis quelques années avec le MIT sur une mémoire à changement de phase (PCM) qui pourrait servir d'alternative à la DRAM, les premiers tests, selon big blue, indiquent que ce type de mémoire consomme 14 fois moins d’énergie. Une équipe de recherche de Stanford travaille aussi sur une mémoire à changement de phase plus rapide et plus économe en énergie, cette mémoire repose sur le GST467, un alliage composé de plusieurs minéraux (germanium, antimoine et tellure). Les travaux s’animent également autour du design des machines. Par exemple, Lenovo, qui reste dans un standard de 19 pouces, positionne ses lames dotées de la technologie de refroidissement DLC de manière verticale et non plus horizontalement. Ce changement lui permet de caser 8 lames équipées de deux serveurs chacune (les modèles SC750), soit 16 serveurs. A noter que trois châssis de ce type, - appelé chez Lenovo ThinkSystem N1380 Neptune et conçu pour des armoires racks 19 pouces - rentrent dans une armoire de 42U pour 120 kw. Chez Dell, le programme Integrated Rack Scalable Systems (IRSS) fournit des armoires préconfigurées et prêtes à l’emploi avec Smart Cooling pour accueillir des serveurs aux performances élevées tout en maintenant l'efficacité énergétique. Le texan a étendu le programme IRSS pour inclure les serveurs PowerEdge XE7740 et XE9685L dans l’Integrated Rack 5000 (format 19 pouces standard). L’Integrated Rack 7000 (21 pouces au standard OCP) est une mise à jour du modèle IR 5000 existant. (lien vers ). A noter que dans l'Open Compute Project (OCP), au sein duquel collaborent plusieurs entreprises de renom (Dell Technologies, Intel, ARM, Google, HPE, Vertiv et bien d’autres), l’objectif est bien de partager ouvertement des designs et des techniques pour les équipements de datacenter. A cette recherche sur le design des composants et des équipements s’ajoute aussi la manière de gérer les ressources, c’est l’objectif de l’informatique composable qui existe déjà depuis des années. L’informatique composable consiste, en quelque sorte, à faire du sur-mesure au niveau des ressources (calcul, stockage et/ou structure réseau) dans du rack standard, l’ensemble étant géré par une interface unique comme le fait déjà Dell avec Apex, HPE avec GreenLake ou encore Lenovo avec Truscale.

Aller vers des petits modèles d’entrainement pour l’IA Gen

En outre, il faudrait aussi inciter les utilisateurs à surveiller l'influence de leurs logiciels sur la consommation d’énergie pour rendre, in fine, le datacenter plus durable, bref de porter aussi le développement durable dans la conception des logiciels, une promesse bien difficile à tenir à l’heure où les éditeurs équipent leurs logiciels d’assistants conversationnels IA basés, pour la plupart, sur des grands modèles très énergivores. Peut-être faudrait-il se contenter de modèles plus petits qui réclament moins de données et donc moins de ressources énergétiques. Des places de marché comme Hugging Face regorge de petits modèles spécialisés, mais les habitudes perdurent avec cette tendance du bigger is better. 

Datacampus, entreprise innovante située à côté du Futuroscope, est une histoire de famille, comme le raconte Pierre Pluviaud, son directeur général, ainsi de son arrière-grand-père qui vendait des machines à écrire à son père qui distribuait du matériel à l’IT, l’entreprise fait désormais de l’hébergement web. Et sa particularité est que son dirigeant l’a transformé en société à mission autour du développement durable. « Notre bâtiment est construit avec des matériaux écologiques (structure en bois, toiture végétale, isolation en ouate de cellulose, récupération de la chaleur pour chauffer les bureaux, etc.) et notre datacenter a aussi été conçu dans cet esprit de développement durable », précise Pierre Pluviaud. Preuve en est, le datacenter de Datacampus est l’un des rares à exploiter en France l’immersion cooling pour refroidir les serveurs. Pour y arriver, la société s’est entourée de deux partenaires majeurs, Fujitsu pour les machines, et Submer, une firme barcelonaise spécialisée dans l’immersion. Bien sûr, comme le précise Pierre Pluviaud, il a fallu adapter les serveurs (sans ventilateur, flashage du bios, etc.) qui ne sont pas à l’origine conçus pour être immergé dans un fluide diélectrique. A noter que l’hébergeur ne s’interdit pas de travailler avec d’autres constructeurs de serveurs. En termes de bénéfices, l’usage de l’immersion cooling est immédiatement visible sur la consommation électrique. « Depuis deux ans, nous affichons en moyenne un PUE de 1,005 », indique Pierre Pluviaud qui ajoute toutefois ne pas proposer pour l’instant d’instance GPU. Cela dit, des inférences IA seront lancées début 2025 et son infrastructure est déjà prête puisqu’elle promet déjà de supporter une densité jusqu’à 60 kW au métré carré. « Un rack climatisé, ça prend 3 m² pour 1,4 kW au m². En immersion, il faut 3 m² au sol mais on bénéficie de 60 kW » précise le responsable de l’entreprise, et d’ajouter : « Etant donné que l’on augmente la densité des serveurs, nous déployons moins d’équipements réseau ».

Le problème du foncier

D’un point de vue opérationnelle, l’immersion cooling présente aussi quelques avantages. « Dans une configuration traditionnelle d’un datacenter si la climatisation s’arrête, vous prenez 1 degré par minute. Avec l’immersion cooling, si on coupe, nous avons trois à quatre heures devant nous sans hausse de température car le liquide offre une plus grande inertie thermique », explique Pierre Pluviaud. Autre point important mis en avant par le dirigeant, c’est le foncier à l’heure où il est de plus en plus difficile de construire des datacenters dans les zones déjà fortement urbanisées. En effet, un datacenter en fin de vie (et ils sont nombreux en France) est très difficile à requalifier étant donnée les nombreuses contraintes et les coûts engendrés, de ce fait, on repart souvent de zéro. Alors qu’avec la technologie d’’immersion cooling, il est possible de la déployer dans n’importe quel bâtiment, c’est une véritable solution plug and play. Pour la maintenance, le dirigeant reconnait qu’il a fallu développer de l’outillage et des procédures notamment pour extraire les serveurs de leur bain sans mettre en danger les personnes qui les manipulent. « Nous utilisons une chèvre pour lever les serveurs comme le fait un garage pour extraire le moteur d’une voiture. Nous avons aussi appris à égoutter les serveurs ». Enfin, d’un point de vue commercial, l’immersion cooling est un avantage concurrentiel puisqu’elle séduit déjà de nombreux clients d’Andros à la Macif en passant par le Vendée Globe 2024 qui n’a en soi pas besoin d’une installation de 60 kW, mais qui leur permet de certifier dans leur rapport interne un usage durable de leurs besoins IT.