Un modèle performant d’IA a besoin d’un socle d’exécution adapté (GPU, calcul, stockage, réseau). Il doit être dimensionné pour absorber la charge, tout en respectant les contraintes énergétiques et de souveraineté. Qu’il s’agisse d’un environnement cloud ou de postes de travail optimisés pour l’IA, le choix d’infrastructure doit avant tout découler des usages réels et des besoins métiers.

Lorsqu’un porteur de projet souhaite déployer des workloads d’IA en périphérie (Edge IA), par exemple pour de l’analyse vidéo sur site industriel ou de la maintenance prédictive embarquée, notamment pour des raisons de confidentialité ou de souveraineté des données, la première étape consiste à évaluer la capacité de son infrastructure locale. Ses data centers on-premise doivent pouvoir absorber la charge supplémentaire liée à l’inférence et à l’entraînement des modèles.

Des architectures évolutives et économes 

Choisir l’architecture la plus adaptée, c’est précisément l’objectif de l’accompagnement proposé par SCC et Dell dans le cadre de la Dell IA Factory. La Dell IA Factory est le framework à partir duquel SCC et Dell vont aider à la définition du socle technologique le plus adapté au projet IA. Ce framework s’appuie sur la plateforme NVIDIA AI Enterprise, les microservices d’inférence NIM et des modèles d’architecture (blueprints) qui guident la conception et le déploiement d’agents ou d’applications d’IA, qu’ils tournent sur OpenShift AI ou Kubernetes.

Noham Medyouni, Entreprise Architect pour Dell, détaille : « Avant de démarrer un projet d’IA, nous vérifions si le client dispose de la puissance suffisante pour accueillir les machines nécessaires dans son datacenter. La plupart du temps, ses infrastructures ne sont pas encore adaptées à ce type de workloads. »

Les architectures retenues visent à maximiser les performances tout en réduisant l’empreinte énergétique, grâce à des serveurs optimisés et à un pilotage précis des ressources. D’après une étude menée par Enterprise Strategy Group pour Dell, publiée en avril 2024, le socle technologique de la Dell IA Factory permet de réduire jusqu’à 86 % le délai de rentabilisation des solutions d’intelligence artificielle. C’est une garantie pour le ROI. 

SCC et Dell s’assurent également de la scalabilité du socle technologique et proposent une infrastructure capable de s’adapter aux évolutions des besoins du client. 

Commencer par l’évaluation des besoins 

La première phase de l’accompagnement consiste à évaluer les besoins. Les équipes de SCC et Dell commencent par un travail de vulgarisation pour aider les entreprises à arbitrer entre différentes options d’infrastructure, selon leurs besoins et leur contexte métier. Notamment pour choisir entre l’Edge IA et le cloud ou pour déployer des objets connectés basés sur l’IA. 

Dans le cadre d’infrastructures on-premise, SCC et Dell peuvent piloter la ré-urbanisation des data centers afin de garantir la puissance nécessaire. Cette ré-urbanisation peut aller jusqu’à l’intégration de solutions de refroidissement liquide direct pour maîtriser la consommation énergétique des GPU — un chantier qui implique parfois le recours à des spécialistes des infrastructures électriques et thermiques.

« On peut commencer à faible échelle » 

La ré-urbanisation peut passer par la recherche d’un prestataire pour héberger les serveurs, même de puissance limitée. Noham Medyouni explique : «Le projet de réurbanisation peut nécessiter le recours à des prestataires spécialisés pour l’hébergement. Il est possible de démarrer à petite échelle, par exemple avec un serveur équipé de deux GPU. Toutefois, dans certaines salles clients, même cette configuration minimale peut s’avérer insuffisante en termes de puissance disponible. De plus, les racks existants, souvent occupés par d’autres composants, présentent des contraintes électriques importantes qui limitent les possibilités d’évolution. »

Pour répondre à la densité croissante des charges IA, Dell déploie des solutions de refroidissement liquide direct (DLC) sur ses serveurs PowerEdge. Le rendement énergétique devient alors jusqu’à 1,5 à 2 fois supérieur à un système à air traditionnel, et une meilleure stabilité thermique des GPU sur le long terme.

SCC et Dell accompagnent aussi leurs clients dans le choix de PC IA, Dell proposant plusieurs modèles de ce type. Ces postes de travail sont conçus, par exemple, pour permettre aux data scientists de prototyper des modèles en local, avant un passage à grande échelle, tout en gardant la maîtrise des données et en limitant les coûts liés au cloud.

Une fois les besoins définis, pour déployer l’IA chez le client, Dell ouvre l’accès à un écosystème complet : matériel, outils de préparation des données et services d’intégration. Un accompagnement complet, conçu sur mesure.