En route vers les IA adaptatives

Les projets autour de l’IA générative se multiplient et répondent désormais à de vrais besoins métiers. « Nous travaillons surtout sur des projets permettant d’augmenter les collaborateurs. Par exemple dans l’assurance, un téléconseiller va se servir d’un assistant pour mieux répondre, le gain et le ROI sont vites perceptibles. Ainsi, un client qui souscrit à une police d’assurance peut le faire en 7 minutes avec un téléconseiller augmenté alors qu’il lui aurait fallu 25 minutes en temps normal par téléphone. Nous allégeons la charge mentale du téléconseiller, n’oublions pas que ces modèles d’IA générative sont prescriptifs, c’est-à-dire qu’ils vous donnent une solution, mais aussi l’explication », donne en exemple Stéphane Roder, président d'AI Builders, un cabinet de conseil spécialisé dans l’IA et enseignant spécialiste de l’IA. Cet exemple en suit bien d’autres comme l’accès au parcours client, Cdiscount exploite l'IA générative pour conseiller ses clients sur ses produits et ça marche, l’entreprise fait état d'un taux de satisfaction de 70 % sur le nouveau chatbot, c'est ainsi trois fois plus que les générations précédentes de chatbots n'intégrant pas l'IA générative. De son côté, Amazon exploite l’IA générative pour la mise en ligne d’un nouveau produit. Amazon facilite donc le processus de création de fiches-produits et permet ainsi à ses vendeurs de générer un titre, une description et d’autres précisions sur le produit en partageant quelques lignes descriptives ou une photo du produit. Selon Amazon, plus de 30 000 vendeurs partenaires européens vendant sur Amazon ont déjà utilisé un ou plusieurs de ces outils d’IA générative. En outre, l’IA générative facilite aussi la vie des techniciens SAV, c’est d’ailleurs dans ce contexte que le groupe de distribution IT à valeur ajoutée Alliance-Com a créé Alliance-Com.ai, un chatbot qui permet à un technicien de résoudre plus facilement un problème technique lié au réseau par exemple. Pour obtenir la meilleure réponse, Matthieu Chessari, directeur marketing du groupe, explique que l’assistant Alliance-Com.ai a été entraîné, d’une part, avec les informations techniques des fournisseurs certifiés et, d’autre part, avec les tickets émis et résolus du support technique du groupe Alliance-Com. « C’est d’ailleurs le point fort de notre modèle, les tests que nous avions effectués avant sa mise en service nous ont réconfortés. En effet, en soumettant les mêmes types de requêtes à ChatGPT et à Alliance-Com.ai, les réponses sont fiables et justes concernant notre service, contrairement à celles de ChatGPT. La clé de la réussite de notre projet est justement de livrer la bonne réponse et au bon moment pour les techniciens de nos partenaires intégrateurs », explique Matthieu Chessari.

Mesurer le ROI en interne avant un déploiement chez le client

« Il n’y a pas une seule IA générative, mais des IA génératives en fonction des besoins métiers. Ces IA génératives, nous les appliquons d’abord en interne avant de les déployer chez nos clients, nos 5000 collaborateurs les utilisent d’ailleurs au quotidien. Ces IA, nous les testons pour obtenir les meilleurs résultats quitte à en écarter certaines », tient à préciser Guillaume Réjou, directeur marketing produit au sein de la BU Finance chez Cegid dont le groupe travaille sur ses IA génératives depuis 2022. Toutes ces IA génératives chez Cegid sont packagées sous l’offre Pulse. Par exemple, les micro-entrepreneurs peuvent s’aider d’un assistant vocal multilingue pour générer une cotation en temps réel, une IA générative peut aussi servir l’utilisateur dans son parcours de personnalisation au travers des outils de gestion des voyages (travel management) de l’éditeur, etc. À l’instar de Cegid, IBM applique aussi à lui-même ses projets d’IA génératives avant de les déployer chez ses clients. Cette stratégie appelée client zéro par Xavier Vasques, VP et CTO au sein d’IBM France Technology et R&D, permet de mieux percevoir et mesurer les bénéfices. « Par exemple, sur un projet d’IA générative lié au support au sein d’IBM (avec 25 000 agents résolvant plus de 3 millions de cas par an, dont une variété complexe de cas de support), nous avons gagné du temps. En effet, la rédaction manuelle de résumés prenait auparavant 35 minutes par cas, limitant l'analyse des données. Avec Watsonx, les résumés sont automatisés, permettant de traiter 214 000 cas en moyenne par trimestre économisant environ 124 861 heures par trimestre. IBM a utilisé watsonx.ai pour automatiser cette tâche, en intégrant une API pour extraire et formater les textes des cas de support permettant ainsi de faire une économie de 86 millions de dollars et d’augmenter la satisfaction de nos clients de +25 points. » Dernier exemple, celui de l’éditeur Salesforce où l’IA générative est intégrée au sein d’Einstein depuis deux ans. Son moteur sert par exemple à aider le conseiller dans un centre d’appels à apporter la meilleure réponse à son client ou permet encore d’apporter plus de personnalisation dans une campagne marketing. Pour ce faire et s’adapter au mieux aux besoins métiers de ses clients, Salesforce propose Data Cloud, une plateforme qui permet d’accéder, via des connecteurs, à toutes les données de l’entreprise et les exploiter. La compagnie aérienne Air France exploite notamment Data Cloud pour collecter et gérer ses données, lesquelles seront par la suite augmentées par la puissance de l’IA.
De même, l’éditeur ne se limite pas à un seul modèle et comme le précise Kheira Boulhila, vice-présidente senior, technologies et avant-ventes chez Salesforce, on peut appeler une multitude de modèles y compris les modèles choisis par le client, c’est la stratégie du Bring Your Own LLM menée par l’éditeur. A ce titre, Salesforce a annoncé l’un des premiers LLM Benchmark afin d'aider les entreprises à évaluer le nombre croissant de LLM à utiliser dans leurs CRM ; et ce benchmark mesure les performances des LLM par rapport à quatre critères clés : précision, coût, rapidité, confiance et sécurité.

Une IA générative va générer du texte en s’appuyant sur des modèles de langage étendus (LLM). « Si ces deux dernières années, nous avons surtout vu de grands modèles génériques, aujourd’hui, les modèles verticaux se démocratisent », souligne Stéphane Roder, président d'AI Builders. Quelques exemples : celui de GenIA-L for Search de Lefebvre Dalloz dans le domaine du juridique ou encore celui de Dalvia Santé (voir dernière partie) mené par Docaposte, filiale numérique du groupe La Poste, qui permet aux médecins de produire des synthèses à partir des données patients. Citons également Hippocratic.ai qui a créé un LLM adapté aux soins de santé sans poser de diagnostics. En clair, ce chatbot s’aide d’experts pour examiner les réponses du modèle, les classe comme bonnes ou mauvaises et les aligne afin de réduire les risques d'erreurs. Dernier exemple très médiatisé, celui de Bloomberg avec son moteur BloombergGPT et ses 50 milliards de paramètres, spécialement conçu pour les données financières. Au-delà de ces quelques exemples, nos interlocuteurs mettent aussi en avant des modèles verticaux plus légers et plus personnalisés ainsi que des microverticaux spécifiques dans certains domaines particuliers. Car contrairement aux LLM développés de façon horizontale qui offrent des connaissances générales sur un large éventail de sujets, ces types de LLM sont conçus pour exceller dans un domaine spécifique, leur permettant de fournir des informations plus précises et plus pertinentes. « Chez Cleyrop, nous utilisons des modèles spécifiques, par exemple pour gérer des requêtes SQL, mais, en parallèle, nous exploitons aussi des modèles généralistes qui demandent certes beaucoup de ressources pour fonctionner, mais qui sont pertinents pour la recherche sémantique. Il est tout à fait possible d’empiler différents modèles via des API », explique Lauren Sayag, chief product officer et co-fondatrice de Cleyrop.
En quelque sorte, cette personnalisation des modèles est souvent associée à l’usage des SLM (Small Language Models ou Specific Language Models suivant les fournisseurs). « Ce qui définit un SLM, c’est déjà son prix plus abordable, c’est aussi sa facilité de déploiement, un SLM nécessite moins de puissance de calcul », précise Jean Ferré, CEO de Sinequa. Aujourd’hui, un SLM, c’est généralement moins de 7 milliards de paramètres à comparer aux dizaines de milliards d’un Chat GPT-4. Moins de paramètres, c’est également moins de données, à titre indicatif, Xavier Vasques, VP et CTO au sein d’IBM France Technology et R&D, indique que 13 milliards de paramètres correspond à 2,5 To de données. Ces milliards de paramètres font d’ailleurs référence au modèle de fondation de base Granite développé par IBM. Dans ces plus petits modèles, on cherche à maintenir un niveau de performance comparable au LLM de référence en réduisant progressivement le nombre de paramètres nécessaires. « Ce sont bien ces petits modèles que nous exploitons dans notre approche, nous les associons à notre moteur de recherche, lequel va apporter de ce fait les bonnes informations et les plus pertinentes, d’être capable par exemple d’extraire un chiffre d’affaires de l’entreprise dans le rapport annuel rédigé dans un PDF », explique Jean Ferré.

Le RAG ou fine-tuning pour améliorer le modèle

Et d’ajouter : « Notre moteur de recherche est toujours à jour en prenant en compte les nouvelles données. » Ce point est important, car, en soi, un modèle ne s’adapte pas, ce n’est pas une base de savoir, mais un moteur d’inférence comme le rappelle Stéphane Roder. Dans cette approche dite RAG (Retrieval Augmented Generation), le modèle va en quelque sorte consulter une base de données vectorielle en temps réel pour enrichir la génération de texte. Cette capacité de recherche améliore significativement la précision, la pertinence et la richesse du contenu généré et, de ce fait, le RAG répond plus précisément au besoin du métier. Pour Matthias Sanchez, référent IA au sein du groupe Magellan Partners, un travail permanent est effectué pour améliorer la technique du RAG.
Au RAG s’oppose souvent la technique du fine-tuning qui consiste à ajuster un modèle générique préentraîné pour que les réponses soient plus pertinentes. Dans la plupart des cas, un LLM brut est d'une utilité limitée ; il devient puissant avec une formation plus poussée pour orienter ses compétences linguistiques vers une tâche spécifique. Par exemple, il est possible d’appliquer cette technique du fine-tuning sur ChatGPT en exploitant les propres données de l’entreprise. N’oublions pas que le prompting de ChatGPT ne suffit pas forcément faute de connaissances spécifiques et d’erreurs. L’avantage du fine-tuning est qu’il n’est pas nécessaire de créer son propre LLM dans un secteur particulier (assurance, pharmaceutique ou juridique par exemple), mais il nécessite un set de données plus important.
RAG ou fine-tuning, l’éditeur Cegid utilise les deux méthodes. « Nous exploitons une base vectorielle pour obtenir les informations les plus précises possibles, et en parallèle, nous entraînons les modèles génériques avec nos propres données. On peut compléter ces modèles existants avec des plus petits modèles intermédiaires. Tout se passe dans notre centre de R&D au Portugal dont la mission est de tester en permanence les modèles. En clair, nous arrivons avec notre cas d’usage et nos équipes travaillent à nous fournir la meilleure solution », explique Guillaume Réjou, directeur marketing produit au sein de la BU Finance chez Cegid. De son côté, Cleyrop s’appuie sur la technique du RAG. « Nous ne faisons pas du fine-tuning, car le ROI n’est pas encore avéré. Le RAG nous permet de récupérer les informations, les vectoriser et faire des rapprochements », précise Lauren Sayag.

Des approches basées sur des données synthétiques

De leur côté, IBM et Red Hat avancent avec InstructLab vers une approche hybride en open source et ouverte à tous les contributeurs. Selon Xavier Vasques, cette technique vise à surmonter certains défis liés à la formation LLM en utilisant la génération de données synthétiques guidée par la taxonomie. En clair, InstructLab génère systématiquement des données synthétiques pour assimiler de nouvelles connaissances et capacités dans le modèle de base, sans écraser ce que le modèle a déjà appris. « Notre méthode est moins coûteuse de par l’usage de données synthétiques. Nous gagnons aussi du temps et nous obtenons une meilleure précision, nous l’avons d’ailleurs exploité pour la génération de code, les gains étant significatifs », reconnaît le porte-parole d’IBM.

Dassault Systèmes, au travers de sa plateforme 3D Experience, exploite aussi les données synthétiques, Sébastien Massart, directeur de la stratégie de Dassault Systèmes, prend ainsi l’exemple de la santé (un secteur en fort développement chez Dassault Systèmes, lequel est aussi membre d’OpenFold, un consortium de recherche en IA pour la biologie et la découverte de médicament) où les données synthétiques permettent aujourd’hui de construire des bras de contrôle en se passant des patients, bref de remplacer les patients réels par des données externes venues d’autres sources. « La vraie valeur est d’accélérer le cycle d’innovation, car au lieu de créer des cohortes de patients, avec les données synthétiques, on peut en déduire drastiquement le nombre, l’impact est énorme. » C’est dans ce contexte que l’éditeur a acquis Medidata en 2019.

Des places de marché remplies de modèles

Mais où trouve-t-on tous ces modèles ? À cette question, Jean Ferré, CEO de Sinequa, répond que ces équipes de R&D peuvent aller les chercher en open source dans des places de marché ou les créer en s’aidant de corpus universitaires si les composants sont disponibles dans le domaine public. En effet, ces marketplaces, comme celles d’Hugging Face, de Google Cloud Natural Language API, de GitHub ou de GPT Store, renferment des centaines de milliers de modèles préformés basés sur des technologies propriétaires ou en open source. En parallèle, il existe également des frameworks qui facilitent le développement autour des LLM à l’image de LangChain.

Stéphane Roder, président d'AI Builders est catégorique, le travail de la documentation se fait en amont pour éviter les mauvaises réponses, dans le cas contraire, le taux d’erreur est significatif. C’est bien derrière cette compilation et cette segmentation de la documentation que l’IA fait son profit et accumule cette somme astronomique d’expériences, mais elle ne fait qu’interpoler à partir de ces expériences. De ce constat, la donnée est essentielle et conditionne la pertinence de la réponse apportée par l’IA. Souvenons-nous de l’outil de classification de CV d’Amazon basé sur l’IA qui ne reconnaissait pas les CV féminins, ce défaut provenait de l’échantillonnage trop volumétrique des données (dans ce cas, cet échantillonnage était basé sur les hommes qui, il est vrai, sont majoritaires dans l’IT) alors qu’il aurait fallu que ces données soient représentatives. Chez IBM, son modèle de fondation de base Granite (qui peut être adapté à une variété de tâches d'entreprise) a été entraîné sur un ensemble de données (Internet, légal, finance, code, académiques) nettoyées par IBM Research. Au total, sur plus de 6 To avant le nettoyage, les équipes d’IBM Research sont arrivées à un peu plus de 2 To de données en suivant un processus rigoureux de gouvernance. « Les deux tiers des données que nous avons supprimées contenaient des URLs pas ou peu recommandables, du copyright, du code soumis à des licences, du contenu inapproprié. Derrière ce nettoyage, IBM se porte ainsi garant du modèle », précise à ce titre Xavier Vasques, VP et CTO au sein d’IBM France Technology et R&D.

Pour Pierre Jallais, architecte de solutions de recherche au sein de l'équipe Smart Search Engines chez Total Energies, interrogé par notre confère CIO dans le développement d’un RAG, nourrir l'IA générative avec la bonne information représente 80 % de l'effort, le solde étant consacré au paramétrage du LLM et au prompt engineering. La précision dans les réponses fournies en remontant les passages les plus intéressants et le réglage de la taille des paragraphes à transmettre au LLM demandent en soi un travail important. Pour Cegid, ce travail sur la qualité des données ne peut se faire, pour l’heure, que par l’humain. « L’humain reste indispensable à l’état actuel des avancées, si l’humain n’est pas présent pour vérifier la qualité des données métiers, l’IA peut désapprendre », souligne Guillaume Réjou, directeur marketing produit au sein de la BU Finance chez Cegid. Un avis que partagent Xavier Vasques et Lauren Sayag, chief product officer et co-fondatrice de Cleyrop : « Il faut une connaissance des données et les prioriser, la machine aide, mais ne les connaît pas forcément, c’est bien un binôme humain-machine qui doit s’opérer. »

Une gestion automatisée du cycle de vie de la donnée

Comment gérer la qualité des données ? Peut-être en identifiant mieux les informations sur les données, ces informations étant produites par des métadonnées. Ces dernières permettent, en effet, d’identifier et d’indexer les données, elles décriront la source, la structure, le contenu et la signification de la donnée. « Les métadonnées viennent renforcer la pertinence, car on a des éléments sur les données : où se trouvent les données ? Quels sont les chemins pour y accéder ? », confirme d’ailleurs Lauren Sayag. Pour ce faire, une gouvernance des données est donc indispensable, elle l’est d’autant plus dans l’IA générative pour éviter les phénomènes d’hallucinations. De plus, l’IA générative et son autoapprentissage nécessitent de prendre souvent en compte des données historiques. Pour Julien Peltier, VP EMEA Presales & Enablement chez Semarchy, entreprise spécialisée dans le master data management et l’intégration des données, on voit émerger chez les clients des sujets autour des data catalog & lineage pour s’assurer que l’on va apporter des données de qualité et documentées. « Le data lineage apporte les liens entre les différentes données, c’est aussi une technique à prendre en compte », rapporte Lauren Sayag. En clair, le data lineage est la représentation visuelle (graphique à arborescence) du cycle de vie de la donnée et permet donc de voir l’origine de la donnée, ses transformations et ses utilisations. Avoir cette connaissance du cycle de vie de la donnée dès la conception d’une IA garantira les meilleurs résultats possibles.

À en croire nos interlocuteurs, la souveraineté est importante. « Il faut aussi des modèles français, et de manière globale, des modèles éthiques qui soient compatibles avec nos valeurs », réagit d’ailleurs Stéphane Roder, président d'AI Builders. « Même si 40 % de notre business est réalisé aux États-Unis, certains de nos clients français nous demandent effectivement de ne pas introduire le loup dans la bergerie, c’est pour cela qu’en termes d’hébergement, nous proposons tous les choix de NumSpot à OVH ou même dans des datacenters privés », indique de son côté Jean Ferré, CEO de Sinequa. Dans ce choix d’hébergeurs français et/ou européens, l’éditeur Cleyrop travaille exclusivement avec OVH, Scaleway et Outscale. La souveraineté est effectivement d’abord liée à l’hébergement même si Guillaume Réjou, directeur marketing produit au sein de la BU Finance chez Cegid, reconnaît que les avancées technologiques autour des IA génératives sont aujourd’hui principalement produites par les grands acteurs américains qui investissent des milliards de dollars, sans aucune mesure avec les quelques millions d’euros des fournisseurs européens. Vrai, mais des startups et des acteurs français et européens reconnus s’activent à ne pas dépendre des Gafam à l’image de Ringover, un éditeur spécialisé dans les logiciels de téléphonie et d’analyse conversationnelle qui disposait, il faut le dire, initialement de ses propres datacenters. « Nous entraînons nos modèles sur nos infrastructures avec nos données, nous le faisons notamment pour la transcription dans Empower (plateforme d’analyse conversationnelle) ou encore pour les résumés (plateforme de téléphonie Ringover) », reconnaît Jean-Laurent Louis, Head of Product chez Ringover, qui admet aussi, en parallèle, que l’intérêt est plus technologique que business. À ce titre, Xavier Vasques, VP et CTO au sein d’IBM France Technology et R&D, estime qu’il est tout à fait possible de déployer un modèle avec un investissement minimum (un seul GPU) sans pour autant l’entraîner. Ce n’est pas tout pour le porte-parole d’IBM qui ajoute que la souveraineté réclame aussi de la gouvernance : « Est-ce que l’on est capable de monitorer les modèles ? Comment intégrer les règlements, l’IA Act par exemple ? »

Outscale-Mistral, un accord de confiance

La souveraineté des modèles est clairement un argument soulevé par Outscale, marque de Dassault Systèmes qui a récemment conclu un accord avec Mistral AI pour proposer un service de LLM. « Cette offre de LLMaaS est un service clé en main hébergé sur nos infrastructures qualifiées SecNumCLoud. Notre objectif est de protéger la propriété intellectuelle et les données sensibles de nos clients », réaffirme David Chassan, directeur de la stratégie chez Outscale. À noter que l’accord inclut aussi une deuxième offre baptisée Expériences Génératives qui propose une combinaison unique de modélisation scientifique, de simulation et d’IA (notamment des grands modèles de langage) au sein d’un environnement de confiance que représente Outscale.

« Nous sommes partis du constat qu’un certain nombre de médecins utilisait ChatGPT pour faire des synthèses pour leurs patients. De par notre expérience chez Docaposte dans le domaine de la santé (rachat entre autres de l’éditeur Maincare en 2023 par Docaposte), il nous a paru nécessaire de proposer une solution sécurisée et éthique aux professionnels de la santé d’où la création de Dalvia Santé », résument Olivier Barets, directeur marketing stratégique, communication & partenariats au sein de la BU santé de Docaposte et Elena Gleizes, responsable marketing marché et produits santé de Docaposte. Dans le développement de ce projet, Docaposte s’est donc adossé à Mistral AI pour son LLM 8x7B et Numspot (hébergeur souverain lancé par Docaposte, la Banque des Territoires, Dassault Systèmes et Bouygues Telecom) pour l’hébergement du moteur, deux sociétés régies par des lois françaises et européennes. À noter que Docaposte a choisi Mistral pour la performance de son modèle, mais OpenValue, filiale de Docaposte, a aussi mené plusieurs tests sur d’autres moteurs comme celui de la startup française LightOn, et comme le mentionne Olivier Barets, les évolutions sur les modèles sont si rapides qu’il est probable que de nouveaux modèles encore plus performants voient rapidement le jour. Quant aux données, elles proviennent pour l’heure, phase d’expérimentation oblige, de deux hôpitaux et ont été entraînées selon la technique du fine-tuning. À terme, l’objectif pour Docaposte est bien sûr de commercialiser Dalvia Santé à de nombreux établissements dans l’hexagone dès la rentrée pour un déploiement à fin 2024.

Dalvia Santé pour préparer plus rapidement des synthèses

Que fait exactement Dalvia Santé ? Selon Elena Gleizes, cette solution permet d’accéder plus rapidement aux informations médicales du patient et de préparer la synthèse des informations nécessaires à la coordination des soins en produisant des documents types, tels que la lettre de liaison pour le médecin adresseur, par exemple, lors de la sortie du patient de l’hôpital. Et parmi les premiers bénéfices relevés, le médecin gagne en moyenne 10 minutes sur les 15 à 30 minutes en temps normal dans la prise de connaissance des données patients. En soi, il n’y a pas de notion de chat permettant d’affiner le résultat, pour ce faire, il peut toutefois jouer sur quelques critères comme de sélectionner les deux dernières années sans avoir l’historique complet du patient ou de choisir un type de document. À noter qu’il peut remonter à tout moment jusqu’à la source de l’information. Hormis le secteur de la santé, Dalvia est un moteur qui peut s’adapter à d’autres usages, par exemple à l’éducation, à ce titre, Docaposte avait racheté en 2020 Index Education qui édite Pronote. Un autre point important dans ce projet pour Olivier Barets, c’est la garantie humaine. Ainsi, Docaposte a collaboré avec Ethik-IA, un opérateur de référence sur ce sujet afin de proposer une solution d’IA générative en santé conforme à ses engagements et aux attentes des professionnels de santé tout en respectant aussi la nouvelle conformité du règlement européen sur l’IA (AI Act).

D'ici à la fin de 2026, 100 % des PC achetés par les entreprises seront des PC IA, c'est-à-dire des ordinateurs dotés d'une unité de traitement neuronal (NPU) permettant d'effectuer des opérations d'IA sur la machine[1].
Le 20 mai 2024, Microsoft dévoilait cette nouvelle catégorie de PC boostés à l’IA (les Copilot + PC) lors d’une conférence à Redmond, soulignant leur capacité à transformer les tâches quotidiennes grâce à une IA générative intégrée au système d’exploitation Windows.

Depuis novembre 2024, les PC équipés de ces nouvelles puces bénéficient d’une version enrichie de Windows 11 qui exploite à plein régime les fonctionnalités des outils d’IA de Windows comme Windows Studio Effects pour des appels vidéo optimisés ou Live Captions avec traduction instantanée. Une dynamique rendue possible par des processeurs comme les AMD Ryzen AI 300, qui intègrent un accélérateur NPU (Neural Processing Unit) pour maximiser les performances des outils Copilot intégrés à Windows.

Exécuter l’IA localement pour contourner les limites du cloud

Au-delà des nouveaux usages permis par l’intégration de l’IA au cœur des PCs, l’approche répond également à des enjeux techniques. Exécuter des applications d’IA sur le cloud présente en effet des limites en termes de latence, de dépendance réseau et de confidentialité des données.
En déportant le traitement localement, on gagne à la fois en rapidité et en sécurité,  tout en réduisant les coûts liés aux services cloud. Les processeurs Ryzen™ AI, avec leur moteur dédié capable d’exécuter jusqu’à 10 000 milliards d’opérations par seconde (TOPS), facilitent cette transition. Comme l'explique Suraj Raghuraman, responsable du moteur IA chez Topaz Labs, « la puissance des processeurs tels que AMD Ryzen AI permet d’exécuter des charges de travail d’IA localement avec une grande efficacité, sans avoir à partager les données ». Les contenus sensibles restent ainsi sous contrôle. Un argument de taille à l’heure du foisonnement règlementaire visant à garantir la confidentialité et la souveraineté des données.

AMD, fer de lance de l’innovation en matière d’IA embarquée dans les PC

Au cœur de cette évolution se trouve un moteur de traitement dédié à l’IA intégré directement au PC. Ce composant essentiel incarne la promesse et le potentiel de l’intelligence artificielle générative. Il permet d’exécuter des applications d’IA avec une grande vitesse et une latence minimale, tout en libérant le CPU et le GPU pour d'autres tâches. Les processeurs AMD Ryzen™ PRO, équipés de Ryzen™ AI, sont conçus pour exécuter des charges de travail exigeantes, comme les outils de visioconférence optimisés ou les modèles d’analyse IA, avec des gains de performance notables par rapport à la concurrence. A noter qu’un PC propulsé par AMD Ryzen AI par rapport au PC concurrent le plus proche doté d'une IA est plus rapide de 83%.

Des cas d’usage variés dès la phase de lancement

Étant donné l’ampleur et la diversité de l’impact potentiel des PC dotés d’IA sur une organisation, il n’est pas surprenant de voir émerger des cas d’utilisation variés. IDC a réalisé une enquête[2] sur les cas d’utilisation prioritaires auprès d’un large panel d’entreprises. Les résultats se sont révélés très hétérogènes, aucune proposition ne se dégageant clairement des autres. Selon la synthèse d’IDC, les usages les plus courants s’orientent vers les interactions clients et la personnalisation (à 40 %), la prise de décision en temps réel (à 32%), ainsi que l’analyse prédictive et la modélisation des données (à 29 %).

Ainsi, bien que les PC dotés d’IA en soient encore à leurs débuts, les responsables informatiques envisagent déjà une multitude de scénarios pour exploiter cette technologie. Rédiger des e-mails, organiser des emplois du temps, améliorer les visioconférences grâce à des fonctionnalités telles que la correction du regard et le cadrage automatique, ou encore gérer des budgets mensuels sont les premiers qui viennent à l’esprit – mais les usages s’étendent bien au-delà des collaborateurs d’entreprise. On pense évidemment à la communauté des développeurs, qui peuvent exploiter des outils d’autocomplétion de code plus rapides et précis. Quant aux data analysts, ils ont la possibilité d’exécuter des modèles d’analyse IA directement sur leur PC, sans faire appel au cloud, ce qui optimise les délais d’exploitation tout en garantissant la confidentialité des informations sensibles.

Rangé ces dernières années dans la catégorie des simples « outils de productivité », le PC semble prendre sa revanche : et s’il devenait peu à peu l’épicentre de l’innovation technologique en Intelligence artificielle ?    

[1] Selon les dernières prévisions de Gartner.

[2] Source: IDC’s 2023 U.S. Commercial PCD Survey

Les processeurs, piliers du datacenter 

Les processeurs, GPU, FPGA et autres accélérateurs sont au cœur des datacenters modernes. Ils ne sont pas de simples outils de calcul : leur performance, leur efficacité énergétique et leur capacité à gérer des charges de travail intenses influencent directement la conception et l'architecture des datacenters. Pour être "IA Ready", ces derniers doivent intégrer des technologies capables de gérer des modèles d'IA de plus en plus complexes et gourmands.

Derrière les outils de type ChatGPT se cachent des millions, voire des milliards de paramètres, nécessitant une puissance de calcul et de mémoire de stockage considérables. Pendant l’entraînement, les modèles ajustent leurs paramètres à partir de quantités considérables de données – un processus itératif qui s’étend sur plusieurs jours ou semaines, selon la taille du modèle. Une fois entraîné, le modèle d’apprentissage passe à l’action. Cette phase « d’inférence »,  au cours de laquelle il tire des conclusions à partir de données nouvelles, implique des calculs en temps réel extrêmement exigeants.  

Soutenir les tâches de calcul intensif

Ces impératifs de performance impactent directement l’architecture des datacenters, qui doivent être capables de gérer simultanément une multitude de tâches de calcul intensif. Les processeurs multicœurs, tels que les AMD EPYC™, et les unités de traitement graphique (GPU) jouent un rôle clé dans ce contexte. Les premiers parallélisent les tâches et traitent rapidement de gros volumes de données, tandis que les GPU, spécialement conçus pour les calculs massivement parallèles, accélèrent les algorithmes d’IA complexes.

Aujourd'hui, les GPU AMD Instinct™ équipent plusieurs des supercalculateurs les plus rapides au monde qui utilisent l'IA pour accélérer la recherche sur le cancer ou créer des LLM de pointe avec des milliards de paramètres, utilisés par la communauté scientifique mondiale.

De nombreuses charges de travail IA peuvent fonctionner efficacement sur des serveurs uniquement équipés de processeurs EPYC de 5e génération. Parmi ces charges de travail, on retrouve les modèles de langage avec jusqu'à 13 milliards de paramètres, l'analyse d'images et de fraudes, ou encore les systèmes de recommandation. Les serveurs équipés de deux CPU de dernière génération offrent jusqu'à deux fois le débit d'inférence comparé aux versions précédentes.

Réduire la latence pour des résultats en temps réel

Dans les projets d’IA adaptative, la latence minimale est cruciale pour des modèles capables de réagir instantanément à de nouvelles données. Ces exigences s'appliquent notamment à des applications comme le traitement du langage naturel en direct, la personnalisation en temps réel ou encore la prise de décision automatisée.
Les processeurs multicœurs d’AMD, tels que les EPYC™, se distinguent non seulement par leur capacité à monter en charge pour répondre aux besoins fluctuants des phases de formation et d’inférence, mais aussi par leur optimisation pour réduire les temps de réponse. Conçus pour équilibrer la charge et maintenir une réactivité élevée dans des environnements multi-tâches, ces architectures permettent de traiter rapidement des volumes massifs de données tout en garantissant des performances constantes.

Un datacenter agile pour évoluer au fil des innovations en Intelligence Artificielle

Si les datacenters doivent gérer des charges de travail toujours plus intenses, ils doivent également rester suffisamment agiles pour intégrer les avancées rapides de l'IA générative et adaptative. Cette double exigence impose une conception axée sur la modularité et l’évolutivité.

Les solutions proposées par AMD répondent à ces besoins grâce à des architectures pensées pour optimiser les performances tout en permettant une montée en puissance progressive. Les processeurs AMD EPYC™, par exemple, offrent une base flexible qui s’adapte aisément à l’ajout de nouvelles ressources de calcul. Cette approche modulaire permet aux datacenters d’intégrer des innovations technologiques sans nécessiter de refonte complète de l’infrastructure.

La connectivité réseau : maillon essentiel de la réussite des projets d’IA

Au-delà des enjeux de performance, de scalabilité et d’adaptabilité des datacenters, le réseau s’impose naturellement comme le pilier qui relie et optimise les ressources au sein de l’infrastructure. Sans infrastructure réseau performante, difficile d’assurer une communication rapide et fiable entre les différents composants – qu’il s’agisse de processeurs, de GPU ou de systèmes de stockage.

Conscient de ces enjeux, AMD a enrichi son portefeuille avec des solutions réseau telle que l’unité de traitement de données Pensando Salina et la carte réseau Pensando Pollara 400, qui visent à optimiser les flux de données et à réduire les goulots d’étranglement. En assurant une gestion efficace de la communication entre GPU et autres éléments critiques, ces outils permettent une exécution fluide des charges de travail d’IA. Ils s’inscrivent dans une vision globale d’AMD, où chaque composant de l’infrastructure, du calcul au réseau, contribue à la création de datacenters à la fois performants et évolutifs.

Face à ce défi, il devient crucial d'adopter des solutions énergétiques innovantes, notamment dans les datacenters, où la pression pour réduire la consommation d’énergie se fait de plus en plus forte.

Optimiser le ratio performance/consommation énergétique

L’un des leviers essentiels pour réduire l'empreinte carbone des datacenters réside dans l’optimisation du ratio performance/consommation énergétique. Les processeurs AMD EPYC jouent un rôle clé dans cette dynamique. En permettant de réaliser davantage de calculs tout en consommant moins d'énergie, ils permettent aux datacenters de maximiser leur rendement énergétique. Preuve de ce rendement exceptionnel, leur intégration dans des systèmes figurant parmi les meilleurs du Green500, comme le supercalculateur El Capitan (18ᵉ) et le système Frontier (22ᵉ), tous deux utilisant des technologies AMD pour offrir des performances de pointe tout en minimisant leur consommation d’énergie.

Une réduction drastique de la consommation énergétique des serveurs

La consolidation des serveurs est un autre axe clé pour optimiser l'efficacité énergétique des datacenters. Une évaluation menée en février 2024[1] a révélé que 15 serveurs (parmi les plus répandus entre 2019 et 2021) pouvaient être remplacés par seulement trois serveurs AMD EPYC de 4e génération. Cette consolidation permet non seulement de réduire le nombre de serveurs physiques nécessaires, mais aussi d'atténuer de manière significative les impacts environnementaux : moins de matières premières, moins de fabrication, d'expédition, d'énergie consommée et d'espace utilisé dans les datacenters.

Un objectif ambitieux : multiplier par 30 l'efficacité énergétique d'ici 2025

AMD s'est engagé dans une démarche ambitieuse : multiplier par 30 l'efficacité énergétique de ses processeurs et accélérateurs pour les charges de travail IA et HPC entre 2020 et 2025. Cela se traduit par une réduction de 97 % de la consommation énergétique par calcul. Si cet objectif est atteint, des milliards de kilowattheures d'électricité pourraient être économisés dans les datacenters à l'échelle mondiale d'ici 2025. Une telle réduction de la consommation énergétique est rendue possible grâce à des technologies avancées, telles que l'empilement de puces en 3D (V-Cache) et le système AMD Smart Shift, qui adapte de manière intelligente la répartition de l'énergie entre le CPU et le GPU pour des applications spécifiques, comme l'IA générative.

Des résultats concrets et des progrès rapides

En 2023, AMD avait déjà réalisé une amélioration de 13,5x de l'efficacité énergétique par rapport à 2020, grâce à ses accélérateurs AMD Instinct MI300A. Un résultat prometteur qui laisse présager de la réussite de son objectif d'ici l'an prochain. Cependant, comme le souligne Addison Snell, PDG d'Intersect360 Research, le défi reste de taille, car les gains liés à la loi de Moore, qui étaient historiquement un moteur important de l'innovation, se sont considérablement ralentis. Selon lui, « une multiplication par 30 de l'efficacité énergétique en cinq ans serait une réalisation technique impressionnante qui démontrera la force de la technologie AMD et son engagement en matière de durabilité environnementale ». Pour réaliser cet objectif ambitieux, l’innovation architecturale et le packaging des composants joueront un rôle clé, au-delà des progrès liés à la fabrication des puces.

Un impact environnemental positif : Moins de serveurs, moins de CO2

En visant une multiplication par 30 de l'efficacité énergétique de ses processeurs, AMD cherche non seulement à réduire la consommation énergétique par calcul, mais également à diminuer significativement l'empreinte carbone des datacenters. Par exemple, remplacer 15 serveurs par seulement trois serveurs AMD EPYC permet à la fois de réduire la consommation d'énergie de 45 %, mais aussi d'éviter l'émission de 107 tonnes de CO2e sur une période de trois ans, tout en générant des économies de 37 700 $ sur les coûts énergétiques. Une réduction de l'empreinte carbone et des coûts d'exploitation qui souligne l'importance des technologies énergétiquement efficaces dans la gestion des infrastructures modernes.

L'engagement continu d'AMD

Alors que les gains de performance deviennent de plus en plus difficiles à réaliser AMD poursuit ses efforts pour améliorer continuellement l'efficacité énergétique de ses produits. Grâce à des innovations comme l'empilement de puces en 3D et les solutions logicielles adaptées, le constructeur prévoit de continuer à réduire la consommation d'énergie tout en répondant aux besoins croissants de performance des applications IA. Les résultats obtenus jusqu’à présent indiquent que l'objectif de multiplier par 30 l'efficacité énergétique d'ici 2025 est bel et bien à portée de main !

[1] https://www.servethehome.com/amd-epyc-bergamo-has-massive-consolidation-benefits-supermicro/3/

Supercalculateurs : un levier stratégique pour l'IA et les Big Data

Grâce à leur capacité à exécuter des calculs massivement parallèles, les supercalculateurs sont devenus une pièce maîtresse pour résoudre des problèmes d'envergure dans des secteurs comme la biotechnologie, la finance, ou encore l'industrie.

Lors du dernier SC24 (la conférence internationale sur le calcul haute performance), El Capitan, développé en partenariat avec HPE et Livermore_Lab et propulsé par AMD, a été couronné supercalculateur le plus puissant du monde selon la liste Top 500. Ce dernier atteint des performances inégalées de 1,742 exaflops, surpassant la barre des exaflops et illustrant le rôle central de l’IA dans la recherche scientifique et l'innovation.

Utilisé par le Lawrence Livermore National Laboratory (LLNL), El Capitan est employé pour des simulations complexes en sécurité nationale et pour des recherches avancées sur l'IA. Sa configuration hybride, alliant processeurs et GPU dans un seul package, lui permet de traiter des charges de travail d’IA tout en offrant une efficacité énergétique optimale.

En parallèle, AMD équipe également Frontier, un supercalculateur utilisé par le Oak Ridge National Laboratory (ORNL), qui, avec ses 1,35 exaflops de performance, se classe actuellement comme le deuxième supercalculateur le plus puissant au monde. Ensemble, Frontier et El Capitan fournissent plus de 3 exaflops de puissance de calcul, représentant ainsi 61 % de la performance totale du Top 10 des supercalculateurs. Cette domination sur la liste Top500 est un témoignage de l'excellence d'AMD, qui a propulsé le supercalculateur le plus rapide du monde pendant six listes consécutives.

Ces systèmes de calcul de pointe ne sont pas seulement des instruments de recherche, mais deviennent des moteurs de transformation dans des secteurs stratégiques comme la fusion nucléaire, la biotechnologie, ou encore la modélisation climatique.

Vers une démocratisation des projets IA

Si les supercalculateurs incarnent l’excellence technologique, AMD s’engage également dans une mission essentielle : rendre l’IA plus accessible à un large éventail d’entreprises. Cette ambition se concrétise par des initiatives comme la collaboration récemment annoncée avec IBM pour déployer ses accélérateurs AMD Instinct MI300X en tant que service sur IBM Cloud.

Prévu pour le premier semestre 2025, le partenariat entre AMD et IBM vise à améliorer les performances et l’efficacité énergétique des applications d'IA de nouvelle génération ainsi que des charges de travail HPC. Cette initiative reflète une volonté claire de démocratiser les usages de l’IA en entreprise, comme le précise Alan Peacock, General Manager d'IBM Cloud :

"AMD et IBM Cloud partagent la même vision de rendre l'IA accessible aux entreprises. Nous nous engageons à apporter la puissance de l'IA à nos clients professionnels, en les aidant à prioriser leurs résultats et en veillant à ce qu'ils aient le choix dans le déploiement de leur IA."

Les accélérateurs AMD Instinct, associés au logiciel ROCm, jouent un rôle central dans cette démarche. Leur compatibilité avec une large gamme de plateformes, telles qu'IBM Watsonx AI et Red Hat Enterprise Linux AI ou OpenShift AI, offrent aux organisations la possibilité de choisir les environnements technologiques qui répondent le mieux à leurs besoins spécifiques. « Elles peuvent ansi construire des frameworks de tout premier plan à l'aide d’outils à la fois puissants et ouverts » souligne Philip Guido, vice-président exécutif et directeur commercial d'AMD.
De plus, la grande capacité mémoire de l'AMD Instinct MI300X offre un soutien pour l'inférence et le réglage des plus grands modèles. « Cette capacité mémoire peut également aider les clients à exécuter des modèles plus grands avec moins de GPU, ce qui réduit potentiellement les coûts pour l'inférence » poursuit Philip Guido.

Davantage de performance à des coûts maîtrisés : voilà un argument qui devrait lever bon nombre de réticences au sein des structures qui hésitent encore à franchir le cap des projets d’IA à grande échelle !