Une DSI française a résumé la plupart des initiatives sur l'IA en une succession de « POC flop ». Une enquête menée par le cabinet Omdia va dans ce sens et apporte des explications. « L’échec d’une preuve de concept n’est généralement pas dû à des défauts inhérents à la technologie d’IA testée, mais plutôt au fait que les entreprises et les fournisseurs ne comprennent pas la complexité du déploiement de l’IA », révèle-t-il. L'étude souligne que l'expérimentation est l'apanage des entreprises disposant de liquidités importantes. Celles dont le chiffre d'affaires est inférieur à 100 millions de dollars développent moins de cinq projets d'IA. 

Dans le même temps, le taux d'échec de ces premières tentatives est élevé. Seules 10 % des structures ont atteint un taux de réussite supérieur à 40 %, tandis que 37 % ont vu entre 11 % et 40 % de leurs projets aboutir à la production. Elles sont également 21 % à faire état d'un taux de réussite compris entre 5 % et 10 %.Les autres ont vu moins de 5 % de leurs projets de prototypes atteindre la production. « Cela dresse un tableau mitigé et nuancé des progrès en matière de [preuve de concept] — une bifurcation plutôt qu'un échec universel, où certaines entreprises réussissent la transition des preuves de concept d'IA à la production tandis que d'autres sont encore clairement en difficulté », note Eden Zoller, analyste en chef sur l'IA appliquée chez Omdia dans un blog.

Des DSI sous pression

« Les DSI et autres décideurs informatiques subissent la pression des conseils d'administration et des PDG qui souhaitent que leurs entreprises soient axées sur l'IA. Cela risque d'entraîner une exécution trop rapide et un mauvais choix des projets », a de son côté assuré Steven Dickens, analyste principal chez Hyperframe Research. Selon ce dernier, les dirigeants avisés sont prudents et pragmatiques, et privilégient la valeur ajoutée avérée plutôt que de se précipiter sur des processus critiques. « Ils limitent les projets pilotes à des domaines à faible risque et à fort impact, comme la génération de code interne ou le triage des demandes clients », indique Steven Dickens. D’après lui, les DSI devraient d'abord élaborer une stratégie data et transformer le pipeline de données avant de privilégier le lancement d'un chatbot ou d'une application innovante. « Ceux qui se précipitent négligent souvent les étapes cruciales de la gouvernance et de la préparation des données, ce qui entraîne des corrections coûteuses par la suite », regrette l’analyste de Hyperframe Research.

Jack Gold, analyse principal et fondateur du cabinet J. Gold Associates explique : « les LLM ne sont pas optimisés pour les organisations, qui doivent compléter leurs propres données. Dans de nombreuses entreprises, cette opération s'avère complexe, car les données peuvent être dispersées ou difficilement accessibles pour affiner les modèles et obtenir des résultats optimaux », précise-t-il. Dans une autre étude sur la maturité du marché de l'IA publiée ce mois-ci, le cabinet Mc Kinsey a constaté que 90 % des répondants utilisent l'IA sous une forme ou une autre. L'utilisation la plus répandue se trouve dans le secteur des assurances pour la gestion de l'information et les opérations de service, suivie par le génie logiciel dans le secteur technologique. L'IA est également présente dans le secteur des services pour la gestion de l'information, ainsi que dans les opérations de marketing et de vente sur le marché des biens de consommation.

L'IA doit être vue comme un modèle économique 

Les domaines où l'utilisation de l'IA est restée faible sont la fabrication de pointe, l'ingénierie et la construction, ainsi que les secteurs pharmaceutique et médical. En y regardant de plus près,  l'IA agentique est surtout utilisée dans le secteur technologique pour le développement logiciel et les opérations de service. A l’inverse, les agents de gestion des stocks et de production ainsi que les assistants RH sont les moins répandus. « Les cas d’usage de l’IA agentique, tels que la gestion des services d’assistance informatique et la recherche approfondie en gestion des connaissances, se sont rapidement développés », a précisé McKinsey dans son étude. « Durant la période d'expérimentation, les organisations qui envisagent l'IA comme un moyen de repenser leur modèle économique prendront une longueur d'avance, a déclaré Tara Balakrishnan, associée du cabinet de conseil. Selon elle, si beaucoup perçoivent des indicateurs clés grâce aux gains d'efficacité, se concentrer uniquement sur les coûts risque de limiter l'impact de l'IA.

L’évolutivité, les coûts du projet et la disponibilité des ressources jouent également un rôle clé dans le passage des projets de validation de concept à la production. « Les outils d’IA ne sont pas prêts à l’emploi », a ainsi souligné Jinsook Han, directrice de la stratégie et de l’IA opérationnelle au sein de la SSII Genpact. « Si les entreprises peuvent expérimenter avec des démonstrations impressionnantes et des preuves de concept, la technologie doit également être utilisable et pertinente », a-t-elle ajouté. « Tout le monde peut aller à la plage et faire des châteaux de sable, mais combien d'entre eux resteront ? », s’interroge Jinsook Han. Pour elle, un grand nombre de projets échouent car ils sont construits sur des systèmes informatiques obsolètes.

Des projets trop souvent réajustés

De ce fait, elle pense que la modification de l'infrastructure technologique, des flux de travail et des processus d'une entreprise permettra d'optimiser les capacités de l'IA. Les humains doivent toujours superviser les projets et les résultats sur cette technologie surtout lorsqu'il s'agit de la partie agentique, a déclaré la directrice de la stratégie de Genpact. « Laissons les machines, comme les humains, faire ce qu'elles font de mieux», a-t-elle ajouté. Dans une autre enquête, le fournisseur Cleanlab a constaté que très peu d'entreprises disposaient d'agents IA en production. « Entre 60 % et 70 % des personnes avec lesquelles nous avons discuté, que ce soit dans le cadre de l'enquête ou lors d'entretiens commerciaux, modifiaient l'intégralité de leur infrastructure : leur LLM, la plateforme d'IA sur laquelle ils avaient développé leur agent. Elles procédaient à des ajustements au moins tous les trois mois », rapporte Curtis Northcutt, CEO de Cleanlab.

Ce dernier a exprimé sa compassion envers les DSI aux ressources limitées, soumis à une forte pression et manquant de budget et d'expertise dans les domaines spécialisés essentiels à la construction de systèmes d'IA robustes. « La réalité est que les véritables agents IA dotés d'une capacité agentique et d'outils d'appel ne verront probablement pas le jour avant début 2027 », a alerté le dirigeant de Cleanlab. De leur côté, Curtis Northcutt et Jack Gold s’accordent à penser que les entreprises devraient s'associer à celles ayant déjà connu le succès.« Les organisations qui ont subi divers échecs peuvent signaler les pièges à éviter lors de la mise en œuvre, ce qui permettrait de gagner du temps, d’optimiser les ressources, et ainsi d’améliorer considérablement les chances de réussite. Cela vaut notamment pour les entreprises qui mettent en œuvre un projet pour la première fois », recommandent-t-ils en conclusion.