Salesforce est en train de recalibrer sa stratégie IA en entreprise, et ce sont les DSI qui pourraient en faire les frais. Le fournisseur a ajouté des contrôles déterministes à Agentforce grâce à une couche de script appelée Agent Script, transférant ainsi la responsabilité du comportement de l'IA aux clients. Les analystes préviennent que cette décision obligera les DSI à absorber des coûts supplémentaires, à revoir les délais de livraison et à défendre des décisions prises par l’IA autrefois considérées comme autonomes. « Agentforce était présenté comme un agent autonome capable de résoudre les problèmes des clients de bout en bout sans avoir besoin d’une gestion minutieuse. Les DSI ont établi leur budget, planifié et communiqué en interne sur la base de cette vision. Ce que Salesforce affirme désormais très clairement, c'est que l'autonomie sans garde-fous n'est pas évolutive. Vous avez besoin de contrôles déterministes non seulement pour régir le comportement de l'IA, mais aussi pour le défendre. Il s'agit d'un changement majeur qui remet en question les feuilles de route existantes », a déclaré Sanchit Vir Gogia, CEO de Greyhound Research.

En quête de robustesse

Salesforce a intégré Agent Script dans Agentforce en octobre dernier pour rendre les agents IA viables en production, et non plus seulement dans le cadre de projets pilotes. Phil Mui, vice-président directeur de la division de recherche en IA de Salesforce, expliquait que ses clients les plus expérimentés ont du mal à maintenir les agents autonomes dans le droit chemin pour des flux de travail critiques, où leur comportement imprévisible peut augmenter les risques opérationnels et les coûts en aval. Selon M. Gogia, le problème venait de la forte dépendance d'Agentforce à l'égard du moteur de raisonnement Atlas, qui s'appuyait lui-même sur plusieurs LLM pour planifier, séquencer et sélectionner des actions en temps réel en fonction des entrées des utilisateurs. Si cette approche semblait prometteuse en théorie, elle a échoué dans la production en entreprise, car le comportement des agents variait d'une session à l'autre, des scénarios clients identiques déclenchant des chemins d'exécution différents en fonction de la manière dont le modèle interprétait l'intention à ce moment-là, a déclaré M. Gogia.

Lorsque les agents dérivaient ou bloquaient, les développeurs n'avaient guère d'autre choix que de réécrire continuellement les prompts, un schéma que les ingénieurs de Salesforce ont par la suite qualifié de cycle de « prompt fatal » qui ne résolvait pas le problème sous-jacent, a ajouté l'analyste. Animesh Banerjee, directeur général de Bong Bong Academy (un partenaire de formation de Salesforce) a déclaré que son entreprise avait rencontré des difficultés lors de la mise en œuvre d'Agentforce dans plusieurs entreprises indiennes. « Les principaux points de friction étaient les coûts d'exploitation élevés et les réponses imprévisibles, même après des prompts structurés, en particulier dans les cas d'utilisation pour le service client », a-t-il déclaré. Jayanta Acharjee, consultant senior Salesforce chez Sitetracker, spécialiste en gestion du cycle de vie des projets IT, a déclaré que les entreprises avaient rencontré des difficultés lors de la mise en œuvre d'Agentforce : la variance dans les réponses fournies par le LLM aux questions des utilisateurs était difficile à accepter pour des cas d'utilisation tels que l'assistance dans les domaines de la finance et de la santé. « Même les inexactitudes peu fréquentes sont inacceptables lorsque les réponses sont directement transmises aux clients. Cette défaillance crée un risque pour la réputation et un risque juridique », a déclaré M. Acharjee, ancien développeur Salesforce senior chez Huron. Selon Phil Mui, Agent Script permet aux entreprises d'imposer une structure déterministe basée sur des règles à l'exécution des agents, en divisant les tâches en étapes régies par une logique et un état définis, afin que les entreprises puissent mieux contrôler les résultats, limiter les calculs inutiles et rendre le comportement des agents vérifiable. Cependant, les analystes estiment que ce compromis entre l'autonomie totale et ce que Salesforce décrit comme un « raisonnement hybride » impose une plus grande responsabilité opérationnelle et de gouvernance aux DSI, les obligeant à concevoir et à maintenir des contrôles IA qui étaient auparavant censés être gérés par la plateforme.

Des challenges pour les DSI

Chandrika Dutt, directrice de recherche chez Avasant, considère que cette « recalibration » représente une charge pour les DSI et leurs équipes, tant du point de vue des coûts que des compétences. Selon elle, ce changement obligera les entreprises à investir dans la cartographie des workloads, la modélisation des données et la gestion rapide de l'efficacité pour contrôler les coûts liés aux tokens et à la consommation. Or, toutes ces compétences ne font généralement pas partie de celles qui sont clés dans de nombreuses entreprises, en particulier celles qui ont adopté Agentforce dans l'espoir de bénéficier d'une abstraction et d'une simplicité accrues. « En conséquence, de nombreuses entreprises pourraient se retrouver de plus en plus dépendantes des prestataires de services pour la gestion opérationnelle, la gouvernance et l’optimisation des flux de travail pilotés par des agents. Ce qui était initialement perçu comme un raccourci vers la productivité peut rapidement se transformer en un engagement lourd en services », selon Mme Dutt.

M. Gogia, de Greyhound Research, a souligné que la superposition de contrôles déterministes affecte également le calendrier de retour sur investissement attendu par les DSI en le prolongeant davantage. « Si vous aviez prévu de déployer un service d'assistance GenAI au deuxième trimestre et de le laisser apprendre sur le tas, vous devez désormais ajouter des cycles de script, de test, de versioning et d'assurance qualité. Cela ralentit les choses », a-t-il déclaré, ajoutant que cela crée un « problème politique » pour les DSI qui ont prôné l'IA en interne et doivent désormais expliquer pourquoi le fournisseur a changé d'orientation et pourquoi l'équation coûts-avantages a évolué.

Des agents autonomes plus compliqués à contrôlés

Les analystes affirment également que la décision de Salesforce met en évidence une réalité plus large du secteur : à grande échelle, l'autonomie s'avère plus difficile à contrôler et plus coûteuse à défendre que ce que les fournisseurs avaient initialement laissé entendre. M. Gogia a souligné que son entreprise avait suivi des évolutions similaires chez Microsoft, OpenAI, LinkedIn, ServiceNow et même dans les chaînes d'outils IA émergentes. OpenAI, par exemple, a lancé AgentKit spécifiquement pour donner aux développeurs un moyen de chorégraphier le comportement des agents à travers des étapes explicites. En fait, compte tenu de la faiblesse inhérente des LLM en tant que « terribles opérateurs », M. Dutt s'attend à ce que d'autres fournisseurs de logiciels suivent une voie similaire à celle de Salesforce, en particulier dans les secteurs réglementés tels que la santé, la banque, les services financiers et l'assurance, ainsi que dans le secteur public. « Dans ces environnements, l'automatisation déterministe n'est pas facultative ; elle est essentielle pour garantir un comportement prévisible, une auditabilité, une conformité réglementaire et une exécution étroitement contrôlée », a déclaré M. Dutt.

Selon les analystes, les DSI confrontés à cette évolution ne peuvent réagir qu'en modifiant leur perception des agents IA, qu'ils doivent désormais considérer comme des capacités intégrées aux workloads de l'entreprise plutôt que comme des employés numériques. Cela impliquera davantage d'investissements initiaux. « Vous devez vous doter du personnel adéquat. Cela inclut des compétences techniques en matière de script et de débogage, mais aussi une réflexion conceptuelle sur les flux de conversation, des experts dans le domaine pour la conception des politiques et des responsables de la conformité pour la gouvernance. L'IA n'est pas une boîte noire que vous achetez sous licence. C'est un système que vous exploitez. Si vous ne disposez pas du personnel nécessaire pour l'exploiter, vous n'avez pas de stratégie, vous avez un projet pilote », a déclaré M. Gogia. Les DSI devront également aligner les attentes du conseil d'administration sur le recalibrage, a-t-il ajouté, en leur conseillant d'être clairs sur les limites de l'IA ainsi que sur sa valeur, et d'utiliser le pivot de Salesforce pour redéfinir les attentes, expliquer l'investissement nécessaire pour atteindre le retour sur investissement et positionner l'IA comme une capacité évolutive à long terme, et non comme un gain rapide.

Une démarche d’adaptation progressive

Une autre alternative serait de considérer cette recherche de robustesse comme une étape progressive plutôt que comme une migration : les DSI devraient appliquer des contrôles déterministes de manière sélective, en commençant par les workflows où la prévisibilité est incontournable, plutôt que de reconstruire les agents à partir de zéro, a déclaré Akshay Sonawane, ancien responsable de l'ingénierie logicielle chez Salesforce et actuellement ingénieur en apprentissage automatique chez Apple. Il ajoute que les DSI devraient également considérer l'apprentissage d'un langage spécifique à un domaine, tel qu'Agent Script, comme une question à court terme, car l'alternative est l'ingénierie rapide, qui est plus difficile à déboguer, à tester et à maintenir. Un porte-parole de Salesforce a fait écho aux opinions de M. Sonawane sur la migration et a déclaré que les entreprises confrontées à des problèmes avec la mise en œuvre d'Agentforce peuvent contacter son équipe de services professionnels et d'autres partenaires certifiés. La mise en garde, cependant, comme l'ont souligné les analystes, est que ce service n'est pas gratuit.