Salesforce fixe un cadre pour le déploiement des agents IA

Face à la montée en puissance de l'IA générative, les entreprises cherchent à aller au-delà des simples interactions conversationnelles pour intégrer des agents capables d'agir directement dans leurs environnements métier. C’est dans cette optique que Salesforce déploie une stratégie autour du concept d'EGI (enterprise general intelligence), visant à doter les sociétés d'agents IA fiables, adaptés au contexte et intégrés à leurs systèmes.

Pour Silvio Savarese, vice-président exécutif et directeur scientifique chez Salesforce, « une IA agentique ne se limite pas à un simple grand modèle de langage. Elle repose sur une architecture en quatre piliers ». Lors d’une table ronde, il a précisé ces quatre éléments essentiels : la mémoire, le cerveau, l’actionneur et l’interface. L’objectif est d’offrir à ces agents une réelle capacité d’action dans les environnements professionnels. Pour ce faire, l'éditeur mise sur ses modèles xLAMs, des modèles de langage spécifiquement entraînés pour exécuter des actions pertinentes et contextualisées au sein de frameworks opérationnels. Le but est de fournir aux entreprises des assistants spécialisés, capables d’automatiser certaines tâches ou de faciliter leur gestion

Plusieurs types d'agents IA

La société conçoit ces agents comme des outils de renfort, non comme des remplaçants des salariés. Ils peuvent automatiser la recherche d’informations, synthétiser des échanges clients ou encore gérer des processus administratifs. Un agent pourrait même coordonner plusieurs agents spécialisés selon les besoins de l’utilisateur.

Mais l’autonomie de ces systèmes se heurte encore à une limite : l’intelligence en dents de scie. Certains modèles excellent sur des tâches complexes mais échouent sur des problèmes simples. Pour évaluer cette instabilité, Salesforce a développé SIMPLE (Simple, Intuitive, Minimal, Problem-solving Logical Evaluation), un benchmark composé de questions de raisonnement élémentaire. Résultat : même de grands modèles, comme ChatGPT, peuvent ignorer un changement de contrainte pourtant évident, révélant une forme d’incohérence problématique en contexte professionnel.

Capacité, fiabilité et adaptation au cœur de l’EGI

Pour Salesforce, la performance ne suffit pas. L’IA doit aussi être constante et prévisible. L’entreprise a donc conçu une matrice croisant capacité (ce que l’IA peut faire) et cohérence (sa régularité). Quatre profils se dégagent : le généraliste (peu capable et peu fiable), le prodige (brillant mais instable), le bourreau de travail (fiable mais limité) et le champion (performant et constant). C’est ce dernier profil que vise Salesforce avec ses agents.

La progression vers l’EGI repose sur un processus en trois étapes. D’abord un pré-entraînement, pour acquérir des compétences générales comme le raisonnement ou la compréhension du langage. Vient ensuite un ajustement fin, qui adapte l’agent à un secteur d’activité. Enfin, la personnalisation de l’IA en fonction des spécificités propres à chaque entreprise. Une approche inspirée du sport de haut niveau : pas un super-agent universel, mais une équipe d’agents experts dans leurs disciplines respectives.

Une transformation à l’échelle de l’entreprise

L’EGI n’est pas qu’un chantier technologique pour l'entreprise, c’est une transformation complète de l’organisation, structurée autour de trois piliers. D’abord, une infrastructure robuste, combinant modèles, des moteurs RAG (retrieval-augmented generation), des API, des interfaces et architecture de données. Ensuite, une gouvernance des risques, qui définit des garde-fous adaptés et ajuste le degré d’autonomie des agents grâce au principe du “human-at-the-helm” (un humain reste aux commandes). Enfin, un volet formation pour créer des équipes hybrides, capables de collaborer efficacement avec l’IA.

Plusieurs innovations technologiques viennent soutenir cette stratégie : des xLAMs améliorés pour des interactions plus fluides, la famille de modèles multimodaux TACO, des systèmes d’embedding avancés (SFR-Embedding, SFR-Embedding-Code), un cadre d’évaluation CRM (CRMArena), des garde-fous optimisés (SFR-Guard), ainsi qu’un benchmark d’évaluation contextuelle (ContextualJudgeBench) pour juger la pertinence des réponses selon différents critères comme la fidélité, la précision ou encore la capacité à refuser de répondre de manière appropriée.