Cela fait plusieurs mois qu’Okta travaille pour répondre aux enjeux de sécurisation et de gouvernance des agents IA dans les entreprises. Un thème qui a été - sans surprise – une nouvelle fois abordé lors de la dernière édition de l’AI Identity Summit du spécialiste en gestion des identités ce 10 juin à Paris. Parmi les grands sujets du moment auquel le fournisseur répond, on trouve notamment celui de la place des agents dans le système de gestion des identités de l’entreprise. 

« Nous pensons que les agents doivent avoir leur propre identité dans le système de gestion des identités car c’est très important de prouver qui accède à un ERP ou à des données, s’il s’agit d’un utilisateur directement, d’un agent autonome ou d’un agent agissant au nom d’un utilisateur », a expliqué Harish Peri, senior VP et GM d'Okta en charge des produits de sécurité IA à l’occasion d’un point presse. Pour le dirigeant, il s’agit là d’un point de préoccupation central qui s’explique par la montée en puissance des interactions entre des agents à des applications d’entreprise. « Nous ne parlons là pas d’assistant qui nettoient les e-mails ou améliorent le rendu d’un PPT mais d’agents qui impactent plusieurs systèmes et sont accessibles par de multiples utilisateurs », explique Harish Peri. Pour ces agents, il apparait essentiel de leur attribuer leurs propres identités qui seront alors adossées à un système de gestion centralisée pour orchestrer les autorisations. Précisons qu’Okta se rapproche davantage d’un registry de container en s’appuyant sur une seule instance de référence (canonique dans le jargon du fournisseur) répliquée autant de fois que le nombre d’interactions entre un utilisateur et un agent IA. « Nous ne gérons pas les agents au niveau de leur runtime et c’est pour cela qu’il y a un travail d’intégration très important en fonction de ceux utilisés par les clients (AWS, Copilot, Agentforce, Langchain...) ».

Le rôle des humains dans la boucle en question

L’émergence des agents n’est pas sans risque pour les entreprises qui doivent composer avec une recrudescence de vecteurs d’attaque allant de l’injection de prompt, à l’empoisonnement de modèles en passant par l’escalade de privilèges. Pour les agents éphémères, c’est à dire ceux qui vont être créés par des agents pour effectuer des tâches sporadiques, la situation est même encore un peu plus compliquée. « Dans ce cas l’identité est importante, mais l’autorisation l’est davantage », prévient Harish Peri. « Car ce qui compte c’est de savoir pendant ces 30 secondes où l’agent est actif, à quelles données et à quels systèmes il accède et sur la base de quelles autorisations », avance le dirigeant. « Le système devra alors répondre, même si le prompt malveillant est valide, qu’il ne donne pas la permission à l’utilisateur qui en est à l’origine - à savoir un pirate –de l’autoriser à extraire des données. « Le modèle ne peut pas le déterminer, c’est le système d’autorisation qui s’en charge », indique Harish Peri. 

Pour cadrer le développement des agents IA dans les entreprises, les humains jouent un rôle essentiel, mais il ne suffit pas seulement de les mettre dans la boucle. « La gouvernance des agents ne se limite pas à faire valider toutes leurs actions par des humains, il faut les réserver aux transactions sensibles comme les transferts d’argent, les mises à jour de conformité ou de bases de données », souligne Harish Peri. Point important : selon Okta, ce n’est pas au propriétaire d’un agent IA de valider ses décisions mais plutôt à celui qui sera responsable de la décision de le désactiver ou pas. « Ce qui manque fondamentalement aux agents c’est le jugement qui est propre aux humains. Tant que nous ne pourrons pas codifier le jugement, il faudra toujours des humains dans la boucle pour prendre les décisions. L'agent IA c'est un peu comme un stagiaire qui essaie de vous aider mais qui manque de discernement. C’est exactement ce point qui pose problème », assure le dirigeant.