La Commission nationale de l'informatique et des libertés (CNIL) et le Conseil de l'IA et du Numérique (CIANum) viennent de publier une note exploratoire consacrée à l'essor de l'IA agentique. Les deux institutions se sont penchées sur les conséquences de cette technologie pour la protection des données personnelles. Leur constat est simple : l'IA ne se limite plus à générer du contenu ou à répondre à des questions. Les systèmes agentiques sont capables d'accéder à de multiples sources de données, d'interagir avec différents services et d'agir directement dans leur environnement au nom de l'utilisateur. Selon la CNIL et le CIANum, cette évolution marque un « changement d'échelle » qui amplifie les risques liés aux données personnelles.

Pour les deux organismes, l'IA agentique transforme profondément la relation entre les utilisateurs, leurs données et les systèmes d'intelligence artificielle. Là où un chatbot répond généralement à une demande ponctuelle, un agent doit comprendre les préférences, le contexte et les objectifs de son utilisateur pour accomplir une tâche. Pour y parvenir, il est susceptible d'accéder à un volume bien plus important d'informations personnelles.

Une multiplication des flux de données


La note souligne que ces agents s'appuient souvent sur des chaînes de traitement complexes associant plusieurs modèles, plateformes et fournisseurs de services. Cette architecture rend plus difficile la compréhension des traitements effectués sur les données personnelles et complique leur traçabilité. Les auteurs pointent également le risque d'une collecte toujours plus importante de données contextuelles. Pour personnaliser leurs actions, les agents pourraient accéder aux courriels, calendriers, historiques de navigation, documents professionnels ou encore aux données de localisation de leurs utilisateurs. Cette hyperpersonnalisation soulève des questions de proportionnalité et de minimisation des données au regard du RGPD. En pratique, un système IA agentique peut déduire des informations sur la vie privée d'un utilisateur à partir des données dont il dispose déjà, puis les réutiliser, parfois de manière implicite, pour exécuter de futures tâches.

L'autonomie croissante de ces systèmes soulève également des questions de responsabilité. Lorsqu'un agent IA commet une erreur ou réalise un traitement non conforme, il devient difficile d'identifier le responsable. L'utilisateur, l'éditeur du modèle, l'intégrateur de la solution ou encore un fournisseur tiers peuvent tous intervenir dans la chaîne de décision. Au-delà des aspects juridiques, la CNIL et le CIANum mettent en avant des risques de sécurité spécifiques à l'IA agentique. L'interconnexion de plusieurs agents, outils et services augmente la surface d'attaque : une vulnérabilité dans un composant peut potentiellement compromettre l'ensemble du système.

Transparence et contrôle utilisateur au cœur des recommandations


Pour répondre à ces enjeux, la CNIL et le CIANum avancent plusieurs pistes. La première consiste à renforcer la transparence. Les utilisateurs doivent pouvoir comprendre quelles données sont utilisées, quels services sont sollicités et quelles actions sont réalisées par les agents. L'objectif est d'assurer une traçabilité complète du processus décisionnel. Les deux organismes recommandent également de renforcer le contrôle des utilisateurs sur leurs données. Les agents ne devraient accéder qu'aux informations strictement nécessaires à l'exécution d'une tâche, avec une vigilance particulière pour les données sensibles.

Sur le plan technique, la note préconise plusieurs garde-fous : filtrer les usages malveillants, surveiller les actions des agents en temps réel, cloisonner leurs mémoires et limiter leur accès aux données et aux applications. Enfin, la CNIL insiste sur la nécessité de maintenir l'humain dans la boucle pour les opérations les plus sensibles. Certaines actions pourraient nécessiter une validation préalable de l'utilisateur, tandis qu'un mécanisme d'arrêt d'urgence (« kill switch ») offrirait la possibilité d'interrompre immédiatement un agent en cas de comportement inattendu. Pour les régulateurs, l'IA agentique ouvre ainsi un nouveau chantier de réflexion. Si ces systèmes promettent d'importants gains de productivité, leur déploiement à grande échelle nécessitera de nouveaux mécanismes de contrôle, de supervision et de gouvernance afin de préserver la maîtrise des utilisateurs sur leurs données personnelles.