Données personnelles : L'UE encadre leur usage sur la formation des modèles

Un petit pavé dans la mare. Le CEPD (comité européen de la protection des données) a dévoilé hier un avis sur « l’utilisation des données personnelles dans le développement et le déploiement des modèles d’IA ». Dans ce rapport, on peut lire que dans le cadre de l’entraînement des modèles d’IA, « le consentement des personnes concernées n’est pas toujours obligatoire ». Le régulateur assorti cette assertion d’un test en trois étapes et de la finalité du modèle.

Une saisine sur plusieurs problématiques

Le CEPD avait été saisi par la Cnil irlandaise « en vue d'une harmonisation réglementaire à l'échelle européenne » sur le déploiement de l’IA. L’organisme européen s’est penché sur plusieurs problématiques. La première est quand et comment un modèle d’IA doit être considéré comme anonyme. La seconde s’interroge sur l’intérêt légitime et son application comme base juridique pour développer des modèles. Enfin, la troisième porte sur les conséquences du caractère illicite de l’entraînement d’un LLM ou SLM sur son usage.

Dans son rapport, le CEPD demande aux Cnil européennes de se poser plusieurs questions. Comment peut-on démontrer que le modèle d’IA ne traite pas de données à caractère personnel ? Existe-t-il des facteurs qui feraient que le fonctionnement du modèle d'IA final ne serait plus considéré comme anonyme ? Si la réponse est positive, comment peut-on démontrer l’impact des mesures prises pour atténuer ou prévenir ces facteurs afin de garantir que le modèle d'IA ne traite pas de données à caractère personnel ? A quel stade des opérations de formation des modèles d’IA, les données personnelles ne sont plus traitées ?

Le consentement pas toujours obligatoire

Dans son avis, le CEPD a donné quelques pistes pour répondre à l’ensemble des questions en soulignant que plusieurs éléments restaient à l’appréciation des autorités nationales de protection des données personnelles. C’est le cas de la caractérisation de l’anomymat d’un modèle d’IA entraîné avec des informations privées. Par principe, ce type de modèle n’est pas anonyme sauf s’il n’est pas possible d’identifier directement ou indirectement les personnes dont les données ont été utilisées pour créer le modèle. Il ajoute le fait d’obtenir des données personnelles du modèle par le biais de requêtes. Le CEPD juge ces possibilités comme « très peu probable » et donne des mesures pour démontrer l’anonymat.

Sur l’intérêt légitime comme base légale pour utiliser les données personnelles dans l’entraînement des LLM, le régulateur européen rompt avec l’orthodoxie juridique. En effet, il reconnait que parfois les données à caractère personnel, même en l'absence de consentement explicite, peuvent être utilisées dans la formation des modèles et être conformes aux règles du RGPD. Cette exemption est cependant très encadrée en se basant sur un test en trois étapes. Le premier est que le modèle réponde à un besoin d’intérêt légitime (un chatbot pour assister les utilisateurs ou l’usage de l’IA dans la cybersécurité). En second, le CEPD fixe plusieurs critères pour déterminer si les personnes peuvent raisonnablement s’attendre à certaines utilisations de leurs données. Ces critères sont savoir si les informations personnelles étaient ou non accessibles au public, la nature de la relation entre la personne et le responsable du traitement, la nature du service, le contexte et dans lequel les données à caractère personnel ont été collectées, les utilisations ultérieures potentielles du modèle et la connaissance réelle des personnes que leurs données sont en ligne. Enfin dans le troisième test consiste à la mise en place de mesures pour atténuer les risques pour les personnes telles que la transparence ou l’exercice de droits (effacement, modification, …).

Des réactions mitigées

Cette ouverture, certes encadrée, du CEPD a été diversement accueilli. Ainsi, Peter Craddock, associé du cabinet d'avocats bruxellois Keller et Heckman souligne à nos confrères d’IDG que le rapport n’explorait pas ce qui rend les données « personnelles » et qu’il supposait simplement que toutes les données étaient effectivement individuelles jusqu'à preuve du contraire. « Nulle part le CEPD ne semble chercher à savoir s'il s'agit réellement de données personnelles pour le fournisseur de modèles d'IA. Il présume toujours que c'est le cas et se contente d'examiner si l'anonymisation a eu lieu et si elle est suffisante », souligne-t-il. Il poursuit en indiquant, « si elle est insuffisante, l’autorité de surveillance pourrait alors de considérer que le responsable du traitement a manqué à ses obligations de responsabilité en vertu de l'article 5, paragraphe 2, du RGPD ».

De son côté Patrick Raknine, DSI de l’éditeur britannique Aiphoria, a salué dans un commentaire de post Linkedin, les éclairages du régulateur européen. « Pour les développeurs d’IA cela signifie que les revendications d'anonymat doivent être étayées par des preuves, y compris la mise en œuvre de mesures techniques et organisationnelles pour empêcher la ré-identification », observe-t-il. Il ajoute, « ce n'est pas si difficile, et les entreprises IT doivent cesser d'être si fainéantes et de chercher des excuses. Elles veulent faire de grandes choses en construisant des technologies, mais ne peuvent pas se donner la peine de traiter les données dont elles ont besoin pour leur technologie de manière respectueuse ou responsable. » Des commentaires ont suggéré que les règles proposées pousseraient les entreprises IT à quitter l’Europe. « Vous n’êtes pas sérieux », s’exclame le dirigeant, « il est tout à fait possible de protéger les données des individus et de disposer d'un ensemble complet de données utiles pour s'entraîner. Cela demande un peu d'effort et de réflexion. Je pense que la clause de l'intérêt légitime a besoin d'être révisée de toute façon. Elle devient omniprésente et est certainement utilisée à des fins non légitimes. J'ai vu des sites web entiers collecter des données personnelles et prétendre ensuite qu'ils fonctionnaient sur la base de l'intérêt légitime ».