La CNIL ne prend pas l'IA à la légère et mène depuis plusieurs mois une véritable stratégie en la matière. En janvier dernier, elle s’est dotée d’un service spécifique et n’hésite pas à plaider pour une régulation soft sur les IA génératives. Dans le même temps, elle a organisé un « bac à sable » pour recenser des projets intégrant des solutions d’IA et les accompagner sur les questions de protection des données personnelles.

Albert de la Dinum et un bot chez Pôle Emploi

Après les candidatures, la Cnil a sélectionné 4 programmes pour bénéficier de cet accompagnement. Le premier est « Albert » de la la Dinum. Il s’agit d’une IA générative développée au sein de Datalab comme nous l’expliquait récemment Ulrich Tan, chef du pôle Datalab du département Etalab : « Nous travaillons sur des briques technologiques libres et nous testons plusieurs LLM dont Falcon, XGen, Llama et Llama 2 (13B) ». Un des cas d’usage expérimenté est à l’attention des agents du réseau des maisons « France Services » conseillant les usagers dans leurs démarches administratives.

Une autre initiative est portée par Pôle Emploi et nommée « conseils personnalisés d'Intelligence Emploi ». Il s’agit d’un assistant conversationnel à destination des agents pour  les aider à proposer un parcours personnalisé et adapté aux besoins des demandeurs d’emploi. Le projet intéresse notamment la Cnil sur la création d’une base de données (diplômes, compétences, expériences) pour entraîner le modèle d’IA.

La vidéosurveillance algorithmique dans le viseur de la Cnil

L’IA et la vidéo sont au cœur de l’expérimentation menée par la RATP. Dans sa communication, la Cnil s’entoure de circonvolutions pour éviter de parler de vidéosurveillance algorithmique. Cette dernière a été autorisée par une loi relative aux JO 2024. Elle prévoit d’associer des caméras et de l’IA pour reconnaître et signaler aux forces de l’ordre des comportements jugés « anormaux » pendant des manifestations sportives, récréatives ou culturelles. La Cnil sera particulièrement attentive à la privacy by design du test de la RATP.

Enfin, le dernier projet implique une collectivité territoriale, en l’occurrence Nantes Métropole. Baptisée Ekonom IA, l’initiative vise la consommation d’eau des habitants. À partir des données sur ce sujet, un modèle d’IA va être élaboré pour fournir des informations et des préconisations aux usagers.