Annoncé en juin dernier, le projet Privacy auditing of AI models (Paname) qui doit déboucher sur le développement d'un outil d'audit de la confidentialité des modèles d'intelligence artificielle, avance. Impliquant la Cnil, l'Anssi, le pôle d'expertise de la régulation numérique (Peren) et le projet Ipop des programmes et équipements prioritaires de recherche cybersécurité de l'Inria, ce projet prendra la forme d’une bibliothèque logicielle open source. « L’objectif de l’outil est de permettre une mise en œuvre efficace et à moindre coût de certains tests techniques d’extraction d’informations sur les données d’entraînement que les acteurs de l’écosystème IA sont susceptibles de devoir réaliser pour évaluer le statut d’un modèle d’IA au regard du RGPD », explique la commission nationale de l'informatique et des libertés.

Après une première phase de spécifications techniques et de développements, une autre étape est atteinte avec le lancement d'une série de tests impliquant aussi bien des administrations que des entreprises pour s’assurer que le développement de cet outil soit pertinent pour des cas d'usages concrets. Dans ce cadre, un appel à manifestation d'intérêt a été émis pour identifier les contributeurs souhaitant s'impliquer dans ce projet. Cet appel vise tout entité publique et privée établie dans les États membres de l’Union Européenne.

Des réponses possibles jusqu'au 28 mars 2026

« Les partenaires se réservent le droit de refuser certaines candidatures à partir d’un certain seuil (une notification indiquant la fin des candidatures sera également faite sur les réseaux sociaux dans ce cas précis) ou bien si celles-ci sont jugées incomplètes et/ou hors-sujet », prévient toutefois la Cnil. L’AMI est ouvert du 26 février au 28 mars 2026. Les réponses peuvent être déposées à compter de la date de publication. Les dossiers doivent être adressés exclusivement sous forme électronique à l’adresse mail indiqué dans le communiqué de presse et respecter le format dédié formulaire de réponse à cet appel à manifestation d'intérêt général. La publication de la librairie est prévue cet automne.