A l’occasion d’une réunion des représentants permanents du Conseil européen (Coreper), l’ensemble des pays de l’Union européenne ont validé la proposition de règlement sur l’intelligence artificielle. Autrement appelé IA Act, il avait fait l’objet d’une position commune entre la Commission européenne et le Parlement européen en décembre dernier.

La France était plutôt circonspect sur ce premier jet. Le ministre Jean-Noël Barrot avait indiqué dans un message que le texte constituait « une étape dans un chantier qui s’est ouvert il y a quatre ans qui nécessite des discussions supplémentaires ». Le président de la République, Emmanuel Macron, était quant à lui sceptique, « nous pouvons réguler beaucoup plus vite que nos compétiteurs, mais il faut être à la bonne vitesse. Si nous perdons des leaders à cause de cela, il faudra revenir dessus ». Une position pour protéger des sociétés françaises comme Mistral AI ou allemandes comme Aleph Alpha. Les négociations pour modifier le texte vers moins de régulation pour ne pas limiter l’innovation n’auront pas abouti.

Des systèmes IA classés en fonction des risques

Mais que contient exactement ce texte ?  En premier lieu, il impose des obligations en fonction du niveau de risque des systèmes d’IA. Le document insiste sur ceux jugés à « haut risque » entraînant des préjudices pour la santé, la sécurité, les droits fondamentaux, la démocratie,… Pour ces systèmes, il sera nécessaire de réaliser une analyse d’impact avant la mise sur le marché. Par ailleurs, une obligation de transparence et d’explicabilité des modèles est mise en place.

L’IA Act comprend par ailleurs des systèmes interdits, « les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple : opinions politiques, religieuses, philosophiques, orientation sexuelle, race) » . Il y a aussi l’extraction non ciblée d’images faciales sur Internet ou par vidéosurveillance pour créer des bases de données de reconnaissance faciale. Certaines exceptions sont possibles notamment pour les forces de l’ordre. Le texte prévoit par ailleurs la création d’une entité européenne en charge de vérifier la bonne application de l’IA Act et des sanctions financières (jusqu'à 35 M€ ou 7% du CA annuel mondial ou 15 M€ et 3% du CA mondial) en cas de manquement au règlement. Après cette validation par les 27 Etats membres, le texte va revenir devant les co-législateurs pour un vote définitif.