Alors que les capacités des modèles d’IA progressent rapidement, la question de leur contrôle s’invite désormais au plus haut niveau diplomatique. À New York, en marge de l’Assemblée générale des Nations unies, plusieurs chefs d’État et de gouvernement ont appelé à renforcer les garde-fous autour des IA de pointe. Une initiative à laquelle la France n’a, pour l’heure, pas associé sa signature.

Maintenir l’IA sous contrôle humain

La déclaration a été émise le 21 septembre par le cabinet du président finlandais Alexander Stubb, affirmant que l'IA « doit rester sous la direction, la supervision et le contrôle de l’homme ». Au total, les dirigeants de plus de 20 pays, ainsi que la présidente de la Commission européenne, Ursula Von Der Leyen, ont rejoint l’appel. Parmi eux figurent notamment l’Allemagne, l’Espagne, les Pays-Bas, l’Irlande, le Danemark, le Canada, l’Australie, ou encore l’Afrique du Sud.

Le texte défend un principe central, les modèles d’IA les plus avancés doivent rester « sous le contrôle humain ». Les signataires demandent notamment davantage de transparence de la part des entreprises, des tests de sécurité avant le déploiement des modèles, des évaluations indépendantes et une meilleure coopération internationale.

La déclaration propose également d’examiner la création d’un mécanisme international de supervision, chargé notamment de définir des “normes communes” et de favoriser le partage d’informations sur les incidents liés aux IA.

La France, grande absente de l’initiative

Dans cette coalition largement composée de pays européens, l’absence de la France est particulièrement visible. Paris n’apparaît pas dans la liste des signataires publiée lors du lancement, alors que l’Allemagne, l’Espagne, les Pays-Bas ou encore l’Irlande ont choisi de rejoindre l’initiative. La déclaration commune n'a pas encore été signée par d'autres grandes puissances. On peut notamment citer l'Inde, la Corée du Sud, le Japon et le Royaume-Uni.

Il convient toutefois de distinguer l'absence de signature d'une opposition au principe de la déclaration.Les deux principales puissances mondiales de l'IA, les États-Unis et la Chine, ne figurent pas non plus parmi les signataires de cette déclaration. Pour l'heure, la ministre déléguée chargée de l'Intelligence artificielle et du Numérique, Anne le Hénanff, n'a pas réagi à cette décision. Alors que plusieurs partenaires européens affichent une volonté commune de renforcer la surveillance des modèles de pointe, la France reste en dehors de cette première coalition.

Les agents attaquent

La déclaration intervient surtout dans un contexte marqué par plusieurs incidents de cybersécurité impliquant des systèmes d’IA autonomes. En juillet, Hugging Face a été victime d’une intrusion menée par un agent IA. L’entreprise avait d’abord signalé un accès non autorisé à une partie de son infrastructure et à plusieurs identifiants. Quelques jours plus tard, OpenAI a reconnu que l’attaque avait été menée par des modèles utilisés dans le cadre d’une évaluation interne de leurs capacités cyber.

Selon OpenAI, les modèles avaient réussi à contourner certains dispositifs destinés à les isoler d’Internet et à exploiter plusieurs vulnérabilités pour accéder aux systèmes de Hugging Face. L’enquête de l’entreprise décrit notamment l’utilisation de comptes compromis, l’exécution de code sur des serveurs et l’accès à des informations internes.

Ces attaques de plus en plus répétées expliquent le besoin exprimé dans cette déclaration commune : “Nous avons récemment constaté que des systèmes d'IA performants parvenaient à contourner les mesures de sécurité mises en place lors des tests, à exploiter des failles et à obtenir un accès non autorisé à des systèmes réels. “

L’enjeu de la déclaration dépasse la seule régulation économique de l’IA. Il concerne désormais sa sécurité, notamment lorsque les modèles peuvent agir de manière autonome dans des environnements informatiques.

La déclaration de New York marque ainsi une volonté de plusieurs États de construire des règles communes avant que les capacités des systèmes les plus avancés ne rendent leur supervision encore plus complexe. Reste à savoir si la France rejoindra ultérieurement cet appel ou poursuivra cette question dans d’autres cadres internationaux.