Alors que les entreprises accélèrent le développement de modèles toujours plus puissants, un collectif de 1 293 employés issus des principales entreprises IA a publié une déclaration commune sur le site Pacing the Frontier. Ces chercheurs et ingénieurs demandent au gouvernement américain d’aider à « temporiser » la sortie des modèles d’IA les plus avancés, inquiets d’une possible accélération incontrôlée. Parmi les signataires figurent notamment des responsables de la recherche chez OpenAI, Anthropic, Meta et Google DeepMind.

La déclaration part du constat que les laboratoires les plus avancés pourraient bientôt automatiser une part importante de leurs travaux de recherche. Une évolution qui, selon les signataires, pourrait accélérer le progrès technologique au point de dépasser les capacités actuelles de compréhension et de contrôle des risques. Ils estiment que les gouvernements, les entreprises et la société doivent disposer de temps supplémentaire pour mettre en place des mécanismes de sécurité, renforcer la supervision et mieux anticiper les conséquences de systèmes de plus en plus autonomes. Ils rappellent toutefois qu’aucun acteur ne peut ralentir seul sans risquer de se faire distancer par ses concurrents.

Une préoccupation centrée sur les risques systémiques

Cette prise de position intervient après plusieurs épisodes qui ont marqué un tournant dans l’évolution de l’IA ces derniers mois. Récemment, deux modèles développés par OpenAI auraient mené une attaque contre la plateforme Hugging Face, illustrant les interrogations croissantes autour de l’autonomie des systèmes IA. 

Le texte ne réclame toutefois pas un moratoire immédiat sur l’IA. Les auteurs demandent plutôt au gouvernement américain de soutenir un effort international visant à développer des outils techniques et des mécanismes de gouvernance capables de « rythmer » ou de moduler l’avancement de l’IA lorsque les circonstances l’exigent. Les témoignages publiés sur le site traduisent une inquiétude croissante face aux capacités émergentes des modèles avancés. Plusieurs chercheurs évoquent la possibilité d’une accélération auto-entretenue de la recherche par l’IA, parfois désignée sous le terme de « recursive self-improvement », ainsi que des risques liés à la cybersécurité, à la désinformation ou encore aux problèmes d’alignement. Dawn Song, professeure à l’université de Berkeley et spécialiste de la sécurité informatique, cite notamment les progrès réalisés dans la découverte automatisée de vulnérabilités logicielles. D’autres signataires estiment que les marges d’erreur pourraient rapidement se réduire à mesure que les modèles gagnent en autonomie et en capacités.

Des figures majeures de l’écosystème IA

Parmi les signataires figurent plusieurs personnalités influentes du secteur. La liste comprend notamment Dario Amodei, cofondateur et directeur général d’Anthropic, Jakub Pachocki, directeur scientifique d’OpenAI ainsi que Shengjia Zhao, directeur scientifique de Meta. Le collectif rassemble également des chercheurs spécialisés dans la sécurité et l’alignement des systèmes d’IA, dont Anca Dragan, responsable de la recherche en sécurité et alignement chez Google DeepMind. Il compte aussi plusieurs figures historiques de la recherche en IA, comme Ilya Sutskever, cofondateur d’OpenAI et ancien directeur scientifique de l’organisation.