Le discours des laboratoires a changé. Dario Amodei, Sam Altman et d’autres dirigeants ont récemment soutenu l’idée qu’un ralentissement, ou au minimum un durcissement des mécanismes de contrôle, pouvait devenir nécessaire à mesure que les systèmes gagnent en autonomie. Les arguments avancés concernent la cybersécurité, les comportements non anticipés des agents et la possibilité de systèmes capables d’améliorer eux-mêmes leurs performances.

Ces inquiétudes ne peuvent pas être balayées comme de simples opérations de communication. Des organismes indépendants travaillent précisément à mesurer ces risques. METR, qui évalue les capacités de modèles avancés, indique avoir levé environ 71 M$ d’engagements en six mois pour financer ses travaux sur l’autonomie, le monitoring, les incidents et les évaluations de risque. L’organisation précise ne pas accepter de financement direct des laboratoires de pointe, même si ceux-ci lui fournissent des tokens gratuits pour ses recherches.

Une course au capital qui ne ralentit pas

Le problème est ailleurs : pendant que le discours public devient plus prudent, la course économique continue d’accélérer. Anthropic a levé 30 Md$ en février 2026, puis 65 Md supplémentaires en mai, portant sa valorisation à 965 Md$. OpenAI et ses partenaires ont de leur côté annoncé Stargate, avec un objectif allant jusqu’à 500 Md$ d’investissements dans les infrastructures IA aux États-Unis. À l’échelle de l’industrie, les dépenses d’investissement des grands acteurs technologiques sont désormais projetées à plusieurs centaines de milliards de dollars par an.

Il ne s’agit pas d’une contradiction morale. Un laboratoire peut parfaitement considérer sa technologie comme risquée tout en estimant qu’il doit continuer à la développer. Mais cette situation crée un problème de lecture pour les entreprises et les pouvoirs publics : les acteurs qui décrivent les risques sont aussi ceux dont la valeur dépend de leur capacité à rester à la frontière technologique.

La sécurité devient aussi une barrière à l’entrée

Ce point compte particulièrement au moment où les règles se durcissent. Plus les exigences d’évaluation, de conformité, de calcul et de contrôle deviennent coûteuses, plus elles sont simples à absorber pour les entreprises disposant déjà de dizaines de milliards de dollars de capital. Cela ne signifie pas que les règles de sécurité seraient inutiles, ni qu’elles seraient conçues pour éliminer la concurrence. Mais leur effet économique doit être regardé au même titre que leur objectif technique. Une norme peut réduire un risque tout en augmentant mécaniquement le coût d’entrée sur le marché.

Le débat ne devrait donc pas opposer les partisans de la sécurité aux partisans de l’innovation. Il devrait demander qui définit les risques, qui finance leur mesure, qui peut supporter le coût des réponses proposées et quelles conséquences ces choix auront sur la structure du marché. L’enjeu n’est pas de soupçonner un complot. Il est plus simple : dans une industrie où les montants engagés deviennent comparables aux grands programmes d’infrastructure, le discours sur le risque ne peut plus être analysé séparément des intérêts économiques qui l’entourent.