Les agents IA accélèrent aussi bien la recherche de vulnérabilités que les capacités d’attaque. Une démonstration en a été faite chez Anthropic, l’éditeur du modèle Claude. Selon un rapport préliminaire de Cathedral, une jeune société de cybersécurité, ses chercheurs ont identifié des voies d’accès à plusieurs systèmes internes de l’entreprise en moins de 12 heures. Consulté par le Washington Post, le rapport évoque des informations potentiellement accessibles comprenant des comptes rendus de réunions, des données salariales et des échanges sur Slack relatifs aux modèles IA avancés d’Anthropic. Selon Anthropic, les chercheurs avaient passé plusieurs jours à tenter, sans succès, de pénétrer directement ses logiciels avant de se tourner vers des applications professionnelles tierces vulnérables. Les « moins de 12 heures » correspondent donc à la phase de recherche fructueuse, et non à l’ensemble des tentatives.

L’accès n’aurait ainsi pas été obtenu en attaquant directement Claude ou son infrastructure d’entraînement. Cathedral aurait exploité des vulnérabilités dans des logiciels tiers utilisés par Anthropic pour ses activités commerciales et administratives. Les éditeurs concernés n’ont pas été identifiés publiquement.

Une recherche de vulnérabilités accélérée par l’IA

Fondée par d’anciens membres du Department of Government Efficiency (DOGE), l’organisme de l’administration Trump chargé de réduire les dépenses publiques, Cathedral développe des capacités de cybersécurité reposant sur l’IA, notamment pour des usages gouvernementaux. L’entreprise affirme avoir mené ses recherches dans le cadre du programme de divulgation de vulnérabilités d’Anthropic, qui autorise des chercheurs externes à tester certaines protections et à signaler les failles découvertes. Elle indique avoir communiqué ses résultats à l’éditeur et aux fournisseurs concernés.

Les agents IA ont servi à automatiser la recherche de chemins d’accès dans les applications connectées aux systèmes internes. D’après le rapport préliminaire, les données visées comprenaient des transcriptions de réunions, des informations sur les rémunérations et les offres d’embauche, ainsi que des discussions internes portant sur les modèles avancés de l’entreprise. La rapidité annoncée constitue l’un des principaux enseignements de l’affaire. Des agents capables d’enchaîner plusieurs tâches peuvent réduire le temps nécessaire pour explorer des systèmes complexes et identifier des configurations vulnérables. Cette automatisation ne supprime cependant pas la nécessité de disposer de failles exploitables ni de droits permettant de progresser dans les systèmes.

Anthropic conteste l’ampleur des accès

Anthropic reconnaît que les chercheurs ont atteint un périmètre limité de ses systèmes commerciaux, de ressources humaines et informatiques. L’entreprise indique que certaines coordonnées professionnelles de clients et de partenaires, ainsi que des informations élémentaires sur des comptes utilisateurs, étaient accessibles. Elle affirme en revanche que les conversations des utilisateurs avec Claude, les réponses du modèle, le code source et les paramètres entraînés des modèles n’ont pas été consultés. Anthropic précise également que ses mécanismes de surveillance avaient détecté une partie de l’activité de Cathedral avant le signalement des chercheurs. Il indique avoir coupé les accès le jour même et désactivé les logiciels concernés dans l’attente de corrections par leurs fournisseurs. La société affirme par ailleurs ne disposer d’aucun élément montrant que d’autres acteurs ont exploité les mêmes vulnérabilités.

Les deux sociétés divergent sur l’interprétation de l’incident. Cathedral présente ses résultats comme un avertissement sur les capacités offensives émergentes de l’IA. Anthropic estime que la start-up a exagéré les implications de ses découvertes pour la sécurité nationale et lui reproche de ne pas avoir déclaré l’ensemble de ses activités conformément aux règles du programme de recherche. À ce stade, les informations publiées ne permettent donc pas de conclure à une compromission des modèles d’Anthropic. Elles établissent néanmoins qu’un accès limité à des applications professionnelles peut exposer des informations sensibles.