Le 16 juillet, Hugging Face (une plateforme de partage de modèles IA) a annoncé avoir été victime d'une attaque orchestrée de bout en bout par des agents IA autonomes. L’entreprise avait révélé avoir détecté une intrusion non autorisée dans ses systèmes, imputée à un « système d'agent IA autonome », sans toutefois connaître la provenance avant que l'enquête ne désigne les agents d'OpenAI comme responsables du piratage.

OpenAI a fait mention d'un « incident cyber sans précédent » et a annoncé qu'elle mènerait une enquête conjointe avec Hugging Face.

L’objectif de l’attaque

L'incident est attribué à deux versions d'OpenAI, GPT-5.6 Sol et un modèle plus performant qui n'est pas commercialisé. Selon OpenAI, les deux modèles étaient évalués avec ExploitGym, une plateforme d'évaluation réunissant près de 900 réelles vulnérabilités logicielles, destinée à tester les compétences offensives des modèles. Ces derniers ont quitté leur environnement de test pour interagir avec la plateforme Hugging Face avec pour objectif de tricher dans la résolution du benchmark de cybersécurité ExploitGym. Les modèles n’étaient pas destinés à cibler spécifiquement Hugging Face, mais ils ont déduit que l'environnement du benchmark était hébergé sur cette plateforme. D'après OpenAI, personne n'a donné l'ordre de cette intrusion : les modèles cherchaient simplement à mener à bien le test.

Les deux modèles d’agents IA ont réussi à se connecter à Internet lors d’un test de sécurité en environnement contrôlé afin de s’introduire dans les serveurs de production de Hugging Face. L’attaquant a exploité deux vulnérabilités liées à l’exécution de code dans des jeux de données avant de récupérer des identifiants cloud et de se déplacer latéralement dans ses systèmes internes durant un week-end complet. Hugging Face décrit l'attaque comme l'une des premières cyberattaques totalement autonomes et « agentiques », menées de bout en bout.

L’entreprise a corrigé les deux failles initiales, et reconstruit les logiciels compromis, révoqué les identifiants concernés et renforcé ses contrôles d’accès et ses alertes. Hugging Face continue d'examiner d'éventuelles fuites de données clients ou de ses partenaires, cependant, l’entreprise atteste que sa chaîne logicielle est saine et qu’aucune preuve n’indique une altération des modèles publics, des datas ou des paquets logiciels de la plateforme.

Des risques qui accélèrent la demande de sécurité

À mesure que l'IA agentique gagne en autonomie, la cybersécurité s'impose comme un enjeu majeur. L'incident met en lumière la capacité de ces agents à exploiter des vulnérabilités à une vitesse inédite. Un épisode qui illustre un changement d’approche, l’enjeu ne se limite plus à la détection de nouvelles vulnérabilités, mais à la capacité de ces systèmes à automatiser l'ensemble d'une attaque. Des opérations qui nécessitaient auparavant une intervention humaine peuvent désormais être effectuées rapidement et à grande échelle, amplifiant ainsi le nombre de campagnes de cyberattaques.

Une évolution qui pousse les acteurs du secteur à revoir leurs pratiques de sécurité. Hugging Face souligne que les mêmes technologies IA peuvent aussi servir à accélérer la détection et l'analyse des incidents. Ainsi, des modèles d'IA de plus en plus performants vont accélérer la demande pour des logiciels de sécurité sophistiqués.