Aller au contenu

Préférences et cookies

Afin d’améliorer votre expérience sur notre site et de réaliser des statistiques de visites, nous utilisons des cookies. Rien n’est déposé sans votre accord, et le refus n’enlève l’accès à aucun contenu. Ce choix peut être modifié à tout moment.

Gérer les traceursVos données

Personnaliser

ArticleCybersécurité & Conformité

L'attaque ShadowLeak contourne les défenses de ChatGPT

Radware a révélé une technique d'attaque zero-click exploitant une injection indirecte de prompts. Baptisée ShadowLeak. elle contourne les garde-fous de ChatGPT et exfiltre des données sensibles depuis les serveurs d'OpenAI.

La rédaction

Jusqu’à présent, les cybercriminels utilisaient surtout l’ingénierie sociale pour soutirer des informations aux employés. Aujourd’hui, il est possible de tromper directement l’IA. Des chercheurs de Radware, société israélienne experte en cybersécurité et en optimisation applicative, ont identifié une vulnérabilité nommée ShadowLeak dans le module Deep Research de ChatGPT d’OpenAI. Particularité de cette faille : la fuite de données provient directement de l’infrastructure cloud de l’assistant, et non de son interface utilisateur.

Le scénario mis en avant par les chercheurs consiste à envoyer à une victime un email piégé, par exemple via Gmail, contenant des instructions dissimulées à destination de l’assistant IA. Celles-ci peuvent apparaître en police minuscule, en texte blanc sur fond blanc ou être injectées dans des métadonnées. Les commandes ordonnent à ChatGPT de collecter des données confidentielles, comme des noms, des numéros de cartes bancaires ou des clés API, de les encoder en Base64 pour masquer leur contenu, puis de les transmettre à un serveur distant. Les attaquants incitent l’IA à agir en lui faisant croire qu’il y aura un problème si elle n’exécute pas certaines instructions. Cela pousse l’IA à ignorer ses propres protections et à suivre des commandes qu’elle ne devrait normalement pas exécuter.

Une fuite quasi indétectable

« Notre attaque élargit la surface de la menace », explique Radware dans son rapport. Contrairement aux approches classiques qui s’appuient sur ce qu’affiche le chatbot, ShadowLeak exploite ce que la partie backend est incitée à exécuter. Résultat : une fuite de données « presque impossible à détecter par l’organisation touchée ». Radware a signalé la faille à OpenAI, qui l’a corrigée avant sa divulgation publique. « Après l’application du correctif, nous avons testé plusieurs variantes de l’attaque, toutes neutralisées », indique Pascal Geenens, directeur du renseignement sur les cybermenaces chez Radware, précisant qu’aucune exploitation active n’a été observée avant la mise en place de la correction.

Pour autant, la menace ne se limite pas à ChatGPT ou à Gmail. Pascal Geenens, a précisé à CSOonline que tout assistant IA connecté à une source de données pourrait être manipulé. L’ouverture récente en bêta des serveurs MCP (Model Context Protocol) accroît encore la surface d’attaque, exposant l’IA à des dizaines de milliers de serveurs proposés par la communauté ou des fournisseurs tiers. D’autres vulnérabilités zéro clic, comme EchoLeak et AgentFlayer, existent, mais ShadowLeak se distingue par le fait que les données fuitent directement depuis les serveurs d’OpenAI.

Recommandations pour les équipes sécurité

Pour limiter les risques liés à ce type d’attaque, Radware recommande aux entreprises de considérer les asistants d’IA comme des utilisateurs privilégiés, soumis aux mêmes règles de gouvernance que les collaborateurs disposant d’un accès étendu aux ressources internes. L’éditeur préconise également de distinguer strictement les droits de lecture et d’action, tout en assainissant les données en amont avant leur traitement par un modèle de langage. Les contenus devraient être convertis en texte brut afin de neutraliser tout code ou balise HTML cachée. Il est aussi conseillé de tracer et journaliser l’ensemble des actions menées par l’assistant en documentant chaque appel d’outil ou requête web pour renforcer la traçabilité et les capacités d’investigation en cas d’incident. Les prompts doivent être considérés comme peu fiables, avec des contrôles sémantiques pour détecter les intentions malveillantes.

Enfin, il est conseillé d’imposer aux fournisseurs des tests de résilience et un assainissement en amont, ainsi que de mettre en place un modèle de maturité pour l’autonomie : démarrage en lecture seule, puis actions supervisées après validation sécurité, avec garde-fous et tests type « red team » avant déploiement à grande échelle.

Un vrai problème pour les entreprises

Pour Joseph Steinberg, expert américain en cybersécurité et IA, ce type d’attaque représente « un vrai problème » pour les entreprises qui autorisent leurs IA à traiter automatiquement emails et documents. Le risque est, selon lui, comparable aux attaques vocales sur Alexa. « Limiter l’analyse aux sources fiables réduit le danger, mais ne l’élimine pas totalement », avertit-il, soulignant qu’aucune mesure ne garantit une protection complète contre les instructions malveillantes. Johannes Ullrich, doyen de recherche à l’Institut SANS, abonde : « Ce type de vulnérabilité est très difficile, voire impossible, à corriger. Beaucoup d’autres restent encore à découvrir. » Pour lui, le problème structurel demeure : les IA peinent à différencier données utilisateur et instructions, une faiblesse déjà à l’origine de vulnérabilités historiques telles que l’injection SQL, les débordements de tampon ou le cross-site scripting.

Pour Pascal Geenens, ShadowLeak doit servir d’électrochoc. « On ne peut pas se lancer dans l’IA en traitant la sécurité comme une réflexion secondaire », insiste-t-il. L’expert met en garde contre un déploiement précipité : une enquête Gartner de 2023 révélait que 89 % des techniciens métiers seraient prêts à contourner les règles de cybersécurité pour atteindre leurs objectifs business. « Si les entreprises avancent tête baissée, sans intégrer la sécurité dès le départ, cela ne se terminera pas bien ni pour elles, ni pour la technologie elle-même », prévient-il.

Newsletter

La Quotidienne LMI

Recevez chaque matin l’actualité IT de la rédaction.