Pour renforcer la sécurité de ChatGPT, OpenAI a présenté deux fonctionnalités : le mode lockdown et des alertes « risque élevé ». La première est un paramètre de sécurité avancé destiné aux utilisateurs ou entreprises ayant des besoins élevés en matière de confidentialité. Elle limite fortement les interactions avec des systèmes et des applications externes pour réduire le risque d’exfiltration de données ou de corruption des réponses de l’assistant IA. En conséquence, le mode verrouille plusieurs capacités en les désactivant (Deep Research, Agent Mode, images dans les réponses ) ou en limitant le fonctionnement. Ainsi, la navigation web ne pourra pas faire de requête en direct mais aura un accès limité au contenu en cache.

Cette fonction de confinement de ChatGPT est disponible pour les offres ChatGPT Enterprise, Education, Santé et Enseignants. Elle peut être activée uniquement par les administrateurs depuis les paramètres de l’assistant. OpenAI se focalise dans un premier temps sur les clients professionnels, mais devrait étendre le mode lockdown au plus grand nombre dans les mois à venir.

Des avertissements sur les risques

En parallèle, le fournisseur a dévoilé ses alertes « risque élevé » qui seront affichées quand un utilisateur accédera à certaines fonctionnalités jugées potentiellement dangereuses. Elles sont présentes dans ChatGPT, le navigateur Atlas et l'agent de codage Codex. L’objectif est de sensibiliser les personnes au risque que certaines fonctions puissent accéder à des contenus malveillants via un accès à Internet ou des applications externes.  

« Dans Codex, notre assistant de codage, les développeurs peuvent autoriser l’accès réseau pour que l’outil consulte la documentation en ligne. Dans les paramètres, cette autorisation est signalée par la mention « Risque élevé », accompagnée d’une explication claire des risques et des conditions d’utilisation », précise OpenAI. Ces protections viennent renforcer les dispositifs déjà en place chez OpenAI, comme le sandboxing, les contrôles d’accès et les journaux d’audit, offrant ainsi une sécurité plus complète tout en maintenant la flexibilité et l’efficacité de l’IA.

 Paramètres Codex montrant la configuration de l’accès réseau disponible pour l’utilisateur. (Crédit: OpenAI)