Les RSSI dépassés par les stratégies de GenAI des dirigeants

Pour de nombreux RSSI, l’idée que se font les dirigeants sur les promesses de l'IA générative a tout du chant de sirène. Selon une récente enquête de NTT Data, 89 % des cadres supérieurs sont très préoccupés par les risques de sécurité associés aux déploiements de l'IA générative. Mais, selon le rapport, ces mêmes cadres estiment que « la promesse et le retour sur investissement de la GenAI l'emportent sur les risques », si bien que, en matière de gestion des risques, les RSSI apparaissent comme la seule voix de la raison. Et cela peut faire des ravages, car près de la moitié des RSSI d'entreprise ne voient pas l'IA générative d’un bon œil, et qu’ils se sentent « sous pression, menacés et dépassés », selon l'enquête.

Le conflit est assez courant. Les cadres font pression sur les chefs d'entreprise pour qu'ils adoptent les dernières technologies afin de réaliser des gains d'efficacité et améliorer les résultats. Mais la mise en œuvre de l'IA générative est une entreprise risquée, sans doute plus que n'importe quelle technologie à ce jour. La GenAI hallucine, outrepasse les garde-fous, met en péril la conformité et dévore les données sensibles de l'entreprise. D’autant que celles-ci ont tendance à l’adopter rapidement sans renforcer correctement leur sécurité, et qu’elles sont poussées par des fournisseurs qui privilégient la fonctionnalité à la sécurité.

Un Far West ouvert à tous les risques

« C'est le Far West : il y a plein d'applications d'IA et plein de choix de modèles de langage, ce qui rend difficile l'évaluation de ce qui est sûr, sans compter les applications qui paraissent légitimes, mais qui sont destinées à exfiltrer des données et à faciliter les ransomwares », s’est alarmé Will Townsend, vice-président et analyste principal chez Moor Insights & Strategy. « L'inquiétude liée à la fuite de données est réelle et cela arrive déjà, de même que des attaques par injection rapide qui introduisent des codes malveillants. »

Selon M. Townsend, la désinvolture dont font preuve de nombreux fournisseurs d'IA générative quand ils sélectionnent les données utilisées pour entraîner leurs modèles est l’un des plus gros problèmes auxquels sont confrontés les RSSI. « Cela crée un risque de sécurité pour l’entreprise. » Jim Routh, vétéran de la sécurité, qui a occupé des postes de RSSI chez Mass Mutual, CVS, Aetna, KPMG, American Express et JP Morgan Chase, pense que la pénétration de la GenaI dans les solutions SaaS rend la situation encore plus problématique. « La surface d'attaque de l'IA générative a changé. Jusque-là, les utilisateurs d'entreprise utilisaient des modèles de base fournis par les plus grands fournisseurs. Aujourd'hui, des centaines d'applications SaaS intègrent des LLM utilisés dans toute l'entreprise », a expliqué M. Routh, qui occupe aujourd'hui le poste de directeur de la confiance chez le fournisseur de solutions de sécurité Saviynt. « Les ingénieurs logiciels disposent de plus d'un million de LLM open source sur HuggingFace.com. »

Les RSSI dépassés par la vitesse d’adoption de la GenAI

Robert Taylor, avocat spécialisé dans les stratégies juridiques dans l’IA et la cybersécurité et conseiller juridique au cabinet Carstens, Allen & Gourley, voit un point commun à tous les niveaux des entreprises quelle que soit leur taille. « Elles ne savent pas ce qu'elles ne savent pas. Au moins, les RSSI sont prêts à penser aux risques et ont une idée des risques de sécurité posés par l'IA », a-t-il pointé. « Et ils essaient d'appréhender tous les nouveaux risques de sécurité qui peuvent accompagner l'IA. »

Selon lui, des projets sont en cours pour tenter d'évaluer tous les risques de sécurité liés à l'IA. «J'ai entendu parler de catégories de risques de sécurité allant de centaines à bien plus d'un millier. » Mais, selon M. Townsend, ce contexte peut peser psychologiquement sur les RSSI. « Quand ils se sentent dépassés, ils se renferment sur eux-mêmes, ils font ce qu'ils pensent pouvoir faire et ignorent ce qu'ils pensent ne pas pouvoir contrôler. »

Un problème qui s'accélère

Pendant ce temps, alors que les dirigeants poussent leurs stratégies, laissant leurs RSSI dépassés par les risques, les attaquants progressent, et rapidement. « Les pirates travaillent fébrilement pour exploiter ces technologies de manière malveillante, et les RSSI ont donc raison de s'inquiéter de l’exploitation de ces solutions et systèmes d'IA », a reconnu l’avocat. « Les solutions d'IA générative ne sont pas des logiciels et des services classiques et elles présentent certaines vulnérabilités auxquelles les autres technologies n'ont pas à faire face ». Pire encore, selon M. Taylor, les risques liés à la GenAI sont plus informes et changeants que les risques technologiques traditionnels. « L'IA générative continue de se transformer après son déploiement, ce qui crée d’autres opportunités pour les risques de sécurité comme l'injection rapide, l'empoisonnement des données et l'extraction d'informations confidentielles ou PII à partir des informations partagées avec l'IA générative », a mis en garde le juriste.

Jeff Pollard, vice-président et analyste principal chez Forrester, a souligné que la sécurité des prompts, en particulier, « est immédiate et nécessaire si l’entreprise a des invites orientées vers le client, ou orientées vers l'employé, mais avec un impact sur le client, qui pourraient conduire à un accès non autorisé aux données ou à leur divulgation. » Il pense aussi que le problème va s'aggraver rapidement. « Il est important d'apprendre à les sécuriser dès maintenant, car c’est la première version de l'IA générative susceptible d'être déployée à grande échelle dans les entreprises. L'IA basée sur les agents arrivera bientôt, quand elle n'est pas déjà là, et elle aura besoin de ces contrôles et d'autres encore pour être correctement sécurisée. »