La marche de l'IA générative n'est pas sans conséquences négatives, et les RSSI sont particulièrement préoccupés par les inconvénients d'un monde alimenté par l'IA, selon une étude publiée cette semaine par IBM. Selon la firme, l'IA générative devrait créer un large éventail de cyberattaques supplémentaires au cours des six à douze prochains mois, des acteurs malveillants sophistiqués utilisant la technologie pour améliorer la vitesse, la précision et l'ampleur de leurs tentatives d'intrusion. Les experts estiment que la plus grande menace provient des attaques générées de manière autonome et lancées à grande échelle, suivies de près par les usurpations d'identité d'utilisateurs de confiance et la création automatisée de logiciels malveillants.

Le rapport publié par IBM comprend des données provenant de quatre enquêtes différentes liées à l'IA, avec 200 cadres d'entreprises basées aux États-Unis interrogés spécifiquement sur la cybersécurité. Près de la moitié de ces dirigeants (47 %) craignent que l'adoption par leur entreprise de l'IA générative ne conduise à de nouveaux écueils en matière de sécurité, tandis que la quasi-totalité d'entre eux estiment qu'elle accroît la probabilité d'une atteinte à la sécurité. Selon le rapport, cela a au moins entraîné une augmentation moyenne de 51 % des budgets de cybersécurité consacrés à l'IA au cours des deux dernières années, et une croissance est attendue pour les deux prochaines années.

« Jamais une technologie n’a reçu un tel niveau d’attention en matière de sécurité »

Selon Chris McCurdy, directeur général des services de cybersécurité d'IBM, le contraste entre la course effrénée à l'adoption de l'IA générative et les fortes inquiétudes concernant les risques de sécurité n'est peut-être pas un exemple de dissonance cognitive aussi important que certains l'ont prétendu. D'une part, ce n'est pas un nouveau modèle, rappelle-t-il, et d'autre part, les premiers jours de l'informatique cloud, où les inquiétudes en matière de sécurité ont freiné l'adoption dans une certaine mesure. « Je dirais même qu'il y a une différence distincte qui est actuellement négligée en ce qui concerne l'IA ; à l'exception peut-être de l'internet lui-même, jamais une technologie n'a reçu un tel niveau d'attention et d'examen en matière de sécurité », affirme Chris McCurdy. Des groupes de réflexion internationaux ont vu le jour pour étudier les implications de l'IA générative en matière de sécurité, a-t-il souligné, et bien qu'il reste encore beaucoup à faire en matière d'éducation dans les directions générales, les entreprises avancent généralement dans la bonne direction.

« En d'autres termes, nous constatons que la sécurité n'est pas une réflexion après coup, mais une considération essentielle en ces premiers jours », ajoute le directeur général des services de cybersécurité d'IBM. Il est important de reconnaître que l'impact positif de l'IA générative sur les opérations commerciales a le potentiel d'être transformateur, ajoute-t-il. Si la sécurité, sans parler de la gouvernance et de la conformité, fait partie de la conversation dès le début, les cybermenaces n'ont pas besoin d'entraver le progrès. « On s'intéresse beaucoup à l'impact positif de l'IA sur les entreprises, mais il est de notre responsabilité de réfléchir aux garde-fous que nous devons mettre en place pour garantir que les modèles d'IA sur lesquels nous nous appuyons sont fiables et sûrs », indique Chris McCurdy.