Pour paraphraser Esope, ChatGPT peut être la meilleure et la pire des choses. Face au succès de l’agent conversationnel, il n’a pas fallu attendre longtemps pour que les acteurs de la menace s’y intéressent. Des chercheurs de Check Point Research ont trouvé trois cas où des « black hat » se sont appuyés sur ChatGPT à des fins malveillantes.

Dans un des cas, le pirate a partagé le code d’un voleur d’informations basé sur Python qu’il a développé à l’aide de ChatGPT. Ce programme est capable de rechercher, copier, exfiltrer douze types de fichiers, comme des documents Office, des PDF et des images. La même personne a utilisé le chatbot pour écrire du code Java capable de télécharger le client SSH et telnet PuTTY et l’exécuter discrètement sur un système via PowerShell.

Du script kiddies et une place de marché sur le dark web

Autre cas découvert à la fin décembre où une personne, connue sous le pseudonyme USDoD, a publié un script Python généré avec ChatGPT pour chiffrer et déchiffrer les données à l’aide des algorithmes cryptographiques Blowfish et Twofish. Inoffensif à première vue selon les experts de Check Point Research, le script pourrait être modifié afin de s’exécuter sans aucune interaction avec l’utilisateur, ce qui en ferait un ransomware. Les spécialistes observent qu’à la différence du cas précédent, USDoD semble avoir des compétences techniques limitées et s’apparente à du script kiddies.

Enfin, dans le troisième cas, un cybercriminel discutait sur la façon dont il s’était servi de l’outil d’OpenAI pour créer une place de marché entièrement automatisée sur le darkweb. Cette plateforme propose d’échanger des données, des coordonnées bancaires, des cartes de paiement volées, des outils pour créer des malwares, de la drogue, des armes et des munitions, etc. « Pour illustrer la manière d’utiliser ChatGPT, le pirate a publié un morceau de code qui embarque l’API d’un tiers pour obtenir des cours actualisés de crypto-monnaies (Monero, Bitcoin et Ethereum) dans le système de paiement de sa place de marché », observent les chercheurs.

Les acteurs de la menace ont donc bien compris les bénéfices de ChatGPT dans la génération et la complétion de code pour créer des scripts malveillants. L’histoire n'en est qu’à ses débuts et l’IA ne demande qu’à apprendre.