McAfee met une Tesla à l'épreuve de l'adversarial machine learning

Dans le paysage de cybermenaces en pleine évolution, les voitures autonomes très consommatrices d’intelligence artificielle ne seront certainement pas épargnées. McAfee s’est récemment penché sur ce sujet, son laboratoire Advanced Threat Research cherchant à mettre en évidence les menaces dans leur diversité, dans un contexte qui se complexifie. A travers le « model hacking » (piratage de modèles) également dénommé « adversarial machine learning », le spécialiste en cybersécurité étudie comment des adversaires pourraient cibler et échapper à l’IA en exploitant les faiblesses des algorithmes de ML pour obtenir des résultats contraires. L’objectif étant de mieux en comprendre le fonctionnement pour pouvoir y faire face avant que ces méthodes ne puissent être mises en oeuvre par des cybercriminels.

Le laboratoire a porté ses efforts de recherche sur la caméra MobilEye (rachetée par Intel), ce système d’ADAS - advanced driver assist system - étant actuellement utilisé par plus de 40 millions de véhicules, dont les modèles Tesla qui mettent en oeuvre le Pack 1. Les résultats de son expérimentation de 18 mois, portant sur une Tesla Model X et une Tesla Model S de 2016, ont été communiqués au constructeur californien et à MobilEye 90 jours avant d’être rendu publics. Elle a conduit à faire accélérer de façon autonome les véhicules de 50 miles par heure par la mauvaise interprétation de panneaux de signalisation.

McAfee ATR Lab a d’abord étudié les méthodes d’attaque des systèmes d’apprentissage machine de classification d’images, en provoquant une mauvaise classification des panneaux de signalisation routière. « Nous avons pu créer des attaques très efficaces pouvant provoquer des erreurs de classifications dans un système de classement très robuste, conçu pour déterminer avec une grande précision ce qu’il voit, en approchant les 100% de confiance », explique dans un billet Steve Povolny, responsable de McAfee ATR.

Après une succession d’étapes détaillée dans l’étude de McAfee, dont le fait que la fonctionnalité TACC (Tesla Automatic Cruise Control) pouvait utiliser des signalisations pour fixer la vitesse du véhicule, le lab ATR est parvenu à provoquer une mauvaise classification dans la caméra de la Tesla et à l’utiliser pour amener le véhicule à accélérer à 85 miles par heure en lisant un panneau indiquant 35 miles par heure, ainsi qu’il le montre dans une vidéo (dans laquelle on voit que, pour des raisons de sécurité, les freins ont été actionnés bien avant d’atteindre les 85 mph). L’équipe précise que ce n’est possible qu’avec la première mise en oeuvre de TACC. Ces tests ont été fait avec des versions antérieures du Tesla hardware pack 1 et de la MobilEye version EyeQ3 et ce vecteur d’attaque n’est pas utilisable sur les versions 2020. Plus important encore, si ce scénario est possible, le responsable du McAfee ATR Lab souligne qu’il s’agit encore, à ce stade, d’un travail de recherche.