Dans le cadre d'un accord avec la FTC (Federal Trade Commission) des États-Unis, l’enseigne Rite Aid a accepté d'interdire pendant cinq ans l'utilisation de la technologie de reconnaissance faciale à des fins de surveillance. Cette décision fait suite aux accusations de la FTC selon lesquelles la technologie a été utilisée à mauvais escient, au détriment des consommateurs. De 2012 à 2020, Rite Aid a mis en place ce système basé sur l'IA pour détecter les voleurs à l'étalage. Cependant, le régulateur a déclaré que ce procédé identifiait à tort des clients spécifiques comme ayant déjà volé à l'étalage, « souvent, et en grande partie, des personnes de couleur ».

Absence d’information aux clients et erreurs répétées

Afin de réduire les vols à l'étalage et de résoudre d'autres problèmes liés à la clientèle, Rite Aid s’est appuyé dans des centaines de pharmacies sur la reconnaissance faciale via des caméras de surveillance. Le problème est que le personnel de Rite Aid accusait fréquemment à tort les clients de vol. « L'utilisation inconsidérée des systèmes de surveillance faciale par la chaîne a humilié ses clients et leur a causé d'autres préjudices, et ces infractions ont mis en danger les informations sensibles des consommateurs », a déclaré Samuel Levine, responsable des consommateurs au sein de la FTC, dans un communiqué. « L'ordonnance d'aujourd'hui montre clairement que la Commission veillera à protéger le public contre les pratiques déloyales en matière de surveillance biométrique et de sécurité des données », a-t-il ajouté.

Selon la FTC, le système de Rite Aid utilisait la reconnaissance faciale pour scanner les clients à l'entrée du magasin, en comparant leur visage avec une vaste base de données de personnes suspectées ou confirmées comme voleurs à l'étalage. Si le système trouvait une correspondance, il alertait le personnel pour qu'il surveille de près le client. La base de données de photos était remplie de photos de mauvaise qualité provenant d'images de surveillance granuleuses et de téléphones portables, ce qui entraînait des correspondances peu fiables. En raison de ces problèmes, le personnel suivait les clients ou appelait la police sans avoir été témoin d'un délit. Les fonctionnaires fédéraux ont également souligné que Rite Aid n'avait pas informé ses clients de l'utilisation de cette technologie et qu'elle avait donné pour instruction à ses employés de ne pas divulguer l'utilisation de celle-ci aux clients et aux médias. La FTC a affirmé que Rite Aid avait collaboré avec deux entreprises, dont le nom n’a pas été mentionné, pour constituer sa base de données de « personnes d'intérêt » avec des dizaines de milliers d'images.

Un pilote suspendu depuis 3 ans selon Rite Aid

Rite Aid a déclaré que son accord avec la FTC devait être approuvé par le tribunal chargé de superviser sa procédure de faillite en cours. En effet, l’entreprise s'est placée sous la protection de la loi sur les faillites en octobre. « Les allégations portent sur un programme pilote de technologie de reconnaissance faciale déployé par l’entreprise dans quelques-uns de ses magasins », a déclaré Rite Aid dans un communiqué. « Rite Aid a cessé d'utiliser cette technologie dans ces magasins il y a plus de trois ans, avant le début de l'enquête de la FTC sur l'utilisation de cette technologie par l’entreprise », a-t-elle ajouté.

« L'interdiction de la FTC illustre la nature décentralisée de la réglementation de l'IA aux États-Unis », a déclaré pour sa part Kjell Carlsson, responsable de la stratégie et de l'évangélisation de la science des données chez Domino Data Lab. « Contrairement à l'UE, où l’IA Act promet des réglementations cohérentes prévoyant des amendes draconiennes, aux États-Unis, les entreprises sont soumises à des réglementations disparates et évolutives, décidées par des agences fédérales, des législateurs des États et des municipalités, avec des sanctions comparativement mineures, principalement axées sur l'utilisation abusive des données plutôt que sur l'IA elle-même », a-t-il ajouté.