Il y a quelques mois, Meta a lancé le suivi des mouvements de souris, des clics, des frappes au clavier et de l’activité à l’écran de ses employés américains afin d’entraîner des agents IA dans des conditions réelles d’utilisation. Face au mécontentement suscité par ce dispositif nommé MCI (mode capability initiative), le groupe a assoupli sa politique plus tôt en juin en introduisant une forme de « droit à la déconnexion » : les salariés pouvaient bénéficier d’une pause quotidienne de 30 minutes durant laquelle leurs activités n'étaient plus surveillées. Mais cette initiative vient de connaître un nouveau revers. L'entreprise a suspendu son programme après que des employés ont réussi à contourner les garde-fous mis en place pour accéder à des informations normalement restreintes. Plus embarrassant encore, l’incident se serait reproduit après que l’entreprise a affirmé avoir corrigé la faille.

Les données recueillies comprenaient notamment l'intégralité des prompts et des transcriptions, des conversations privées ainsi que des informations personnelles et relatives aux performances des employés, détaillée dans un article Wired. Ce dernier ajoute que « les dirigeants de Meta ont à plusieurs reprises défendu ce projet de collecte de données, estimant qu'il était nécessaire pour entraîner des systèmes IA capables d'utiliser des logiciels informatiques comme le font les humains, les employés constituant les meilleurs exemples à observer ». L'article cite également Stéphane Kasriel, vice-président de Meta chargé de la recherche en IA, qui a indiqué que l'entreprise avait découvert le 18 juin que des employés non autorisés avaient accédé aux données du programme MCI. Selon lui, la faille a été corrigée « en moins de quatre heures ». Toutefois, il a reconnu que « la correction initiale n'a pas tenu » et que l'accès aux données a dû être davantage restreint. Dans une note envoyée par courrier électronique, Meta a confirmé la suspension temporaire du programme. « Nous avons conçu ce programme avec des garanties de confidentialité, et bien que nous n'ayons à ce stade aucune indication qu'un accès inapproprié aux données ait eu lieu de la part d'employés de Meta, nous le mettons en pause pendant que nous menons notre enquête », a indiqué l'entreprise.

Des contrôles d'accès jugés insuffisants

Indépendamment de la pertinence de cette collecte de données par la maison-mère de Facebook, des analystes estiment que les protections déployées étaient dramatiquement insuffisantes compte tenu de la nature extrêmement sensible des informations recueillies. « Meta avait les ressources nécessaires pour faire les choses correctement, et pourtant l'entreprise a échoué de manière spectaculaire », a déclaré Karianne Michelle, directrice au sein du cabinet de conseil Acceligence. « C'est typiquement ce qui se produit lorsque la décision politique et l'exécution technique se déroulent dans deux salles différentes qui ne communiquent pas suffisamment. C'est le genre de décalage que l'on observe assez fréquemment dans des organisations soumises à des tensions structurelles. » Même constat pour Fritz Jean-Louis, conseiller principal en cybersécurité chez Info-Tech Research Group. « Ce que révèle cette affaire, est un mode d'échec classique des stratégies de données à l'ère de l'IA : collecter des données à haut risque sans mettre en place des contrôles d'accès de même niveau de maturité », a-t-il expliqué. « À cette échelle, une simple erreur de configuration transforme des données internes en une exposition systémique. » 

Les analystes, consultants et praticiens du secteur se disent davantage préoccupés par l'insuffisance des protections mises en place que par l'exposition des données elle-même. Selon Carmi Levy, analyste indépendant, même si l'on peut s'inquiéter de cette « surveillance orwellienne des frappes clavier et des mouvements de souris des employés », le véritable problème réside dans la faiblesse des mesures de sécurité destinées à protéger ces données. « Aussi inquiétant que soit le programme MCI, la raison pour laquelle Meta l'a suspendu n'a rien à voir avec les ambiguïtés morales et éthiques liées à la surveillance permanente des salariés. Elle tient entièrement à son incapacité à sécuriser les données collectées », a déclaré Carmi Levy. « Il est tout à fait envisageable que Meta reprenne cette surveillance et cette collecte de données une fois qu'elle aura compris comment des informations extrêmement sensibles, telles que des conversations privées, des données de performance et des transcriptions, ont pu être involontairement rendues accessibles à l'ensemble des employés. »

Une frontière floue entre données sensibles et “acceptables”

L'un des éléments de contexte importants est que, bien que les données collectées soient très sensibles, elles ne constituaient pas nécessairement, d'un point de vue strictement réglementaire, des données personnelles identifiables (PII). Cette distinction pourrait avoir donné à Meta un faux sentiment de sécurité et l'avoir convaincue que ces informations ne nécessitaient pas de protections renforcées. « Je pense que certaines entreprises deviennent trop confiantes lorsqu'elles affirment : "Ce ne sont pas des données personnelles ", comme si cela suffisait à considérer les données comme peu risquées », a expliqué Tom Findling, CEO de Conifers.ai. « Pourtant, des prompts internes, des transcriptions, des discussions, des tableaux de données ou des notes d'évaluation peuvent révéler énormément d'informations sur le fonctionnement d'une entreprise, ses projets en cours et ses vulnérabilités. Ce sont des données sensibles, même si elles ne contiennent pas de numéro de sécurité sociale. » Il estime que certains acteurs ont minimisé cette sensibilité, volontairement ou non, pour justifier un niveau de protection insuffisant, et considère que ces données auraient dû être clairement traitées comme à haut risque. « Il ne fait aucun doute que Meta n'a pas attribué à ces données le niveau de risque approprié », a-t-il affirmé.

Fritz Jean-Louis s'est montré particulièrement critique concernant la nature même des données collectées. « Les informations comportementales des employés, frappes clavier, captures d'écran, habitudes d'utilisation doivent être considérées comme sensibles par défaut. Si elles servent à entraîner des systèmes IA, elles doivent être traitées comme des secrets de production, et non comme de simples données analytiques résiduelles », a-t-il déclaré. Selon lui, la large accessibilité de ces informations transforme les systèmes internes en véritables surfaces de risque, où la moindre faille peut avoir des impacts étendus. Dans ce contexte, la confiance devient un élément central de la sécurité : si les employés estiment que leurs données sont excessivement collectées ou mal protégées, cela crée à la fois un risque interne et un risque réputationnel. Karianne Michelle partage cette analyse. « Les données exposées par la société ne constituent pas le principal risque. Une politique de sécurité ne fonctionne que si elle est comprise et respectée par les employés, et c’est précisément cette confiance qui est aujourd’hui remise en question », estime-t-elle. Elle ajoute que, lorsque les salariés ne croient plus ce que leur direction leur dit sur leurs propres données, cela peut fragiliser l’ensemble des politiques internes. « Cela favorise les contournements, une non-conformité discrète et des salariés qui n’osent plus signaler les problèmes », souligne-t-elle.