Meta met sur pause son projet de surveillance de ses employés destiné à entraîner ses moteurs d’IA. En cause : les données sensibles récoltées étaient accessibles par toutes les personnes travaillant dans l’entreprise de Mark Zuckerberg.

Ce ne sont pas des considérations éthiques sur la récolte et l’utilisation de données sensibles de ses employés qui poussent Meta à stopper (au moins temporairement) son projet Model Capability Initiative (MCI), mais plutôt le manque de sécurisation de l’accès à ces données.

En avril dernier, on apprenait que le groupe dirigé par Mark Zuckerberg lançait en interne cet outil qui récupère les mouvements de curseur des souris, les clics, les frappes clavier de ses employés et réalise des captures d’écran de temps en temps. L’entreprise promettait de ne pas s’en servir pour surveiller ses employés, mais pour récolter des données afin d’entrainer ses modèles, notamment dans l’objectif d’améliorer les fonctions d’agents IA.

• Meta veut regarder tout ce que font ses employés pour entraîner ses IA

Des données disponibles aux yeux de tous en interne

Mais récemment, des employés de l’entreprise ont remarqué qu’ils pouvaient accéder à ces données qui étaient, pour ainsi dire, disponibles aux yeux de tous en interne. Business Insider a ainsi pu consulter des captures d’écran montrant qu’il était possible de consulter des discussions privées, des données de performance et des transcriptions.

L’entreprise, qui a classé cet incident au niveau 2 de son échelle de sévérité (de 5 à 0, 0 étant le plus haut niveau), répond à nos confrères que « nous avons soigneusement conçu ce programme en intégrant des mesures de protection de la vie privée, et bien que nous n’ayons pour l’instant aucune indication laissant penser que des employés de Meta auraient accédé de manière abusive à des données, nous le suspendons le temps de mener notre enquête ».

L’avis de sécurité, qui circulait en interne lundi et que Wired a pu consulter, indique que « les données des employés contenues dans 45 000 tables Hive » étaient exposées.

De quoi raviver les critiques de son personnel quant à la gestion de ce projet. Déjà au début du mois, face à une fronde interne, Meta avait mis un tout petit peu d’eau dans son vin en permettant à ses employés de mettre MCI en pause sur leurs ordinateurs. Cette fonctionnalité n’était pas un bouton de désactivation de l’outil de surveillance puisqu’elle ne leur permettait un répit que de 30 minutes.

Des salariés furieux

Mais depuis la révélation du problème de sécurité interne, certains employés ont redoublé leurs critiques. « Je suis furieux », a écrit l’un d’entre eux dans un groupe de discussion interne, selon Business Insider.

« J’ai consulté des informations fiscales et médicales personnelles depuis mon ordinateur professionnel, tout comme des milliers d’autres employés. On nous avait assuré que ces données seraient protégées et utilisées uniquement à des fins professionnelles légitimes, après avoir été soumises à un filtrage rigoureux », explique un autre dans un post cité par Reuters.

Comme l’indique Wired, certains se demandent pourquoi les contrôles de confidentialité mis en place par Meta n’avaient pas détecté le problème. Ils aimeraient que chaque employé concerné puisse participer à une réunion d’analyse des causes de l’incident. Sur le canal dédié aux discussions de machine à café, l’un d’entre eux a posté un mème extrait de la série The Office où Jim Halpert tient une pancarte sur laquelle est écrit : « 0 jour depuis notre dernière bêtise ».

Nos confrères ont aussi pu consulter un message que le CTO de Meta, Andrew Bosworth, a envoyé en interne affirmant : « Nous avons mal configuré les ACL [listes de contrôle d’accès] et nous devons comprendre comment cela s’est produit, retracer chaque accès aux données et en analyser les causes ».

Si certains salariés de l’entreprise s’expriment sur l’outil interne de communication, ils ne sont pas autorisés à parler publiquement, mais certains, anonymement, ont expliqué à Wired que l’incident était maintenant marqué comme « fermé » et serait donc résolu.