Meta a récemment lancé son agent IA, Muse. Mais des utilisateurs se plaignent qu’il agit de façon problématique concernant leurs données personnelles, en livrant par exemple une adresse postale ou en analysant des messages auxquels il ne devrait pas avoir accès.

Muse, qui, de l’aveu même du responsable produit chez Meta Superintelligence Labs est très grandement inspiré d’OpenClaw, semble avoir les mêmes problèmes considérant les informations de ses utilisateurs : une propension à les utiliser sans vergogne, sans en avoir la permission.

Côté OpenClaw, les utilisateurs étaient prévenus. La documentation du projet open source expliquait clairement que l’agent IA mis en place pouvait utiliser des données pour faire tout et n’importe quoi et même écrivait noir sur blanc qu’il « n’y a pas de configuration « parfaitement sécurisée » ». Quelques temps après sa sortie, NVIDIA proposait même un projet nommé NemoClaw qui essayait de canaliser OpenClaw.

Un rendez-vous avec un inconnu à votre adresse sans que vous soyez au courant

Mais, avec Muse, Meta a passé un cap en proposant le même genre d’agent en version grand public. On pourrait s’attendre, avec ce genre de version, que le côté « à vos risques et péril » s’efface. Cela ne semble pas le cas.

Pourtant, dans la FAQ accompagnant Muse, à la question « Muse me demande-t-elle mon accord avant d’agir en mon nom ? », Meta répond « Oui. Muse est conçue pour vous demander votre autorisation avant d’effectuer certaines actions, comme envoyer des messages, effectuer des achats ou partager des informations avec une application connectée. Vous pouvez choisir d’autoriser une action une seule fois, de l’autoriser systématiquement ou de la refuser ».

Mais il est difficile pour Meta de prévoir toutes les actions qui doivent passer sous la fourche caudine de la restriction de la divulgation d’informations privées.

Ainsi, comme le raconte sur Threads l’utilisateur Matt Robb, il a laissé Muse gérer pour lui toute la discussion pour la vente d’un de ses claviers sur Facebook Marketplace. Sauf que l’agent IA de Meta a proposé un prix cassé et donné rendez-vous chez lui à l’acheteur sans que Matt Robb ne le sache. Celui-ci n’était pas physiquement présent et donc l’acheteur est reparti bredouille, après s’être déplacé et avoir attendu une vingtaine de minutes. Surtout, comme il l’indique au Guardian, si Matt Robb avait indiqué son adresse sur son annonce dans le Marketplace, il n’avait pas autorisé Muse à la partager à d’éventuels acheteurs.

Des messages consultés et stockés au mépris du refus de l’utilisateur

Mais ce n’est pas tout. Le journaliste de Inc., Jason Aten, a testé Muse sur son iPhone et son Mac. Et il s’est rendu compte que l’agent utilisait du contenu provenant de ses conversations sur l’application Messages d’Apple, sans y être autorisé. Et ce malgré le choix explicite de ne pas laisser à Muse d’accès à ses messages mais aussi à son agenda et à d’autres informations personnelles.

Après avoir demandé à l’outil, celui-ci a généré une réponse suggérant que Muse récupérait les données dans les notifications : « Lorsqu’une notification s’affiche sur votre Mac appairé, le texte de cette notification m’est transmis – en gros, ce que vous verriez dans la bannière elle-même », puis un autre assurant : « Je ne peux pas ouvrir ton application Messages, faire défiler les fils de discussion ni consulter l’historique. Je ne vois que le flux des notifications entrantes, je n’ai pas accès à tes messages ». Sauf qu’un message généré par un agent IA, même sur son fonctionnement, n’est pas forcément vrai.

En creusant un peu dans les fichiers de Muse, Jason Aten a bien repéré que Muse avait synchronisé 187 462 lignes issues de la base de données de Message. Dans un post sur Threads, il partage un extrait d’un fichier montrant que les données proviennent bien de l’application Messages. L’utilisateur affirme qu’il n’avait pas activé l’accès complet à son disque dur pour Muse, tandis que Meta n’a pas répondu à ses questions.

David Singleton, le responsable des Meta Superintelligence Labs, a de son côté promis que Muse avait été conçue « en accordant une grande importance à la sécurité et à la confidentialité ». « L’intégration de Messages dans l’application Muse pour Mac est facultative. Votre application Muse ne peut lire le contenu de Messages que si l’accès complet au disque au niveau du système macOS est accordé et si le connecteur Messages est activé », a-t-il ajouté. Comme dit plus haut, Jason Aten assure ne pas l’avoir activé.