Meta conteste que son agent Muse ait lu des messages privés

Meta dément un article selon lequel son agent IA Muse aurait accédé sans autorisation aux messages privés d'un utilisateur sur Mac. L'entreprise affirme que le scénario décrit par le journaliste est techniquement impossible. Le journaliste maintient que c'est pourtant arrivé.

L'affaire est partie d'un article de Jason Aten, chroniqueur chez Inc. Depuis, deux dirigeants de Meta ont répondu publiquement. Ni l'un ni l'autre n'a abordé l'explication d'Aten sur la manière dont cet accès a pu se produire, si ce n'est pour dire que c'était impossible.

Ce que dit Meta

Andy Stone, vice-président de la communication de Meta, a réagi sur X. "L'intégration de Messages dans l'application Muse pour Mac repose entièrement sur un consentement explicite", a-t-il écrit. "Il faut activer à la fois l'accès complet au disque et le connecteur Messages pour que Muse puisse lire le contenu de vos Messages. Il ne peut pas lire vos Messages si vous ne le faites pas."

Avant la déclaration de Stone, David Singleton, dirigeant chez Meta Superintelligence Labs, avait répondu directement à Aten sur Threads avec une explication plus technique. Selon lui, autoriser Muse à lire les messages exige "trois étapes distinctes d'autorisations au niveau de l'application et des protections intégrées au niveau du système macOS", qui "ne peuvent pas être contournées, même si l'application Muse présentait un bug".

D'après Singleton, le processus fonctionne ainsi :

• L'utilisateur doit accorder explicitement à Muse l'accès complet au disque.
• Ce n'est qu'ensuite qu'il peut choisir un niveau d'accès pour l'application Messages : Aucun, Lecture seule ou Lecture. Sans accès complet au disque, ces options sont grisées.
• L'activation de l'accès complet au disque ouvre les Réglages de macOS, où l'utilisateur doit confirmer son choix manuellement.
• Cette confirmation oblige Muse à redémarrer entièrement, ce qui rend une autorisation accidentelle encore moins probable.

Ce que dit le journaliste

La version d'Aten contredit celle-ci sur un point fondamental. Il affirme que l'accès complet au disque était désactivé lorsque Muse a lu ses messages. Quand il a demandé à l'agent comment il s'y était pris, Muse a répondu qu'il synchronisait ses "notifications de l'appareil". Aten en a déduit que l'agent récupérait le texte des bannières de notification qui s'affichaient sur son Mac.

Singleton a également rejeté cette explication. Selon lui, l'IA s'est embrouillée et a mal décrit ce qui s'était passé. Il a ensuite renvoyé vers la documentation de Meta sur l'architecture de sécurité de Muse et vers son programme de bug bounty.

En résumé, Meta soutient que l'incident décrit par Aten n'a pas eu lieu et ne pouvait pas avoir lieu.

Un problème de confiance, pas seulement technique

Le démenti de Meta suscite un scepticisme largement partagé, et pour une raison évidente. Le bilan de l'entreprise en matière de données personnelles comprend des procès, des infractions sanctionnées par la FTC et des amendes. Il y a quelques jours à peine, un jury du Nouveau-Mexique a conclu que Meta avait trompé ses utilisateurs sur ses pratiques en matière de données, dans une affaire qui découle du scandale Cambridge Analytica de 2018.

Muse n'est pas le seul cas en cause. Le youtubeur Matt Robb affirme que l'agent a mal géré une vente sur Facebook Marketplace, ce qui a conduit à la divulgation de son adresse. Un acheteur s'est présenté alors qu'il n'était pas chez lui. Meta a examiné ce cas et l'a jugé compliqué. Robb a reconnu avoir accordé à Muse une autorisation qui rendait ce résultat possible.

Pour l'instant, Muse se porte bien commercialement. Il occupe la première place de l'App Store. Mais c'est sans doute la confiance des utilisateurs qui déterminera si Meta peut rivaliser dans l'IA grand public.

Notre analyse

La controverse autour de Muse illustre un schéma qui devient familier avec les agents IA. Quand quelque chose tourne mal, on ne peut pas se fier au récit que l'agent fait lui-même des événements. Les preuves d'Aten reposent en partie sur ce que Muse lui a dit. La réfutation de Meta repose en partie sur l'idée que Muse s'est trompé. Les utilisateurs n'ont donc aucun moyen clair de vérifier ce qu'un agent a réellement fait sur leur appareil.

Des questions similaires se sont posées ailleurs, des excuses d'OpenAI en Australie pour des failles liées à ses agents à une enquête plus large de la FTC visant les laboratoires d'IA. Les systèmes d'autorisation sur le papier comptent moins que la démonstration de leur efficacité dans la pratique. Il faudra voir si Meta enquête directement sur le cas d'Aten, et si des chercheurs indépendants testent la piste des notifications. À mesure que les éditeurs installent des agents toujours actifs toujours plus profondément dans les appareils personnels, des journaux d'audit vérifiables par l'utilisateur pourraient peser plus lourd que le démenti d'une entreprise.