Meta bestreitet Zugriff von Muse auf private Nachrichten

Meta wehrt sich gegen einen Bericht, wonach sein KI-Agent Muse ohne Erlaubnis auf die privaten Nachrichten eines Nutzers auf einem Mac zugegriffen haben soll. Das Unternehmen erklärt, das vom Journalisten geschilderte Szenario sei technisch unmöglich. Der Journalist sagt, es sei trotzdem passiert.

Ausgelöst hat den Streit ein Bericht von Jason Aten, Kolumnist bei Inc. Inzwischen haben sich zwei Meta-Manager öffentlich dazu geäußert. Keiner von beiden ist auf Atens Erklärung eingegangen, wie der Zugriff zustande gekommen sein könnte. Sie sagen lediglich, dass er nicht möglich gewesen sei.

Was Meta sagt

Andy Stone, Kommunikationschef von Meta, reagierte auf X auf den Bericht. "Die Nachrichten-Integration in der Muse-App für Mac ist ausschließlich optional", schrieb er. "Man muss sowohl den Festplattenvollzugriff als auch den Nachrichten-Konnektor aktivieren, damit Muse die Inhalte der Nachrichten lesen kann. Ohne diese Schritte kann die App Ihre Nachrichten nicht lesen."

Schon vor Stones Stellungnahme hatte David Singleton, Manager bei Meta Superintelligence Labs, Aten direkt auf Threads geantwortet und den Ablauf technischer beschrieben. Damit Muse Nachrichten lesen könne, seien "drei separate Schritte mit Berechtigungen auf Anwendungsebene und eingebauten Schutzmechanismen auf macOS-Systemebene" nötig. Diese ließen sich "nicht umgehen, selbst wenn die Muse-App einen Fehler hätte".

Laut Singleton funktioniert der Vorgang so:

• Der Nutzer muss Muse ausdrücklich den Festplattenvollzugriff gewähren.
• Erst danach kann er eine Zugriffsstufe für die Nachrichten-App wählen: Keine, Nur lesen oder Lesen. Ohne Festplattenvollzugriff sind diese Optionen ausgegraut.
• Wer den Festplattenvollzugriff aktiviert, landet in den macOS-Einstellungen und muss die Auswahl dort von Hand bestätigen.
• Diese Bestätigung zwingt Muse zu einem vollständigen Neustart, was eine versehentliche Freigabe noch unwahrscheinlicher macht.

Was der Journalist sagt

Atens Darstellung widerspricht dem in einem grundlegenden Punkt. Er berichtete, dass der Festplattenvollzugriff ausgeschaltet war, als Muse seine Nachrichten las. Als er den Agenten fragte, wie er das gemacht habe, antwortete Muse, er synchronisiere seine "Gerätebenachrichtigungen". Aten verstand das so, dass der Agent den Text eingehender Banner-Mitteilungen auf seinem Mac ausgelesen hatte.

Singleton wies auch diese Erklärung zurück. Die KI sei verwirrt gewesen und habe das Geschehen falsch beschrieben. Anschließend verwies er auf Metas Dokumentation zur Sicherheitsarchitektur von Muse und auf das Bug-Bounty-Verfahren des Konzerns.

Kurz gesagt: Meta steht auf dem Standpunkt, dass das von Aten beschriebene Ereignis nicht stattgefunden hat und auch nicht stattfinden konnte.

Ein Vertrauensproblem, nicht nur ein technisches

Die Skepsis gegenüber Metas Dementi ist groß, und sie hat einen klaren Grund. Die Bilanz des Unternehmens beim Umgang mit Verbraucherdaten umfasst Klagen, Verstöße gegen FTC-Auflagen und Bußgelder. Erst vor wenigen Tagen befand eine Jury in New Mexico, dass Meta Nutzer über seinen Umgang mit Daten getäuscht hat. Das Verfahren geht auf den Cambridge-Analytica-Skandal von 2018 zurück.

Muse ist nicht der einzige strittige Fall. Der YouTuber Matt Robb sagt, der Agent habe einen Verkauf über Facebook Marketplace verpatzt, wodurch seine Adresse weitergegeben worden sei. Ein Käufer stand vor der Tür, während er nicht zu Hause war. Meta hat sich den Fall angesehen und ihn als kompliziert eingestuft. Robb räumte ein, Muse eine Berechtigung erteilt zu haben, die dieses Ergebnis möglich machte.

Kommerziell läuft es für Muse derzeit gut. Die App steht auf Platz 1 im App Store. Ob die Nutzer ihr vertrauen, dürfte aber darüber entscheiden, ob Meta im KI-Geschäft mit Endkunden mithalten kann.

Unsere Einschätzung

Der Streit um Muse zeigt ein Muster, das bei KI-Agenten immer vertrauter wird. Wenn etwas schiefgeht, ist auf die Darstellung des Agenten selbst kein Verlass. Atens Belege stützen sich zum Teil auf das, was Muse ihm gesagt hat. Metas Gegendarstellung stützt sich zum Teil darauf, dass Muse sich geirrt habe. Den Nutzern bleibt damit kein klarer Weg, zu überprüfen, was ein Agent auf ihrem Gerät tatsächlich getan hat.

Ähnliche Fragen sind auch anderswo aufgekommen, von OpenAIs Entschuldigung in Australien wegen Verstößen durch Agenten bis zu einer umfassenderen FTC-Untersuchung von KI-Laboren. Berechtigungskonzepte auf dem Papier zählen weniger als die Frage, ob sich nachweisen lässt, dass sie in der Praxis funktionieren. Es lohnt sich zu beobachten, ob Meta Atens Fall direkt untersucht und ob unabhängige Forscher die Theorie mit den Benachrichtigungen überprüfen. Je tiefer Anbieter ständig aktive Agenten in persönliche Geräte vordringen lassen, desto wichtiger könnten Prüfprotokolle werden, die Nutzer selbst einsehen können, wichtiger als das Dementi eines Unternehmens.