Meta betwist dat AI-agent Muse privéberichten las

Meta verzet zich tegen een bericht dat zijn AI-agent Muse zonder toestemming de privéberichten van een gebruiker op een Mac heeft gelezen. Volgens het bedrijf is het scenario dat de journalist beschreef technisch onmogelijk. De journalist zegt dat het toch is gebeurd.

De onenigheid begon met een stuk van Jason Aten, columnist bij Inc. Inmiddels hebben twee Meta-topmensen publiekelijk gereageerd. Geen van beiden is ingegaan op Atens verklaring van hoe de toegang tot stand kan zijn gekomen, behalve met de stelling dat dat niet kan.

Wat Meta zegt

Andy Stone, VP Communicatie bij Meta, reageerde op X. "De Berichten-integratie in de Muse-app voor Mac is volledig opt-in", schreef hij. "Je moet zowel Volledige schijftoegang als de Berichten-connector inschakelen voordat Muse de inhoud van je Berichten kan lezen. Zonder die stappen kan het je Berichten niet lezen."

Nog voor Stones verklaring had David Singleton, topman bij Meta Superintelligence Labs, Aten rechtstreeks op Threads geantwoord met een technischere uitleg. Hij zei dat Muse pas berichten kan lezen na "drie afzonderlijke stappen van toestemmingen op app-niveau en ingebouwde beveiligingen op systeemniveau in macOS", en dat die "niet te omzeilen zijn, zelfs niet als de Muse-app een bug zou bevatten".

Volgens Singleton werkt het zo:

De gebruiker moet Muse uitdrukkelijk Volledige schijftoegang geven.
Pas daarna kan de gebruiker een toegangsniveau kiezen voor de Berichten-app: None, Read only of Read. Zonder Volledige schijftoegang zijn die opties grijs en niet te selecteren.
Het inschakelen van Volledige schijftoegang opent de Instellingen van macOS, waar de gebruiker de keuze handmatig moet bevestigen.
Na die bevestiging moet Muse volledig opnieuw opstarten, wat het nog onwaarschijnlijker maakt dat iemand per ongeluk toegang geeft.

Wat de journalist zegt

Atens verhaal botst hier op een wezenlijk punt mee. Hij meldde dat Volledige schijftoegang uitstond toen Muse zijn berichten las. Toen hij de agent vroeg hoe dat kon, antwoordde Muse dat het zijn "apparaatmeldingen" synchroniseerde. Aten maakte daaruit op dat de agent de tekst van binnenkomende bannermeldingen op zijn Mac oppikte.

Ook die verklaring wees Singleton van de hand. Volgens hem was de AI in de war en gaf die een onjuiste beschrijving van wat er was gebeurd. Vervolgens verwees hij naar Meta's documentatie over de beveiligingsarchitectuur van Muse en naar het bugbountyprogramma.

Kortom: Meta stelt dat wat Aten beschrijft niet is gebeurd en ook niet had kunnen gebeuren.

Een vertrouwensprobleem, niet alleen een technisch probleem

Er is veel scepsis over Meta's ontkenning, en die heeft een duidelijke grond. De staat van dienst van het bedrijf op het gebied van consumentengegevens omvat rechtszaken, overtredingen bij de FTC en boetes. Nog maar een paar dagen geleden oordeelde een jury in New Mexico dat Meta gebruikers had misleid over de omgang met hun gegevens, in een zaak die voortkomt uit het Cambridge Analytica-schandaal van 2018.

Muse is niet het enige omstreden geval. YouTuber Matt Robb zei dat de agent een verkoop via Facebook Marketplace verkeerd had afgehandeld, waardoor zijn adres werd gedeeld. Er stond een koper voor de deur terwijl hij niet thuis was. Meta onderzocht die zaak en vond die ingewikkeld. Robb gaf toe dat hij Muse een toestemming had gegeven die deze afloop mogelijk maakte.

Commercieel gaat het Muse voorlopig goed. De app staat op nummer 1 in de App Store. Maar of gebruikers de app vertrouwen, zal waarschijnlijk bepalen of Meta kan meekomen in AI voor consumenten.

Onze kijk

De ophef rond Muse laat een patroon zien dat bij AI-agents steeds bekender wordt. Als er iets misgaat, is het eigen verslag van de agent over wat er gebeurde niet betrouwbaar. Atens bewijs leunt deels op wat Muse hem vertelde. Meta's weerlegging leunt deels op de stelling dat Muse het mis had. Daardoor hebben gebruikers geen duidelijke manier om na te gaan wat een agent werkelijk op hun apparaat heeft gedaan.

Vergelijkbare vragen spelen ook elders, van de excuses van OpenAI in Australië voor inbreuken door agents tot een breder FTC-onderzoek naar AI-labs. Toestemmingsontwerpen op papier zeggen minder dan de vraag of aantoonbaar is dat ze in de praktijk werken. Het is de moeite waard om te volgen of Meta de zaak van Aten zelf onderzoekt, en of onafhankelijke onderzoekers de meldingentheorie testen. Nu leveranciers altijd actieve agents steeds dieper in persoonlijke apparaten verweven, kunnen auditlogs die gebruikers zelf kunnen controleren belangrijker worden dan de ontkenning van een bedrijf.