Meta niega que su agente Muse leyera mensajes privados
Meta rechaza una información según la cual su agente de IA Muse accedió sin permiso a los mensajes privados de un usuario en un Mac. La compañía sostiene que el escenario que describió el periodista es técnicamente imposible. El periodista asegura que, aun así, ocurrió.
La polémica arrancó con un artículo de Jason Aten, columnista de Inc. Desde entonces, dos directivos de Meta han respondido públicamente. Ninguno ha abordado la explicación de Aten sobre cómo pudo producirse el acceso, más allá de afirmar que no era posible.
Lo que dice Meta
Andy Stone, vicepresidente de Comunicación de Meta, respondió en X. "La integración con Mensajes en la app Muse para Mac es totalmente opcional", escribió. "Tienes que activar tanto el Acceso total al disco como el conector de Mensajes para que Muse pueda leer el contenido de tus Mensajes. No puede leer tus Mensajes a menos que hagas esto".
Antes de la declaración de Stone, David Singleton, directivo de Meta Superintelligence Labs, ya había contestado directamente a Aten en Threads con una explicación más técnica. Según él, para que Muse pueda leer los mensajes hacen falta "tres pasos distintos de permisos a nivel de aplicación y protecciones integradas a nivel de sistema de macOS", y estas "no pueden eludirse aunque la aplicación Muse tuviera un fallo".
De acuerdo con Singleton, el proceso funciona así:
- El usuario debe conceder expresamente a Muse el Acceso total al disco.
- Solo después puede elegir un nivel de acceso para la app Mensajes: Ninguno, Solo lectura o Lectura. Sin Acceso total al disco, estas opciones aparecen desactivadas en gris.
- Al activar el Acceso total al disco se abre la interfaz de Ajustes de macOS, donde el usuario tiene que confirmar la elección manualmente.
- Esa confirmación obliga a Muse a reiniciarse por completo, lo que hace todavía menos probable una concesión accidental.
Lo que dice el periodista
El relato de Aten choca con esto en un punto fundamental. Según contó, el Acceso total al disco estaba desactivado cuando Muse leyó sus mensajes. Cuando preguntó al agente cómo lo había hecho, Muse respondió que estaba sincronizando sus "notificaciones del dispositivo". Aten lo interpretó como que el agente estaba captando el texto de los avisos de notificación entrantes en su Mac.
Singleton también rechazó esa explicación. Dijo que la IA se confundió y describió lo ocurrido de forma incorrecta. A continuación, remitió a la documentación de Meta sobre la arquitectura de seguridad de Muse y a su programa de recompensas por fallos.
En resumen, la postura de Meta es que lo que describe Aten no ocurrió y no podría haber ocurrido.
Un problema de confianza, no solo técnico
El escepticismo ante el desmentido de Meta está muy extendido, y tiene una base clara. El historial de la compañía en materia de datos de consumidores incluye demandas, infracciones ante la FTC y multas. Hace solo unos días, un jurado de Nuevo México concluyó que Meta había engañado a los usuarios sobre sus prácticas con los datos, en un caso que tiene su origen en el escándalo de Cambridge Analytica de 2018.
Muse no es el único caso en entredicho. El youtuber Matt Robb contó que el agente gestionó mal una venta en Facebook Marketplace, lo que acabó con su dirección compartida. Un comprador se presentó cuando él no estaba en casa. Meta examinó ese caso y lo consideró complicado. Robb reconoció que había concedido a Muse un permiso que hizo posible ese resultado.
Por ahora, a Muse le va bien comercialmente. Ocupa el número 1 en la App Store. Pero es probable que la confianza de los usuarios decida si Meta puede competir en la IA de consumo.
Nuestro análisis
La polémica de Muse refleja un patrón que empieza a resultar familiar con los agentes de IA. Cuando algo sale mal, no se puede confiar en la versión que da el propio agente sobre lo ocurrido. Las pruebas de Aten se basan en parte en lo que Muse le dijo. La réplica de Meta se basa en parte en decir que Muse se equivocó. Eso deja a los usuarios sin una forma clara de comprobar qué hizo realmente un agente en su dispositivo.
Han surgido dudas parecidas en otros casos, desde las disculpas de OpenAI en Australia por brechas de sus agentes hasta una investigación más amplia de la FTC a los laboratorios de IA. Los diseños de permisos sobre el papel importan menos que la posibilidad de demostrar que funcionan en la práctica. Habrá que ver si Meta investiga directamente el caso de Aten y si investigadores independientes ponen a prueba la teoría de las notificaciones. A medida que las empresas llevan agentes siempre activos cada vez más dentro de los dispositivos personales, unos registros de auditoría que el usuario pueda consultar podrían acabar pesando más que el desmentido de una compañía.