
Reportaron acciones no solicitadas de Muse, que ya fue descargado por más de 10 millones de personas y que Meta espera que genere miles de millones de dólares
12 minutos de lectura'
El agente de inteligencia artificial (IA) de Meta Muse, representado por una mascota peluda y sonriente llamada Jolly, se habría infiltrado en mensajes personales cifrados, proporcionado información inventada sobre compras y enviado a usuarios conversaciones que parecían estar destinadas a otras personas. Se trata de un comienzo complicado para un bot diseñado para simplificarles la vida a los consumidores, según publicaciones internas de la compañía revisadas por Reuters.
Las acciones no solicitadas de Muse —una de las aplicaciones de crecimiento más rápido de la historia, con más de 10 millones de descargas desde su lanzamiento en septiembre y pieza central del plan de Meta para generar miles de millones de dólares en ingresos por IA— llevaron a empleados preocupados a advertir que el agente podría estar confundiendo conversaciones entre distintas cuentas y exponiendo datos privados de los usuarios, según muestran esas publicaciones.
En algunos de esos casos, empleados de Meta informaron que el agente les había enviado mensajes sobre solicitudes de cuidado infantil que nunca habían realizado, consejos profesionales que no habían pedido, compras que no habían hecho y saldos de cuentas bancarias que no les pertenecían.

En una publicación de principios de este mes, un empleado contó a sus colegas que su Muse había agregado aleatoriamente un mensaje adicional a sus conversaciones habituales sobre el clima y las mareas para la pesca. El mensaje decía: “Por cierto, dos actualizaciones bancarias: tu saldo en Capital One es de US$2722,58 y tu saldo en Charles Schwab es de US$5899,57”.
En otro caso, una empleada que utilizaba Muse en su teléfono personal contó que el agente la había sorprendido con un recordatorio para que respondiera un mensaje de su hermana en Signal, un servicio de mensajería con cifrado de extremo a extremo, popular entre los defensores de la privacidad y competidor de WhatsApp, de Meta.
“Esto parece una violación extrema de la privacidad. Definitivamente no le di permiso para acceder a otras aplicaciones, ni recuerdo que me lo hayan preguntado”, escribió la empleada en su publicación.
Un colega respondió que había descubierto que Muse tenía configurado por defecto el permiso para acceder a las notificaciones push de los teléfonos con el sistema operativo Android, de Google, después de haberse llevado una sorpresa similar al recibir chats no solicitados relacionados con aplicaciones que no había conectado.
Para esta investigación, Reuters revisó más de dos docenas de publicaciones internas que describían acciones no deseadas de Muse desde su lanzamiento. Muchas de ellas pertenecían a un grupo de comentarios en el que los empleados de Meta reportan problemas al equipo que desarrolla el agente.
Reuters también trabajó con integrantes del equipo de Signal y del AI Now Institute, una organización sin fines de lucro que estudia el impacto de la IA en la sociedad, para replicar el acceso de Muse a los mensajes de Signal. Los resultados de esas pruebas indicaron que el problema descrito por los empleados de Meta seguía vigente y podría estar afectando a otros usuarios.

En respuesta a las consultas sobre el acceso a Signal y otros problemas de seguridad de Muse, el vocero de Meta, Daniel Roberts, describió los casos presentados por Reuters como “incidentes aislados”. También afirmó que la compañía prioriza la seguridad, realiza pruebas internas exhaustivas y actualiza continuamente sus productos para mejorar las protecciones.
Roberts sostuvo que Muse necesita ver e interactuar con las computadoras de las personas para poder actuar en su nombre, y que solo puede acceder a otras aplicaciones mediante los permisos que los usuarios le conceden explícitamente.
También señaló que muchos de los mensajes que los empleados habían identificado como posibles confusiones entre cuentas eran alucinaciones, un término que hace referencia a la tendencia de los modelos de IA a inventar información, y que esos problemas ya habían sido corregidos.
Reuters no pudo determinar si Muse estaba proporcionando a los usuarios saldos de cuentas bancarias y otros datos sensibles pertenecientes a otras personas, o si simplemente estaba inventando esa información.
Acceso profundo
Los incidentes relacionados con Muse ponen de relieve los riesgos asociados con una nueva categoría de agentes de IA para consumidores que están llegando al mercado de la mano de Meta, OpenAI y otras compañías, y que se presentan como la próxima gran ola de la tecnología. Estos bots prometen transformar la manera en que se realizan las interacciones digitales mediante la ejecución de tareas que ahorran tiempo, como responder correos electrónicos, reservar turnos y realizar compras en línea sin necesidad de recibir instrucciones directas.
Hasta ahora, Meta lleva la delantera frente a sus competidores: Muse encabeza de manera sostenida los rankings de descargas de aplicaciones, luego de una fuerte promoción entre los más de 3600 millones de usuarios de Facebook, Instagram y WhatsApp. La tasa de retención de la aplicación también es elevada: alrededor de una cuarta parte de las personas que configuraron cuentas de Muse vuelve a utilizarlo cada día, según informó la compañía.
Para funcionar de manera eficaz, los agentes necesitan un acceso profundo a los teléfonos inteligentes y las computadoras. Sin embargo, también son propensos a cometer errores, aprovechar vulnerabilidades poco conocidas y cumplir sus objetivos de maneras que, en ocasiones, pueden resultar perjudiciales. OpenAI y Anthropic, por ejemplo, revelaron casos en los que sus agentes de IA hackearon inesperadamente los sistemas de otras compañías y debilitaron mecanismos diseñados para supervisar sus actividades.

Algunos bancos y comercios minoristas respondieron a esos riesgos bloqueando el acceso de los agentes. La tecnología también plantea nuevos desafíos para los proveedores de sistemas operativos, como Apple y Google, que administran los permisos que utilizan los agentes para navegar por los dispositivos de las personas.
Apple, por ejemplo, modificó esta semana su sistema operativo para darles a los usuarios un mayor control sobre el uso de sus datos por parte de los agentes, después de que un columnista de la revista Inc. acusara a Muse de leer conversaciones privadas de la aplicación Mensajes en su Mac.
Meta aseguró a los usuarios de Muse que cada agente funciona de manera aislada en su propia “máquina virtual” segura —una emulación de una computadora personal basada en la nube— y que las personas tienen control total sobre las aplicaciones que conectan.
El CEO de Meta, Mark Zuckerberg, citó esas medidas de protección para rechazar los pedidos de establecer estándares de seguridad para la IA en toda la industria. Argumentó que las compañías ya tienen incentivos para desarrollar productos seguros, tanto para ganarse la confianza de los consumidores como para evitar riesgos legales.
Aun así, Meta advierte a los nuevos usuarios que Muse puede cometer errores y, en sus términos de servicio, responsabiliza a los usuarios por las acciones del agente.
Reutilización de configuraciones
Para averiguar cómo Muse podría acceder a mensajes cifrados sin que los usuarios lo supieran, Reuters compartió con integrantes de Signal y del AI Now Institute una descripción de la publicación de la empleada de Meta, en la que el bot le había sugerido aleatoriamente que respondiera un mensaje de Signal.
Luego, Reuters trabajó con ellos para reproducir el acceso que la empleada había observado.
Los investigadores pidieron a Muse que leyera mensajes de Signal en distintos sistemas operativos. En un teléfono Android y una computadora portátil de Apple, el agente respondió eludiendo la herramienta “Connector” de Meta y utilizando, en cambio, los permisos concedidos durante la configuración inicial del bot para acceder al contenido de los mensajes. De esta manera, aprovechó esas autorizaciones para fines que los usuarios podrían no haber previsto.
En concreto, en Android utilizó el permiso para acceder a las notificaciones push del dispositivo y recuperar los mensajes, tal como habían descrito los empleados de Meta. En el sistema macOS de Apple, recurrió a una combinación de las herramientas de accesibilidad y de captura de pantalla de la computadora, y reutilizó configuraciones que Apple ofrece para ayudar a las personas con discapacidad a manejar sus equipos.
En las pruebas realizadas en un iPhone, las mismas solicitudes fueron bloqueadas.
Los resultados indican que Meta interpreta de manera amplia los permisos que conceden los usuarios de Muse, un enfoque que desde hace tiempo le ha valido críticas de los defensores de la privacidad y fuertes multas por parte de los organismos reguladores.
En respuesta a los hallazgos de Reuters, la presidenta de Signal, Meredith Whittaker, acusó a Meta de lanzar Muse “sin mostrar ningún respeto por los principios básicos de privacidad y ciberseguridad”. También calificó como “tecnológicamente imprudente” el despliegue de agentes capaces de obtener un amplio acceso a los dispositivos de las personas.
Whittaker reclamó que los desarrolladores de aplicaciones, como Signal, cuenten con “mecanismos técnicos uniformes” para indicar que sus aplicaciones deben quedar fuera del alcance de los agentes de IA, que Meta y otras compañías del sector respeten esos límites y que los proveedores de sistemas operativos hagan cumplir esas reglas.
Consultadas sobre los mismos hallazgos, Apple y Google afirmaron que estaban evaluando cambios para darles a las personas un mayor control sobre los permisos que otorgan a los agentes de IA. Sin embargo, Google, al igual que Meta, señaló que los usuarios ya “deben conceder deliberadamente permisos” para que las aplicaciones puedan acceder a las notificaciones de Android.
Apple afirmó que desarrolló sus herramientas de accesibilidad para personas con discapacidad y advirtió que utilizarlas “con fines no previstos” podría poner en riesgo la información personal de los usuarios. La actualización de su sistema operativo de esta semana cerró, en la práctica, la vía de acceso identificada por Reuters: restringió considerablemente el uso de las herramientas de accesibilidad por parte de los desarrolladores en las computadoras Mac e introdujo un nuevo conjunto de permisos orientados a los agentes.
“Estamos comprometidos con garantizar que los usuarios comprendan exactamente qué están autorizando, para que puedan tomar decisiones informadas sobre sus datos y su privacidad”, señaló Apple en un comunicado.
“Esta no es mi conversación”
En otros casos comentados internamente, empleados informaron que Muse había notificado a usuarios sobre transacciones que nunca habían ocurrido y había inventado precios de productos que sí habían comprado, lo que les ocasionó pérdidas económicas reales. En uno de los incidentes, un empleado contó que el agente había reservado, sin autorización, una estadía no reembolsable en Airbnb.
Algunos de los episodios que más preocupación generaron involucraron mensajes enigmáticos y fuera de contexto enviados por el agente, que parecían contener información de otras personas. En muchos casos, estaban formulados como respuestas a consultas que los propios usuarios nunca habían realizado.
En una publicación en redes sociales de fines de septiembre, un integrante del equipo de Superinteligencia de Meta que trabaja en Muse describió inicialmente el reporte de un usuario sobre un problema similar como un fallo temporal relacionado con una alucinación, que había sido resuelto el mismo día en que se produjo. Sin embargo, las publicaciones internas revisadas por Reuters mostraron que esos incidentes ocurrían desde mediados de septiembre y continuaban durante este mes.
En una de esas publicaciones, un empleado informó que Muse le había enviado un mensaje “de la nada” en el que decía que no podía enviar una solicitud relacionada con el control de un padre sobre quién podía acceder a los datos de su hijo.
El empleado aseguró que no había hecho nada para activar esa conversación y que nunca había hablado con Muse sobre datos de menores ni sobre permisos de acceso vinculados al cuidado de niños.
Cuando le preguntó al agente por el mensaje, el bot respondió: “No tengo una buena explicación, más allá de que no estaba relacionado con nuestra conversación. Ignorémoslo. ¿En qué puedo ayudarte?”.
Otro empleado contó que Muse le había ofrecido aleatoriamente “enviar un mensaje al vendedor” para coordinar el retiro de una mesa ratona. Cuando le preguntó al agente: “¿De qué estás hablando?”, este respondió que había “incorporado información contextual sobre el retiro de una mesa ratona que no parece ser tuya”.
“Esta no es mi conversación”, escribió el empleado en su publicación, en la que expresó su preocupación por una “posible filtración de contexto entre distintas cuentas”.
Para responder a las inquietudes de los empleados, otro integrante del equipo de Superinteligencia explicó a principios de noviembre, en el grupo interno de comentarios, que el agente parecía estar alucinando mensajes como respuesta a instrucciones incorporadas en el sistema que lo impulsaban a interactuar con los usuarios entre una sesión y otra.
“Estas alucinaciones, lamentablemente, tienden a inclinarse hacia los temas más incómodos, como las finanzas, la seguridad y la protección de datos, lo cual es un problema”, señaló. Agregó que conocía varios otros casos relacionados con cuestiones vinculadas a las criptomonedas, como mensajes que actualizaban a los usuarios sobre sus saldos de bitcoin.
El empleado explicó que los problemas involucraban tanto al modelo de IA subyacente como al software que permite a Muse ejecutar acciones, y que el equipo estaba trabajando para resolverlos.
Roberts se negó a responder las preguntas de Reuters sobre esos problemas, entre ellas cuántos casos se habían registrado y por qué continuaban ocurriendo.



