1
Meta prueba un “asistente humano” para Muse, su nuevo agente de IA personal
La función habilitaría a contratistas humanos a encargarse discretamente de algunas llamadas telefónicas realizadas a través del sistema; colaboradores de la firma ya reportaron quejas e incidentes
5 minutos de lectura'
Meta ha estado probando un “asistente humano” para su nuevo asistente personal de inteligencia artificial, Muse, lo que implica que contratistas humanos se encarguen discretamente de algunas de las llamadas telefónicas realizadas a través del agente digital, según publicaciones internas de la compañía a las que tuvo acceso Reuters.
La empresa propietaria de Facebook e Instagram informó a sus empleados sobre la prueba la semana pasada, poco después de lanzar públicamente una función de llamadas telefónicas para Muse.
El agente Muse, que encabezó las listas de descargas de aplicaciones en Estados Unidos durante las dos semanas posteriores a su lanzamiento, está diseñado para realizar de manera autónoma tareas como enviar correos electrónicos, hacer compras y reservar viajes en nombre de una persona.
Con la función de llamadas telefónicas, un usuario de Muse puede pedirle al agente que llame a números de empresas en Estados Unidos y hable con las personas del otro lado de la línea para resolver tareas como reservar un turno en una peluquería, consultar si un comercio tiene un producto en stock o solicitar presupuestos a distintos contratistas.
Algunos empleados plantearon preocupaciones sobre la privacidad por el hecho de que personas reales se encargaran de esas llamadas y advirtieron que este enfoque podría hacer que información sensible se compartiera involuntariamente con contratistas de centros de atención telefónica, según muestran las publicaciones internas.
“Me resulta desconcertante que pensemos que esta función vale la pena por el riesgo que implica”, escribió un empleado en una publicación interna. “Estamos a un error de que información innecesaria sea filtrada a operadores humanos”.
Otro empleado, que le había pedido a Muse que llamara a su proveedor de internet y cable para negociar su factura, dijo que una transcripción mostraba que el contratista humano había hecho una referencia racista durante la llamada.
En respuesta, una vicepresidenta de la división Superintelligence Labs de Meta reconoció que “fue un error” comenzar a probar llamadas realizadas por contratistas sin las debidas aclaraciones y dijo que la compañía había “retirado esta función” por el momento.
La ejecutiva agregó que Meta continuaba “mejorando la función de llamadas con IA” y señaló que algunas pruebas indicaban que hacer que personas reales realizaran las llamadas podía elevar la tasa de éxito hasta entre 95% y 98%, frente al “porcentaje más bajo de las llamadas realizadas por IA”.
También se disculpó con el empleado que había informado sobre la referencia racial durante una llamada de Muse y prometió que el “agente humano” involucrado no volvería a trabajar en ningún proyecto de Meta.
El trabajo humano detrás de las promesas de la IA
La prueba de Muse ofrece una mirada a cómo las empresas tecnológicas a veces recurren al trabajo humano detrás de escena para cumplir con las promesas de una IA autónoma, mientras se enfrentan a la reticencia de las personas que reciben llamadas automatizadas.
El episodio recuerda a un experimento anterior de Meta realizado hace una década, cuando la compañía, entonces conocida como Facebook, probó un asistente digital llamado “M” dentro de su servicio Messenger. Informes periodísticos posteriores estimaron que alrededor del 70% de las tareas del agente eran en realidad realizadas por personas.
Consultado sobre el plan del “asistente humano” de Muse, un vocero de Meta dijo que la respuesta de los empleados había sido “abrumadoramente positiva” y que el objetivo de la prueba era “obtener comentarios para poder implementar medidas de seguridad y privacidad y mejorar las funciones antes de lanzarlas públicamente”.
“Estamos trabajando con comercios para seguir mejorando esta posible función de llamadas y solo la implementaremos cuando esté lista y con las debidas aclaraciones”, dijo el vocero, Daniel Roberts.
El agente Muse de Meta acumula más de 2,5 millones de descargas desde su lanzamiento, según datos proporcionados por la firma de inteligencia de mercado Sensor Tower.
Las acciones de la compañía subieron más de 20% desde el lanzamiento, lo que agregó más de US$200.000 millones a su capitalización bursátil y llevó el valor de la empresa a su nivel más alto en más de siete meses al cierre de la última jornada. Sin embargo, las acciones retrocedieron 0,6% el martes.
En tensión con uno de sus principales atractivos
Meta hizo especial hincapié en las medidas de seguridad de su asistente de IA durante el lanzamiento. A los potenciales usuarios les explicó que cada agente tendría su propia “máquina virtual” segura, es decir, una computadora dedicada en la nube diseñada para mantener aisladas las sesiones de los usuarios, y que la información sensible, como las contraseñas, se almacenaría por separado en un entorno seguro.
Los empleados que cuestionaron internamente el plan del asistente humano hicieron referencia a esas medidas de seguridad en sus comentarios y advirtieron que el sistema podía debilitar uno de los principales argumentos de venta del agente.
Meta comenzó a hacer que sus empleados probaran la función de llamadas telefónicas en agosto y luego empezó a habilitarla gradualmente para los usuarios de Muse en los días posteriores al lanzamiento de la aplicación, según muestran las publicaciones internas.
Sin embargo, algunos usuarios informaron problemas con esas llamadas. Un empleado, por ejemplo, dijo que intentó llamar a su compañía de seguros y que “cuelgan constantemente cuando escuchan que Muse es una IA”.
Meta habilitó la función de asistente humano, también denominada “llamadas de agentes humanos”, para la mitad de sus empleados la semana pasada con el objetivo de superar esos problemas, según las publicaciones internas.
“Muse ahora puede derivar las solicitudes a un agente capacitado, que realiza la llamada y se encarga de resolverla”, decía la publicación con la que se anunció la función a los empleados. Según esa publicación, los empleados que no quisieran ser incluidos podían sumarse a un grupo de exclusión.
