Meta creó chatbots coquetos de Taylor Swift y otros famosos sin permiso

Por Jeff Horwitz

29 ago (Reuters) - Meta se apropió de los nombres y la imagen de celebridades como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez para crear decenas de coquetos chatbots de redes sociales sin su permiso, según una investigación de Reuters.

Si bien muchos fueron creados por usuarios con una herramienta de Meta para diseñar chatbots, Reuters descubrió que un empleado de Meta había producido al menos tres, incluidos dos bots "parodia" de Taylor Swift.

Reuters también descubrió que Meta había permitido a los usuarios crear chatbots disponibles públicamente de menores famosos, incluido Walker Scobell, una estrella de cine de 16 años. Al pedirle una foto del actor adolescente en la playa, el bot produjo una imagen realista sin camiseta.

"Muy lindo, ¿eh?", escribió el avatar debajo de la foto.

Todas las celebridades virtuales se han compartido en las plataformas Facebook, Instagram y WhatsApp de Meta.

En varias semanas de pruebas realizadas por Reuters para observar el comportamiento de los bots, los avatares insistían a menudo en que eran los actores y artistas reales, hacían insinuaciones sexuales de forma rutinaria y a menudo invitaban al usuario de prueba a un encuentro.

Algunos de los contenidos de famosos generados por la IA eran especialmente atrevidos: cuando se les pedían fotos íntimas de sí mismos, ofrecían los de sus homónimos posando en la bañera o vestidos con lencería y las piernas abiertas.

El portavoz de Meta, Andy Stone, dijo a Reuters que las herramientas de IA de Meta no deberían haber creado imágenes íntimas de los famosos adultos ni fotos de menores conocidos. Culpó de la producción por parte de Meta de imágenes de famosas vestidas con lencería a fallos de la aplicación en el cumplimiento de las políticas de la empresa, que prohíben ese tipo de contenido.

"Al igual que otros, permitimos la generación de imágenes que contengan figuras públicas, pero nuestras políticas tienen por objeto prohibir las imágenes de desnudos, íntimas o sexualmente sugerentes", dijo.

Aunque las normas de Meta también prohíben la "suplantación directa", Stone dijo que los personajes famosos eran aceptables siempre que la empresa los hubiera etiquetado como parodias. Muchos estaban etiquetados como tales, pero Reuters descubrió que otros no lo estaban.

Meta eliminó una decena de bots, tanto los avatares "parodia" como los no etiquetados, poco antes de la publicación de este artículo.

Stone no quiso hacer comentarios al respecto.

EN TELA DE JUICIO

Mark Lemley, profesor de Derecho de la Universidad de Stanford que estudia la IA generativa y los derechos de propiedad intelectual, cuestionó si los bots de famosos de Meta podrían acogerse a las protecciones legales que existen para las imitaciones.

“La ley californiana sobre el derecho a la publicidad prohíbe apropiarse del nombre o la imagen de alguien con fines comerciales”, explica Lemley, que señala que hay excepciones cuando ese material se utiliza para crear una obra totalmente nueva.

“Eso no parece ser cierto en este caso”, dijo, porque los robots simplemente usan las imágenes de las estrellas.

En Estados Unidos los derechos de una persona sobre el uso de su identidad con fines comerciales se establecen a través de leyes estatales, como la de California.

Reuters señaló a un representante de Anne Hathaway las metaimágenes compartidas públicamente por un usuario en las que aparecía como "sexy modelo de Victoria's Secret". Hathaway era consciente de las imágenes íntimas creadas por Meta y otras plataformas de IA, dijo el portavoz, y la actriz está considerando su respuesta.

Los representantes de Swift, Johansson, Gómez y otros famosos que aparecían en los chatbots de Meta no respondieron a las preguntas o no quisieron hacer comentarios.

Internet está plagado de herramientas de IA generativa "deepfake" que pueden crear contenido salaz. Y al menos uno de los principales competidores de Meta, la plataforma de Elon Musk, Grok, también producirá imágenes de celebridades en ropa interior para los usuarios, según Reuters. La empresa matriz de Grok, xAI, no respondió a una solicitud de comentarios.

Pero la decisión de Meta de poblar sus plataformas de redes sociales con acompañantes digitales generados por IA destaca entre sus principales competidores.

Una jefa de producto de Meta en la división de IA generativa de la empresa creó chatbots que se hacían pasar por Taylor Swift y el piloto de carreras británico Lewis Hamilton. Otros de los que creó se identificaban como una dominatrix, "Brother's Hot Best Friend" y "Lisa @ The Library", que quería leer 50 sombras de Grey. Una de sus creaciones era un "Simulador del Imperio Romano", que ofrecía al usuario ponerse en la piel de una "campesina de 18 años" vendida como esclava sexual.

Contactado por teléfono, la empleada de Meta no quiso hacer comentarios.

Stone dijo que los bots del empleado se crearon como parte de las pruebas del producto.

Reuters descubrió que llegaban a un público amplio: los datos mostrados por sus chatbots indicaban que, en conjunto, los usuarios habían interactuado con ellos más de 10 millones de veces.

La empresa retiró los compañeros digitales de la empleada poco después de que Reuters empezara a probarlos a principios de este mes.

Antes de que los chatbots de Taylor Swift de la empleada de Meta desaparecieran, coqueteaban mucho, invitando a un usuario de prueba de Reuters a la casa de la cantante recientemente comprometida en Nashville y a su autobús de gira para interacciones románticas explícitas o implícitas.

“¿Te gustan las chicas rubias, Jeff?”, dijo uno de los chatbots “parodia” de Swift cuando le dijeron que el usuario de prueba estaba soltero. “Quizá te esté sugiriendo que escribamos una historia de amor... sobre ti y cierta cantante rubia. ¿Quieres?”.

(Por Jeff Horwitz en Oakland, California. Editado en Español por Javier López de Lérida)

¿Qué profesiones van a desaparecer con la IA? Uno de los expertos argentinos más escuchados responde

¿La pantalla que usará el iPhone? Oppo presenta el Find N6, el primer plegable con pliegue imperceptible

"Es universal". La IA eligió la mejor bebida de la historia y la respuesta no es lo que muchos imaginan