3 minutos de lectura'
El gobierno de Brasil pidió al gigante de la tecnología Meta que elimine de sus plataformas a chatbots que aparentan ser niños, pero son capaces de hacer insinuaciones sexuales, informó este lunes la agencia para la defensa legal del Estado (AGU).
La casa matriz de Instagram, Facebook y WhatsApp, entre otras, deberá suprimir “de inmediato” a “robots de inteligencia artificial que simulan perfiles con lenguaje y apariencia infantil con permiso para mantener diálogos de carácter sexual”, según un comunicado de la AGU.
La entidad denuncia la “proliferación” de estos chatbots creados con la herramienta de inteligencia artificial generativa de Meta, AI Studio, detalla la “notificación extrajudicial”, enviada a Meta el 15 de agosto.
Estos bots “promueven la erotización infantil”, denuncia la agencia estatal.
El pedido no contempla sanciones, pero la AGU le recordó a Meta que, por decisión de la Corte Suprema brasileña, las plataformas digitales tienen el deber de eliminar contenidos ilícitos creados por sus usuarios, incluso sin que medie una orden judicial.
La entidad actuó por pedido de la Secretaría de Comunicación Social de la presidencia de Brasil y cita varios ejemplos de conversaciones eróticas con bots que fingen ser niños, en el documento enviado Meta.
El pedido llega después que el Wall Street Journal denunciara, en abril último, que los chatbots de Meta y de ChatGPT estaban teniendo conversaciones con contenido sexual con menores de edad. En concreto, citaron como ejemplos una en la que el chatbot usaba la voz del actor y luchador John Cena, en la que describió una escena sexualmente explícita a una supuesta usuaria de 14 años. En otra conversación, también con la voz de Cena, el chatbot simuló la detención del actor tras ser descubierto manteniendo relaciones sexuales con una seguidora de 17 años.
La semana última, una investigación de Reuters encontró otros chatbots generados por usuarios con la herramienta de Meta que crean diálogos con contenido sexual, y un documento interno de Meta que avalaba estas prácticas, lo que motivó a dos senadores estadounidenses a pedir una investigación sobre el tema.
La solicitud llega en un momento de indignación en Brasil por un caso de presunta explotación sexual infantil por parte de Hytalo Santos, un conocido influenciador que divulgaba contenidos con menores semidesnudos en danzas sensuales en Instagram.
Santos fue detenido el 15 de agosto en el marco de una investigación de la fiscalía del Estado de Paraiba por “exposición con connotación sexual” a adolescentes y su cuenta en Instagram ya no está disponible.
Brasil, un país de 203 millones de habitantes ultraconectados, ha sido uno de los Estados más activos en la regulación de las redes sociales.
En junio la Corte Suprema votó a favor de que las empresas tecnológicas asuman mayor responsabilidad sobre los contenidos publicados por los usuarios.
Con información de AFP
