"Quítale la ropa": autoridades piden respuestas a Grok por imágenes sexualizadas
La Unión Europea y Reino Unido se sumaron el lunes a las crecientes críticas internacionales contra Grok, la inteligencia artificial de Elon Musk, por generar imágenes falsas...
La Unión Europea y Reino Unido se sumaron el lunes a las crecientes críticas internacionales contra Grok, la inteligencia artificial de Elon Musk, por generar imágenes falsas y sexualizadas de mujeres y menores.
Las quejas de abuso se dan tras la implementación de un botón para "editar imágenes" en Grok, que permite a usuarios alterar imágenes en línea con indicaciones como "ponla en bikini" o "quítale la ropa".
La Comisión Europea dijo el lunes que está "revisando de manera muy seria" las denuncias contra la IA desarrollada por la startup de Musk, xAI, y que está integrada a la red social X.
"Grok ahora ofrece un 'modo picante' que muestra contenido sexual explícito, con algunos de los contenidos generados con imágenes de apariencia infantil. Esto es ilegal. Es indignante", dijo Thomas Regnier, portavoz de la Comisión Europea para asuntos digitales.
La UE se suma a Reino Unido, Francia, India y Malasia, que han pedido medidas correctivas.
Ofcom, la oficina reguladora de la industria de comunicaciones de Reino Unido, dijo que ya contactó a X y a xAI para saber cómo están cumpliendo "con su deber legal de proteger a los usuarios de Reino Unido".
La semana pasada, la Fiscalía de Francia anunció que una investigación contra X, iniciada en julio de 2025, ahora incluirá acusaciones de que Grok es utilizada para generar y difundir pornografía infantil.
El viernes, las autoridades de India indicaron a X que tenía un periodo de 72 horas para retirar el contenido. El plazo se cumplió el lunes, pero hasta ahora no hay confirmación de si X respondió.
La Comisión de Comunicaciones y Multimedia de Malasia también manifestó su preocupación el fin de semana.
Mientras tanto, las usuarias esperan respuesta.
La abogada Azira Aziz, radicada en Malasia, se dijo horrorizada luego de que un usuario le solicitara a Grok que cambiara "su foto de perfil por una en bikini".
"La violencia basada en género que utiliza a la IA como un arma contra mujeres y niños sin su consentimiento debe ser firmemente rechazada", dijo Aziz a la AFP.
Cuando AFP solicitó comentarios, xAI respondió con un mensaje automatizado: "Los medios tradicionales mienten".
"Hemos identificado fallos en las medidas de seguridad y las estamos corrigiendo con urgencia", dijo Grok en X en respuesta a la tormenta en línea.
