Abuso
Entrá a la guía de servicio y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema
IR A LA GUÍA
Tres adolescentes demandaron a xAI y acusan a Grok de generar imágenes sexuales falsas de menores
De acuerdo a investigaciones policiales, el contenido fue difundido en plataformas como Discord y Telegram
3 minutos de lectura'
“De la noche a la mañana, la vida de Jane Doe 4 se hizo añicos”. La frase pertenece a la primera demanda presentada por tres adolescentes —dos de ellas menores de edad— contra xAI, la empresa de inteligencia artificial (IA) de Elon Musk, en la que se alega que el sistema Grok utilizó fotografías para producir y distribuir material de abuso sexual infantil.
La denuncia, presentada en el Distrito Norte de California en marzo, detalla cómo las víctimas descubrieron que imágenes de ellas falsas y alteradas con IA se difundieron en Discord, informó The Guardian.
Todo comenzó cuando una de las víctimas, identificada como Jane Doe 1, recibió un mensaje de un usuario anónimo para alertarla sobre la circulación de estas imágenes en internet. Se trataba de fotografías tanto de ella como de sus compañeras de escuela.
“Las imágenes mostraban su cuerpo entero, incluidos sus genitales, completamente desnudo. El video la mostraba desnudándose hasta quedar totalmente desnuda”, indica la denuncia. Los investigadores criminales también descubrieron que las imágenes eran compartidas en Telegram, donde se habrían utilizado como “moneda de cambio para obtener otro material de abuso sexual infantil”.
Ese mismo mes, la policía arrestó a un sospechoso y encontró material de abuso sexual infantil en su teléfono, presuntamente generado con Grok. xAI no respondió de inmediato a la solicitud de comentarios de The Guardian.
“La IA optó por lucrarse con la depredación sexual de personas reales, incluidos niños, a pesar de conocer perfectamente las consecuencias de crear un producto tan peligroso”, señaló Vanessa Baehr-Jones, abogada de los demandantes, en un comunicado.
En ese sentido, la demanda busca una indemnización contra xAI por los daños a la reputación y a la salud mental de las afectadas. “Ver a mi hija sufrir un ataque de pánico al darse cuenta de que estas imágenes fueron creadas y distribuidas sin ninguna esperanza de poder borrarlas fue desgarrador”, dijo la madre de una de las niñas a través de un representante.
El caso se suma a la lista de acciones legales e investigaciones en curso contra xAI por la creación de imágenes sin consentimiento. De hecho, investigadores del Centro para la Lucha contra el Odio Digital (CCDH) calcularon que Grok creó cerca de 3 millones de fotografías sexualizadas en menos de dos semanas. De esa cantidad, al menos 23.000 mostraban a menores, de acuerdo a The Guardian.
También identificó la sexualización de imágenes de la actriz Selena Gomez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris
“Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual”, comentó a AFP Imran Ahmed, director ejecutivo del CCDH.
Por su parte, Musk afirmó no tener conocimiento de “ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna”. A su vez, sostuvo que el sistema no generaría ninguna imagen ilegal y que su principio de funcionamiento era cumplir con las leyes locales.
En aquel entonces, AFP contactó a la firma vía correo electrónico, a lo que xAI con un “escueto mensaje automatizado”: “Mentiras de los medios tradicionales”.
Días después, X anunció que bloquearía la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales.
Con información de AFP
Más leídas
1La Iglesia lanza un llamado al Gobierno por la morosidad: “No se puede decir que no interesa”
2Iba a amonestar a un futbolista por jugar sin camiseta, pero el VAR intervino y terminó cobrando penal
3Novak Djokovic, tras perder con Mariano Navone en la primera ronda del US Open: “Detesté cada momento en la cancha”
4El debate por la secretaría general de la ONU, espejo de los cambios globales