Adolescentes demandan a la empresa de Elon Musk: generó imágenes pornográficas suyas con inteligencia artificial

Tres ciudadanos del estado de Tennessee en Estados Unidos, entre ellos, dos menores, demandaron el lunes a xAI, empresa de Elon Musk, alegando que diseñó a sabiendas su generador de imágenes Grok para permitir a los usuarios crear contenido sexual explícito utilizando fotos reales de otras personas.

La demanda, presentada ante el tribunal federal de San José, en California, solicita que se le conceda el estatus de demanda colectiva a las personas de Estados Unidos que fueran “razonablemente identificables” en imágenes o videos sexuales generados por Grok a partir de imágenes reales de sí mismas.

La empresa de inteligencia artificial no respondió de inmediato a una solicitud de comentarios de Reuters. Tras la polémica provocada por el contenido sexual explícito generado por el chatbot, xAI aseguró en enero que “había bloqueado en todos los usuarios la posibilidad de editar imágenes de ‘personas reales con poca ropa’ y de generar imágenes de personas con poca ropa en ‘jurisdicciones donde es ilegal’”.

Desde entonces, Estados y organismos reguladores de todo el mundo también han iniciado investigaciones, impuesto prohibiciones y exigido medidas de seguridad en un esfuerzo cada vez mayor por frenar el material ilegal y ofensivo.

La demanda alega que xAI no instaló medidas de seguridad para evitar que sus sistemas generaran contenido sexual en el que participaran menores. Las tres demandantes eran menores de edad en el momento en que se generaron las imágenes.

Las denunciantes alegan que sus imágenes reales fueron alteradas digitalmente para convertirlas en contenido explícito y luego publicadas en línea en plataformas, lo que les causó angustia emocional y les supuso un agravio público. Solicitan una indemnización por daños y perjuicios sin especificar, junto con el pago de los gastos que genere el proceso judicial y una orden judicial que obligue a xAI a poner fin a las supuestas prácticas.

“Se trata de niñas cuyas fotografías escolares y familiares se convirtieron en material de abuso sexual infantil”, dijo en un comunicado la abogada de las demandantes, Annika Martin, de Lieff Cabraser Heimann & Bernstein. “Elon Musk y xAI diseñaron deliberadamente Grok para producir contenido sexualmente explícito con fines lucrativos, sin tener en cuenta a los niños y adultos que se verían perjudicados”.

Reuters

Por Mrinmay Dey

• FuturIA
• Elon Musk
• Inteligencia artificial

---

---

Conforme a

Abuso

Entrá a la guía de servicio y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema

IR A LA GUÍA

Efecto secundario. El inesperado impacto que el cierre del estrecho de Ormuz tendrá en la evolución de la IA

En lo que va de 2026. Por la incorporación de la IA se perdieron más de 40.000 puestos de trabajo en informática

Como nunca los viste. Esta es la nueva tecnología de IA para lograr juegos ultra realistas