Abuso
Entrá a la guía de servicio y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema
IR A LA GUÍA
Adolescentes demandan a la empresa de Elon Musk: generó imágenes pornográficas suyas con inteligencia artificial
Luego del escándalo que generó la IA de Elon Musk, que se usó para convertir fotos de la red social X en desnudos, menores de edad demandaron a la plataforma
3 minutos de lectura'
Tres ciudadanos del estado de Tennessee en Estados Unidos, entre ellos, dos menores, demandaron el lunes a xAI, empresa de Elon Musk, alegando que diseñó a sabiendas su generador de imágenes Grok para permitir a los usuarios crear contenido sexual explícito utilizando fotos reales de otras personas.
La demanda, presentada ante el tribunal federal de San José, en California, solicita que se le conceda el estatus de demanda colectiva a las personas de Estados Unidos que fueran “razonablemente identificables” en imágenes o videos sexuales generados por Grok a partir de imágenes reales de sí mismas.
La empresa de inteligencia artificial no respondió de inmediato a una solicitud de comentarios de Reuters. Tras la polémica provocada por el contenido sexual explícito generado por el chatbot, xAI aseguró en enero que “había bloqueado en todos los usuarios la posibilidad de editar imágenes de ‘personas reales con poca ropa’ y de generar imágenes de personas con poca ropa en ‘jurisdicciones donde es ilegal’”.
Desde entonces, Estados y organismos reguladores de todo el mundo también han iniciado investigaciones, impuesto prohibiciones y exigido medidas de seguridad en un esfuerzo cada vez mayor por frenar el material ilegal y ofensivo.
La demanda alega que xAI no instaló medidas de seguridad para evitar que sus sistemas generaran contenido sexual en el que participaran menores. Las tres demandantes eran menores de edad en el momento en que se generaron las imágenes.
Las denunciantes alegan que sus imágenes reales fueron alteradas digitalmente para convertirlas en contenido explícito y luego publicadas en línea en plataformas, lo que les causó angustia emocional y les supuso un agravio público. Solicitan una indemnización por daños y perjuicios sin especificar, junto con el pago de los gastos que genere el proceso judicial y una orden judicial que obligue a xAI a poner fin a las supuestas prácticas.
“Se trata de niñas cuyas fotografías escolares y familiares se convirtieron en material de abuso sexual infantil”, dijo en un comunicado la abogada de las demandantes, Annika Martin, de Lieff Cabraser Heimann & Bernstein. “Elon Musk y xAI diseñaron deliberadamente Grok para producir contenido sexualmente explícito con fines lucrativos, sin tener en cuenta a los niños y adultos que se verían perjudicados”.
Reuters
Más leídas de Tecnología
