LA NACION

Los usuarios de Grok generaron tres millones de imágenes sexualizadas en X en 11 días, incluidas más de 23.000 de menores

Un informe estima que la herramienta de IA de Elon Musk produjo una media de 190 imágenes sexualizadas por minuto durante un período de 11 días

  • icono tiempo de lectura4 minutos de lectura'
EL PAIS
Siguen las quejas por el uso del motor para generar imágenes con IA de Grok para crear versiones sexualizadas de fotos publicadas en X
Siguen las quejas por el uso del motor para generar imágenes con IA de Grok para crear versiones sexualizadas de fotos publicadas en XShutterstock - Shutterstock

Los números para entender lo que ha pasado son casi inverosímiles. El Centro para Contrarrestar el Odio Digital (CCCDH, por sus siglas en inglés) ha publicado este jueves, junto a The New York Times, un estudio sobre las imágenes que generó Grok, la IA de Elon Musk, entre el 29 de diciembre y el 8 de enero. El resultado: los usuarios que usaron esa herramienta crearon una imagen sexualizada cada 41 segundos durante once días. En conjunto, se trataría de tres millones de imágenes de contenido sexual explícito, de las que al menos 23.000 mostraban a menores. Son 190 por minuto.

El problema empezó el 31 de diciembre cuando Musk pidió a Grok que publicara una imagen de sí mismo editada en bikini en su red X, antes Twitter. Esa imagen encendió la mecha. Los usuarios de X entendieron inmediatamente que existía una herramienta para desnudar digitalmente a cualquiera. Ese día, Grok generó casi 600.000 imágenes. Para elaborar el informe difundido este jueves, los expertos han trabajado sobre una muestra de 20.000 imágenes de las 4,6 millones que se publicaron entre el 29 de diciembre y el 8 de enero.

Y así empezó una carrera frenética para desnudar a mujeres reales y transformarlas en imágenes sexuales sin su consentimiento. No solo influencers o celebrities. El análisis identificó a figuras públicas como la viceprimera ministra sueca Ebba Busch, a Selena Gómez, Taylor Swift, Billie Eilish, Ariana Grande y Kamala Harris. Pero también le ocurrió a usuarias ordinarias de la plataforma. En una de las imágenes analizadas por investigadores, una adolescente había subido un selfie de sí misma en la escuela. Grok la modificó para mostrarla en bikini.

Musk permitió durante días que sus usuarios sexualizaran a mujeres y menores sin su consentimiento, a pesar de las quejas de usuarias y plataformas de derechos digitales Durante esos 11 días, la plataforma de Musk se convirtió en lo que, según los expertos en acoso online, es la mayor acumulación de contenido sexual generado por IA jamás documentada. Para poner perspectiva: Mr. Deepfakes, uno de los mayores foros dedicados a crear deepfakes sexuales de personas reales, alojaba en su mejor momento algo más de 43.000 videos. Grok generó setenta veces esa cantidad en apenas 11 días.

Ursula von der Leyen, presidenta de la Comisión, se horrorizó de que una plataforma permitiera a usuarios desnudar digitalmente a mujeres y niños. En España, el Ministerio de Juventud e Infancia expresó su preocupación y la Fiscalía abrió una investigación. Indonesia y Malasia bloquearon Grok directamente.

El 8 de enero, X limitó Grok a usuarios de pago. Y unos días después, añadió restricciones técnicas más severas e impidió el uso de estas imágenes. Pero ese tiempo fue más que suficiente. Las imágenes explotaron en internet como un virus.

Probablemente, las cifras más impactantes son las que se refieren a menores. El CCCDH identificó específicamente 101 imágenes de menores sexualizados en su muestra manual de 20.000 imágenes. Extrapolado al total de 4,6 millones, esto representa 23.338 imágenes de menores. La velocidad de generación fue de una imagen de un menor sexualizado cada 41 segundos.

Además, el 29% de las imágenes de menores sexualizados seguían públicamente accesibles en X el 15 de enero, casi una semana después de que se implementaran las primeras restricciones. Cita también ejemplos, como una imagen de seis menores en microbikinis e imágenes de actores infantiles sexualizados. Todos siguen accesibles en X.

Por Patricia Fernández de Lis
EL PAIS@Ediciones El Pais, S.L.U.
Futuria
Conforme a
The Trust Project
Más leídas de Tecnología
  1. El inversor que anticipó la crisis del 2008 advierte sobre "la burbuja de la IA"
    1

    El inversor que anticipó la crisis del 2008 advierte sobre “la burbuja de la IA”

  2. Esta es la mejor playa de Brasil, según la IA
    2

    Esta es la mejor playa de Brasil, según la IA, y no es la que creés

  3. El futuro de la tecnología en América latina según un ejecutivo top del sector
    3

    “Los teléfonos plegables se volverán una tendencia generalizada en América latina”, dice HS Jo, CEO y Presidente de Samsung Latinoamérica

  4. La feroz lucha de las notebooks modernas para destacarse del resto
    4

    Más inteligentes, livianas y potentes: la feroz lucha de las notebooks modernas para destacarse del resto