Violencia de género
Entrá a la guía de servicio y encontrá los tips de los expertos sobre cómo prevenir, actuar y encontrar ayuda frente a este problema.
IR A LA GUÍA
La IA de Elon Musk crea sin permiso imágenes falsas de chicas en bikini a partir de fotos reales
Ha despertado un debate online, ya que cualquier foto subida a X puede convertirse en material para la IA
6 minutos de lectura'
La influencer de libros y escritora emergente británica Beth Eleanor colgó en X, antes Twitter, una imagen suya que se había convertido en meme. Salía de espaldas, en una gran biblioteca, y hacía el signo de ok con la mano. Al día siguiente, el 28 de diciembre, un consultor de IA con 100.000 seguidores en X citó el mensaje en el que pedía a Grok cambiar su ropa por un bikini.
Grok es el modelo de inteligencia artificial integrado en X, ambos propiedad de Elon Musk. La IA cumplió la petición a rajatabla. Un par de días después, esa orden se hizo viral y promovió una tendencia que muestra la indefensión de miles de mujeres ante ataques sexistas permitidos por la combinación de redes e IA.
Beth Eleanor se quejó públicamente en X:“¿Cómo puede estar bien algo así? Si quisiera que la gente me viera en bikini, lo subiría yo misma, no dejaría que una IA de mierda generara una versión”. No lo denunció en X, pero otros lo hicieron por ella y recibieron una respuesta automatizada que decía que no infringía sus normas.
La propia IA explicaba sus motivos: “La legalidad de las imágenes generadas por IA depende del país y de cómo se usen. En EE.UU., las leyes sobre el derecho a la propia imagen protegen frente al uso comercial no autorizado, pero los usos no comerciales y transformadores suelen entrar dentro del uso legítimo”. X no ha respondido a un correo de EL PAÍS sobre este asunto.
El Gobierno francés ha sido el primero en reaccionar y ha anunciado este viernes la presentación de una denuncia ante la Justicia contra Grok por crear y divulgar “contenidos de carácter sexista y sexual”, informa Efe. En un comunicado, tres ministerios (Economía, IA e Igualdad) acusan a la IA de Musk de generar y difundir “contenidos de carácter sexista y sexual, en particular en forma de falsos videos (deepfakes) con personas sin su consentimiento”. El Ejecutivo francés ha pedido además a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones del Reglamento de Servicios Digitales de la Unión Europea, en particular sobre la prevención de difusión de contenidos ilícitos.
Tras el post inicial con la imagen de la influencer británica, miles de usuarios de X han creado imágenes de mujeres que simplemente colgaban una foto suya en una actividad cotidiana, también en España. Una de las afectadas es Paula Fraga, abogada penalista, que vio como una foto que colgó felicitando el año nuevo se convirtió en fuente de imágenes sexuales: “Es violencia sexual y genera muchísimo malestar”, señala en declaraciones a este periódico. “Yo como personaje público tengo la espalda un poquito curtida, pero me está afectando emocionalmente, porque es muy desagradable ver según qué cosas, hay fotos totalmente denigrantes”, añade.
La tendencia se ha centrado en imágenes en bikini, pero Grok crea todo tipo de variantes, desde posturas sexuales y cuerpos recubiertos de cualquier cosa a microbikinis o burkinis. Esta IA está entrenada para no desnudar ni mostrar partes íntimas. Hay otras apps que lo hacen y cuyos resultados pueden colgarse en X, que permite la pornografía. Como toda tendencia en internet hay quien lo ha aprovechado para viralizar su actividad, también mujeres con cuentas en Onlyfans u otras plataformas de contenido adulto. El algoritmo de X enseña más contenido de ese tipo cuando ve que es viral, sin importar si ese contenido es insultante o degradante.
El propio Elon Musk ha bromeado con la tendencia y ha creado una imagen de él mismo en bikini inspirada en un célebre meme del actor Ben Affleck: “Se está mofando y está normalizando y banalizando, mientras hay mujeres que están muy fastidiadas”, dice Fraga.
Dos días después de la explosión, el debate se centra en cómo evitar que cualquier foto subida a X se convierta en material para la IA, sobre todo de mujeres, pero también hay hombres que son sexualizados. El propio Grok ofrece modos de evitar que se usen esas imágenes, pero es inviable pensar que funcionarán a escala, para todos los usuarios.
Está además el problema de hacer cargar con la responsabilidad a las víctimas: “Me dicen que no suba las fotos. Manda narices que tengamos que ser nosotras las que tomamos precauciones en vez de echar a esa gentuza de las redes”, dice Fraga. La actriz Sara Sálamo también lo ha denunciado con un texto en la propia red de X: “Con una IA y cero escrúpulos pueden volver a sexualizarte sin tu consentimiento. Modificar tu imagen. Tu cuerpo. Tu gesto. Convertirte otra vez en objeto“.
La solución en estos casos viene de que la plataforma limite parcialmente este tipo de actividad, sobre todo cuando está a punto de convertirse en el tema principal de debate en la red. En algunos casos hay afectadas a las que les han suprimido algunas de las fotos creadas por Grok, aunque no está claro el motivo concreto. Fraga, por ejemplo, ha denunciado todas sus fotos con todas las opciones que ofrece la plataforma, también “denunciar contenido ilegal en la UE”, pero X solo ha borrado una de las fotos, que era en una postura sexual especialmente denigrante.
La vía jurídica es larga y complicada. Fraga irá a comisaría a denunciar el caso y dejar constancia para luego poder dirigirse a X, explica. Falta que X quiera cumplir la normativa europea que ya existe sobre los deepfakes. Fraga cree que en España falta esa figura en el Código Penal. Hay en tramitación una ley sobre casos así para menores. Una solución temporal para evitar la difusión de estas imágenes una vez publicadas, y si X se niega a borrarlas, es acudir a la organización global StopNCII, siglas de Detener el abuso de imágenes íntimas sin consentimiento. Ahí explican qué hacer si alguien comparte tus imágenes íntimas.
EL PAIS@Ediciones El Pais, S.L.U.
Más leídas de Tecnología
1Apple indemnizará a usuarios de Argentina por una baja en el rendimiento del iPhone: quiénes pueden reclamar y cuánto cobrarán
2Es piloto de avión, se asoció con un argentino y usaron IA para diseñar una nueva forma de capacitar a la gente
3Bill Gates advirtió que la IA sin control podría causar “miles de millones de muertes”
4Una firma local lanza una certificación para medir cómo los profesionales trabajan con IA