Grok creó tres millones de imágenes sexualizadas, según investigación
El chatbot Grok, de la empresa xAI de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, dijeron el jueves investigadores, al revelar la magnitud
El chatbot Grok, de la empresa xAI de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, dijeron el jueves investigadores, al revelar la magnitud del contenido explícito que causó indignación mundial
Grok, que está integrada a la red social X, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como "ponla en bikini" o "sácale la ropa"
Una avalancha de imágenes hiperrealistas falsas (deepfakes) inundaron internet, lo que causó que varios países prohibieran Grok y despertara la indignación de los entes reguladores y las víctimas
"Se estima que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23.000 que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes", dijo el Centro para Combatir el Odio Digital (CCDH), un observatorio que investiga los efectos dañinos de la desinformación en internet
Grok creó ese volumen de imágenes hiperrealistas en un periodo de 11 días, es decir un promedio de 190 por minuto, según el reporte, que no especifica cuántas fueron creadas sin el consentimiento de las personas
También identificó la sexualización de imágenes de la actriz Selena Gomez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris
"Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual", dijo Imran Ahmed, director ejecutivo del CCDH
No hubo comentarios inmediatos sobre los hallazgos por parte de X. Al ser contactada por la AFP por correo electrónico, xAI respondió con un escueto mensaje automatizado: "mentiras de los medios tradicionales"
La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales
Países como Filipinas, Malasia e Indonesia prohibieron Grok, mientras Reino Unido y Francia mantienen presión sobre la empresa
El fiscal general de California inició una investigación sobre xAI por el material sexualmente explícito, y varios países abrieron sus propias pesquisas
