1
Elon Musk cedió ante la presión: tomó una decisión con Grok que afecta hasta los “usuarios premium”
La plataforma X anunció medidas para impedir que su chatbot genere imágenes íntimas no consentidas, una decisión que ahora impacta a todos los usuarios
4 minutos de lectura'
Elon Musk, el propietario de la plataforma X, cedió a una ola de presión global y a investigaciones legales y anunció nuevas restricciones para su chatbot de inteligencia artificial, Grok. Estas medidas tienen como objetivo impedir la generación de imágenes de carácter sexual, una decisión que, notablemente, ahora alcanza incluso a los suscriptores de pago de la plataforma.
Este cambio marca un giro significativo en la política de X, que llega tras intensas críticas por la proliferación descontrolada de “deepfakes” íntimos no consentidos, generados principalmente a partir de fotografías de mujeres y menores compartidas en la propia red social.
¿De qué acusan a Grok?
El anuncio de X se produce después de que la fiscalía de California iniciara una investigación sobre xAI, la empresa de IA de Musk, por “facilitar la producción a gran escala de montajes íntimos no consentidos [deepfakes], utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”, según indicó el fiscal general del estado, Rob Bonta, en un comunicado.
Bonta enfatizó la “tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, y afirmó que la investigación buscará determinar si xAI violó la ley estatal de California, tras el uso de estas imágenes explícitas para acosar a individuos.
El gobernador de California, Gavin Newsom, se sumó a la condena este miércoles, calificando de “vil” la decisión inicial de xAI de permitir la proliferación de “deepfakes” sexualmente explícitos, y urgió al fiscal general a responsabilizar a la compañía. En respuesta a esta presión, X anunció que “bloqueará geográficamente la capacidad” de todos los usuarios de Grok y X para crear imágenes de personas en “bikini, ropa interior y atuendos similares” en aquellas jurisdicciones donde tales acciones se consideren ilegales.
La plataforma implementó “medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, dijo el equipo de seguridad de la red social en un comunicado. Además, se aclaró que “esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”. La creación de imágenes y la posibilidad de editar fotos a través de la cuenta Grok de X se limitará a suscriptores de pago como una “capa adicional de protección”, una política que ya había generado controversia.
La polémica se intensificó significativamente en las últimas semanas debido al aumento de este tipo de imágenes, solicitadas por usuarios mediante indicaciones como “Grok, ponela en bikini” o “sacale la ropa”, en respuesta a fotografías que mujeres subían a sus perfiles. Un análisis realizado por la ONG AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales un 81% eran mujeres y un 2% parecían menores de edad.
La indignación internacional se manifestó en múltiples frentes. La oficina del primer ministro británico, Keir Starmer, condenó la anterior política de monetización, considerándola un “agravio a las víctimas y no una solución”. El regulador de medios británico, Ofcom, abrió una investigación sobre X por posible incumplimiento de la legislación sobre imágenes sexuales. En Francia, la comisionada para la infancia, Sarah El Hairy, remitió las imágenes a la fiscalía francesa, al regulador de medios Arcom y a la Unión Europea, que solicitó la paralización total de la generación de dicho contenido.
Una coalición de 28 organizaciones de la sociedad civil también envió cartas abiertas a Apple y Google, instándolos a prohibir Grok y X en sus tiendas de aplicaciones. Países como Indonesia, Malasia y Filipinas bloquearon o suspendieron el acceso a Grok, mientras que India reportó que X eliminó miles de publicaciones y cientos de cuentas tras sus quejas.
Más leídas de Tecnología
2YouTube permitirá crear feeds personalizados y amplía sus herramientas de IA para creadores
3Meta renovó sus anteojos inteligentes con una versión más liviana, y un modelo sin cámara
4Apple indemnizará a usuarios de Argentina por una baja en el rendimiento del iPhone: quiénes pueden reclamar y cuánto cobrarán