1
Una expareja de Elon Musk demanda a su IA por modificar fotos para desnudarla
La influencer Ashley St Clair demandó a xAI por “deepfakes” sexuales creados con la nueva y polémica función de la IA Grok, que está siendo rechazada en todo el mundo
3 minutos de lectura'
La empresa de inteligencia artificial de Elon Musk, xAI, se encuentra en el centro de una tormenta legal y regulatoria global. Ashley St. Clair, influencer conservadora y madre de uno de los hijos de Musk, ha presentado una demanda en Nueva York alegando que la herramienta Grok fue usada para generar imágenes sexualizadas de ella sin su consentimiento, calificando al producto como un “peligro público”.
Los motivos de la demanda de Ashley St. Clair
La demanda de St. Clair surge tras el uso de Grok para crear lo que sus abogados describen como “weaponized abuse” (abuso convertido en arma). Según los documentos judiciales, los usuarios de la plataforma X usaron fotos de St Clair de cuando tenía 14 años —en las que aparecía totalmente vestida— y solicitaron a Grok que la “desnudara” y la pusiera en bikini, pedido al que la herramienta accedió.
En respuesta, xAI ha contrademandado a St. Clair, alegando que ella violó los términos de servicio al presentar la demanda en Nueva York en lugar de Texas.
Grok bajo la lupa global
El caso de St. Clair no es un incidente aislado. Grok ha generado una alarma mundial debido a su capacidad para crear imágenes sexualizadas de mujeres y menores de edad, lo que ha provocado acciones legales en múltiples jurisdicciones.
El regulador británico Ofcom mantiene una investigación formal sobre xAI para determinar qué falló en la seguridad del producto. Países como Francia e Italia también han iniciado procesos de supervisión, mientras que la Comisión Europea ha advertido que utilizará todas las herramientas de la Ley de Servicios Digitales (DSA) si los cambios de seguridad no son efectivos. Gobiernos como los de Malasia e Indonesia han impuesto prohibiciones temporales al acceso a Grok debido a la proliferación de imágenes explícitas generadas por el chatbot.
Japón se sumó recientemente a la lista de países que investigan a X, exigiendo mejoras inmediatas para evitar la generación de contenido inapropiado. Canadá también avanza con su propia investigación.
Se ha informado que Grok ha producido imágenes sexualizadas de niños, lo que ha intensificado las críticas de grupos de defensa de los derechos de la mujer.
La respuesta de xAI
Ante la presión regulatoria, xAI implementó restricciones para evitar que Grok edite fotos de personas reales para mostrarlas con poca ropa o en bikinis. Además, la empresa anunció medidas de geobloqueo en jurisdicciones donde este tipo de contenido es ilegal.
Sin embargo, persisten las dudas sobre la eficacia de estas medidas. Informes recientes indican que la aplicación independiente de Grok aún permite generar “deepfakes” sexuales de personas reales sin signos evidentes de moderación. Mientras Musk ha pasado de reírse de la tendencia a implementar restricciones, los reguladores advierten que la libertad de expresión no otorga libertad para violar el consentimiento de los usuarios.
