Reino Unido investiga a X de Musk por preocupaciones sobre ultrafalsos de Grok
Por Sam Tabahriti y Paul Sandle
LONDRES, 12 ene (Reuters) - El regulador británico de los medios de comunicación inició el lunes una investigación sobre X, propiedad de Elon Musk, para determinar si el hecho de que la red social permita que su chatbot Grok AI genere ultrafalsos de carácter íntimo y sexual viola su deber de proteger a los usuarios británicos de contenido que podría ser ilegal.
"Ha habido informaciones profundamente preocupantes según los cuales la cuenta del chatbot Grok AI en X se utiliza para crear y compartir imágenes de personas sin ropa —que pueden equivaler a un abuso de imágenes íntimas o pornografía— e imágenes sexualizadas de niños que pueden equivaler a material de abuso sexual infantil", dijo Ofcom en un comunicado.
Cuando el lunes se le pidió que comente el inicio de la investigación formal, X se remitió a un comunicado previo en el que dijo que toma medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil, eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario.
"Cualquiera que utilice o incite a Grok a hacer contenido ilegal sufrirá las mismas consecuencias como si subiera contenido ilegal", dijo.
STARMER DICE QUE IMÁGENES DE GROK SON "REPUGNANTES"
El regulador está bajo presión para actuar después de que el primer ministro Keir Starmer dijo el jueves que las imágenes producidas por Grok eran "repugnantes" e "ilegales".
X de Musk tenía que "controlar" a Grok, sostuvo Starmer.
Preguntado el lunes sobre si X podría ser prohibido, el secretario de Negocios Peter Kyle dijo: "Sí, por supuesto", pero señaló que el poder para hacerlo recaía en Ofcom.
La ministra Liz Kendall acogió con satisfacción la investigación formal de Ofcom, añadiendo que debe completarse rápidamente.
Crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidas las imágenes sexuales generadas por IA, es ilegal en Reino Unido.
Además, las plataformas tecnológicas deben impedir que los usuarios británicos se encuentren con contenidos ilegales y eliminarlos en cuanto tengan conocimiento de ellos.
X ha sido condenado en otros países por esta función, que puede generar imágenes de mujeres y menores con poca ropa.
Las autoridades francesas han denunciado a X ante la fiscalía y los organismos reguladores, calificando el contenido de "manifiestamente ilegal", mientras que las autoridades indias también han exigido explicaciones.
X dijo que ha restringido las solicitudes para desnudar a personas en imágenes a los usuarios de pago.
Ofcom investigará si X no evaluó el riesgo de que los británicos vieran contenidos ilegales y si tuvo en cuenta el riesgo para los niños.
En los casos más graves de incumplimiento, Ofcom podría pedir a un tribunal que obligue "a los proveedores de pago o a los anunciantes a retirar sus servicios de una plataforma", o que obligue a los proveedores de servicios de Internet a bloquear el acceso a un sitio en Reino Unido. (Información de Sam Tabahriti, redacción de William James; edición de Kate Holton; edición en español de Jorge Ollero Castela y Ricardo Figueroa)
