Tecno: Reino Unido investiga a Grok por contenido sexual explícito
Ente regulador ve eventuales violaciones a leyes locales por parte de la empresa de Musk
Esto según un comunicado, que afirma que investigará si la red social, propiedad del magnate tecnológico Elon Musk, violó las disposiciones de la Ley de Seguridad Online, una norma promulgada para combatir la difusión de contenido dañino en las redes, en particular para proteger a los menores.
El anuncio se produjo tras la dura condena del gobierno de Keir Starmer a los deepfakes sexuales.
El comunicado de Ofcom también indica que la decisión de iniciar una investigación se produjo tras "informes muy preocupantes" sobre la creación y difusión de imágenes de desnudos de mujeres y menores, lo que podría constituir una infracción de la normativa británica contra el abuso en línea y la pornografía infantil.
El ente regulador señaló que si determina que una empresa ha infringido la Ley de Seguridad Online, puede exigirle que "adopte medidas específicas para cumplir o remediar el daño causado por la infracción". También puede imponer multas de hasta 18 millones de libras, o del 10% de la facturación en el caso de gigantes como X, si persisten "casos graves de incumplimiento".
Compartir imágenes íntimas abusivas en línea es ilegal según la normativa británica, que también exige que la pornografía esté limitada por edad. Las empresas también deben implementar sistemas para prevenir la aparición de material de abuso sexual infantil (MASI, por sus siglas en inglés) y retirarlo rápidamente si se publica en una plataforma.
Según The Guardian, Ofcom afirmó que se había puesto en contacto urgentemente con X el lunes pasado para expresarle sus preocupaciones. Tras considerar la respuesta de X sobre las medidas adoptadas para cumplir con la ley, el ente declaró haber abierto una investigación formal tras una evaluación acelerada realizada con carácter de urgencia.
Grok se ha integrado en X, y una actualización de la herramienta de IA permite a los usuarios solicitarle que modifique. Imágenes de mujeres y niños vestidos, haciéndoles aparecer en bikini y en poses sexualmente sugerentes.
La semana pasada, el gobierno laborista lanzó una severa advertencia a Musk, instando a la alta dirección de la red social a actuar con urgencia para detener el uso de Grok en la creación de imágenes deepfake "repugnantes".
La Unión Europea también actuó en esta dirección, condenando el uso del chatbot y solicitando la intervención de X. La Comisión Europea no consideró satisfactoria la decisión de limitar la edición de imágenes solo a los suscriptores.
La petición de acabar por completo con la difusión de deepfakes sigue vigente (ANSA)
