1
Una IA china neutraliza a un agente rebelde de OpenAI y alarma a Silicon Valley
El sistema de código abierto del gigante asiático, GLM-5.2, se mostró más eficaz que los norteamericanos para frenar la amenaza
5 minutos de lectura'
WASHINGTON.- El uso por parte de una startup neoyorquina de un modelo de IA chino para neutralizar a un programa agente rebelde creado con tecnología OpenAI está avivando los temores de que las salvaguardias que restringen a las empresas de IA estadounidenses de realizar trabajos de ciberseguridad puedan empujar a los clientes hacia sus rivales con sede en Pekín.
La startup afectada, Hugging Face, declaró que la semana pasada recurrió al modelo de código abierto GLM-5.2 de Zhipu AI para analizar los datos del ataque informático, después de que los principales modelos de IA estadounidenses no pudieran hacer la tarea, incapaces de distinguir quién era el defensor y quién el atacante.
Si bien el incidente fue causado por un caso particular de un agente autónomo que salió de control, puso de manifiesto que las empresas estadounidenses que se enfrentan a ciberataques impulsados por IA pueden verse limitadas por los laboratorios de IA estadounidenses, que restringen el acceso a sus modelos más avanzados o los diseñan para que rechacen tareas relacionadas con la piratería informática por motivos de seguridad.
Por ejemplo, el modelo avanzado Claude Fable 5 de Anthropic redirige las consultas de ciberseguridad a un modelo más antiguo, mientras que GPT-5.6 Sol de OpenAI cuenta con protecciones diseñadas para bloquear el trabajo cibernético.
“Todos estamos aprendiendo que el secretismo no es la respuesta y que todos los defensores (no solo unos pocos elegidos) en todas partes necesitan modelos más poderosos sin restricciones, ¡especialmente los abiertos!”, dijo Clement Delangue, cofundador de Hugging Face, en X.
El dilema para los principales fabricantes de modelos estadounidenses radica en que las labores de ciberseguridad defensiva suelen ser difíciles de distinguir de los ataques informáticos maliciosos.
En recientes brechas de seguridad habilitadas por IA, los atacantes engañaron a los modelos haciéndoles creer que realizaban labores de defensa legítimas, lo que ha generado recelo entre las empresas de IA a la hora de relajar las medidas de seguridad, incluso cuando los profesionales de la ciberseguridad afirman que estas medidas pueden obstaculizar su trabajo.
Por ahora, las consecuencias están dando un nuevo impulso a los modelos chinos de código abierto, como GLM-5.2, que están ganando terreno en Silicon Valley con capacidades de codificación y de agentes que casi rivalizan con las de OpenAI y Anthropic a un menor costo.
Pekín también ha estado utilizando cada vez más el código abierto para posicionarse como una alternativa a Estados Unidos en esta carrera de alto riesgo, y los medios estatales chinos presentan cada vez más esta estrategia como una respuesta a lo que denominan un intento liderado por Estados Unidos de erigir una “Cortina de Hierro de la IA”.
“Un régimen de seguridad que restringe a los defensores legítimos, mientras que los atacantes siguen teniendo acceso a modelos capaces, crea una desventaja asimétrica”, afirmó Lukasz Olejnik, consultor tecnológico independiente e investigador principal visitante del Departamento de Estudios de Guerra del King’s College de Londres.
“Esta brecha no hará sino ampliarse a medida que los modelos de código abierto se vuelvan cada vez más potentes, pero carezcan de salvaguardias o restricciones.”
La importancia del código abierto
Cuando se le preguntó si las medidas de seguridad estaban obstaculizando el trabajo de ciberseguridad, OpenAI remitió a una publicación de su blog, mientras que Anthropic no respondió de inmediato a una solicitud de comentarios.
El creador de ChatGPT dijo en la publicación del blog del martes: “Hemos incorporado a Hugging Face al programa de acceso seguro y estamos ayudando a sus equipos a utilizar rápidamente las capacidades de nuestros modelos para mejorar sus defensas”.
Para Zhipu AI, con sede en Pekín, el respaldo de Hugging Face se suma al impulso que GLM-5.2 ha adquirido desde su lanzamiento el mes pasado.
El modelo ha escalado rápidamente posiciones en las listas de uso de plataformas para desarrolladores como OpenRouter y ha cosechado elogios de figuras que van desde el CEO de Snowflake, Sridhar Ramaswamy, hasta el inversor de capital riesgo Marc Andreessen.
Zhipu AI que recaudó alrededor de 4000 millones de dólares en una venta de acciones en Hong Kong a principios de este mes, también ha visto cómo sus acciones se multiplicaban casi por nueve desde su debut en enero.
Sin embargo, algunos analistas advirtieron el miércoles que el incidente no debería utilizarse para promover una relajación de las medidas de seguridad estadounidenses.
“Las medidas de ciberseguridad aplicadas a los modelos de negocio emergentes de Estados Unidos están creando una oportunidad competitiva, pero la solución no consiste simplemente en eliminarlas”, afirmó Shrenik Kothari, analista de Robert W. Baird.
“OpenAI, Anthropic y Google deberían replantearse la arquitectura de acceso en lugar de abandonar la seguridad... En otras palabras, pasar de una capa de rechazo generalizada a una asignación de capacidades controlada.”
Más leídas de Estados Unidos
2Peter Attia, experto en longevidad en EE.UU.: “El ejercicio es, con diferencia, el ‘fármaco’ de longevidad más potente”
3Confirmado: el agente del Servicio Secreto de JD Vance que fue suspendido tras sospechas de filtrar información
4Quién ganó las elecciones primarias en Arizona: resultado oficial, candidatos y proyecciones en vivo