1
El nuevo modelo de IA de Anthropic dispara alarmas globales
Mythos ha activado respuestas de emergencia por parte de bancos centrales y agencias de inteligencia en todo el mundo, mientras la empresa norteamericana decide quién accede al modelo
7 minutos de lectura'
LONDRES.– Cuando Anthropic le dijo al mundo este mes que había construido un modelo de inteligencia artificial tan poderoso que resultaba demasiado peligroso para ser difundido ampliamente, la empresa nombró a 11 organizaciones como socias para ayudar a montar una defensa. Todas eran de Estados Unidos.
En apenas dos semanas, el modelo, llamado Mythos, había desatado una carrera global como no se había visto aún en la era de la IA. Mythos, que según Anthropic tiene una capacidad inquietantemente eficaz para encontrar y explotar fallas ocultas en el software que gestiona los bancos, las redes eléctricas y los gobiernos del mundo, se había convertido en una ficha geopolítica —y estaba en manos de una empresa estadounidense.
Líderes mundiales han tenido dificultades para dimensionar la magnitud de los riesgos de seguridad y cómo resolverlos, mientras Anthropic compartía Mythos solo con Reino Unido, fuera de Estados Unidos. El gobernador del Banco de Inglaterra advirtió públicamente que Anthropic podría haber encontrado una forma de “abrir por completo el mundo del riesgo cibernético”. El Banco Central Europeo empezó a consultar discretamente a los bancos sobre sus defensas. El ministro de Finanzas de Canadá comparó la amenaza con el cierre del estrecho de Ormuz.
Para rivales de Estados Unidos como China y Rusia, Mythos puso de relieve las consecuencias en materia de seguridad de quedar rezagados en la carrera de la IA. Un medio ruso afín al Kremlin calificó al modelo como “peor que una bomba nuclear”.
Ventaja geopolítica
Las respuestas ilustraron una realidad sobre la que los investigadores en IA han advertido durante mucho tiempo, aunque mayormente en términos teóricos: quien lidere la construcción de los modelos de IA más poderosos obtendrá ventajas geopolíticas desproporcionadas. Los grandes avances en IA empiezan a parecerse menos a lanzamientos de productos y más a pruebas de armamento, y la mayoría de las naciones quieren entender cómo funcionan estas tecnologías y qué protecciones son necesarias.
A medida que los “modelos” fundacionales de IA se vuelven más trascendentes, el acceso se vuelve más geopolítico, dijo Eduardo Levy Yeyati, execonomista jefe del Banco Central de la Argentina y asesor regional sobre crecimiento e IA en el Banco Interamericano de Desarrollo. “Tomaría este episodio como una señal de alarma para las políticas públicas. Los gobiernos ya no pueden ignorar el tema”, agregó.
Incluso el gobierno de Estados Unidos, que ha estado envuelto en un enfrentamiento con Anthropic por el uso de la IA en la guerra, ha tomado nota de Mythos. El viernes, Dario Amodei, director ejecutivo de Anthropic, se reunió con funcionarios de la Casa Blanca después de que algunos miembros del gobierno de Trump señalaran el potencial del nuevo modelo para causar estragos en los sistemas informáticos.
Anthropic, con sede en San Francisco, dijo a The New York Times que mantiene el acceso a Mythos limitado por motivos de seguridad. La empresa se ha enfocado en compartir el modelo con más de 40 organizaciones que proporcionan tecnología utilizada para mantener infraestructura global crítica, como internet o redes eléctricas. Anthropic nombró a 11 de esas organizaciones, incluyendo a Amazon, Apple y Microsoft, que se comprometieron a ayudar a desarrollar soluciones de seguridad para vulnerabilidades identificadas por el modelo.
La empresa señaló que no tiene un calendario inmediato para ampliar ampliamente el acceso, pero que trabajará con el gobierno de Estados Unidos y con socios de la industria para determinar los próximos pasos. Indicó que ha recibido numerosas consultas de gobiernos, empresas y otras organizaciones solicitando acceso e información, pero que estas entidades pueden tener distintos niveles de experiencia para evaluar de forma segura un modelo de IA tan potente.
Anthropic añadió que espera que otros grupos lancen modelos de IA con capacidades cibernéticas similares de manera más amplia en un plazo de al menos 18 meses, lo que deja a las organizaciones un tiempo limitado para implementar las correcciones de seguridad necesarias.
El martes, Anthropic dijo que estaba investigando un informe según el cual usuarios no autorizados habrían accedido a una versión de Mythos.
Mínima cooperación internacional
La carrera en torno a Mythos ocurre en un momento de mínima cooperación internacional en materia de IA. Los gobiernos se observan con desconfianza mientras las empresas compiten por adelantarse a sus rivales. No existe un equivalente al Tratado de No Proliferación Nuclear, ni inspecciones compartidas, ni reglas consensuadas sobre cómo manejar algo como Mythos.
Cuando Anthropic anunció el modelo, muchos expertos elogiaron la cautela de la empresa al limitar quién podía probarlo, pero expresaron preocupación por la falta de coordinación internacional para abordar el riesgo.
El Reino Unido fue el único otro país que obtuvo acceso. Su Instituto de Seguridad en IA, una organización respaldada por el gobierno, probó Mythos y publicó la semana pasada una evaluación independiente que confirmó que podía ejecutar ciberataques complejos que ningún modelo de IA anterior había logrado.
“Esto representa un salto en las capacidades de IA en ciberseguridad”, dijo Kanishka Narayan, ministro de IA del Reino Unido, en redes sociales la semana pasada, afirmando que el país está tomando medidas para proteger la “infraestructura nacional crítica”.
Otros recibieron menos información. La Comisión Europea, el brazo ejecutivo de la Unión Europea de 27 países, se ha reunido con Anthropic al menos tres veces desde el lanzamiento de Mythos, según un funcionario de la UE. Sin embargo, la empresa no ha proporcionado acceso al modelo porque ambas partes no han acordado cómo compartirlo con la Comisión, según el funcionario.
En un comunicado, la Comisión dijo que estaba “evaluando las posibles implicaciones” de Mythos, el cual “presenta capacidades cibernéticas sin precedentes”.
Claudia Plattner, presidenta de la agencia de ciberseguridad de Alemania, conocida como BSI, dijo que no había recibido acceso a Mythos, pero que recientemente se reunió con empleados de Anthropic en San Francisco para obtener “información significativa” sobre su funcionamiento. Las capacidades del modelo apuntan a un “cambio de paradigma en la naturaleza de las amenazas cibernéticas”, señaló Plattner en un comunicado.
La respuesta de los rivales
Entre los rivales de Estados Unidos, la respuesta ha sido más contenida. A pesar del reciente conflicto de Anthropic con el gobierno de Trump, Amodei ha dejado claro que la IA debería usarse para defender a Estados Unidos y a otras democracias y derrotar a adversarios autocráticos.
Ni Pekín ni Moscú han realizado declaraciones públicas importantes sobre Mythos. Dentro de China, investigadores y la comunidad de IA en general han estado siguiendo el tema de cerca, según analistas que estudian el ecosistema tecnológico del país. Muchos de los bancos, empresas energéticas y agencias gubernamentales del país utilizan el mismo software en el que Mythos encontró vulnerabilidades, pero por ahora no tienen participación en las discusiones.
“Para China, creo que este es el segundo llamado de atención después de ChatGPT”, dijo Matt Sheehan, investigador principal del Carnegie Endowment for International Peace. Añadió que la política de Estados Unidos de impedir que China obtenga los semiconductores más sofisticados para construir sistemas avanzados de IA está ayudando a ampliar la ventaja estadounidense.
Algunos investigadores de IA en China han expresado en privado su preocupación por que el país pueda quedar aún más rezagado, perdiendo ventajas asociadas a ser el primero en construir un modelo fundacional, según Jeffrey Ding, profesor de ciencia política en la George Washington University.
Liu Pengyu, portavoz de la Embajada de China en Washington, dijo que China no está familiarizada con los detalles de Mythos, pero que apoya un ciberespacio pacífico, seguro y abierto.
Mythos es la última señal de una creciente división global en materia de IA. Los países que no cuentan con infraestructura informática potente y modelos avanzados de IA corren el riesgo de volverse dependientes de empresas como Anthropic, Google y OpenAI, mientras tienen poca influencia sobre cómo se diseñan y protegen sus productos, dijo Levy Yeyati.
“La idea de que el acceso a la IA de frontera es algo que una empresa puede restringir de forma unilateral, usando criterios opacos e inapelables, debería ser una preocupación real”, afirmó el especialista.
Más leídas de El Mundo
