1
Así podría secuestrar internet un enjambre de agentes de IA y transformar al ciberataque en un problema global
El jefe de Anthropic teme uno de los escenarios de caos más probables y cercanos: un ataque informático de miles de agentes que paralizaría una parte de la red
6 minutos de lectura'
En estos días de debate sobre la capacidad de destrucción de la inteligencia artificial (IA), falta siempre desarrollar un detalle: ¿cómo lo haría exactamente? ¿Qué podría pasar en concreto? No hay tantas respuestas específicas. Pero el propio Dario Amodei, presidente ejecutivo de Anthropic, mencionó una opción en su controvertida propuesta para ralentizar el desarrollo de la IA. Amodei se planteaba algo que, según sus palabras, puede pasar dentro de seis o doce meses: ¿qué pasaría si un enjambre de IA fuera capaz de “tomar el control de toda internet”?
Gusanos y computadoras viejas
Hablar del secuestro de toda la red parece exagerado, pero internet es más frágil de lo que parece. Hay miles de programas sin actualizar, archivos perdidos con contraseñas útiles, servidores activos sin mantenimiento, millones de páginas olvidadas y millones de bots generando contenido de forma semiautónoma. Ahora, además, ya no hace falta imaginar un ataque unilateral de miles de agentes artificiales. Vimos este invierno una muestra de la actividad descontrolada de unos sistemas autónomos que daban órdenes, se sacrificaban y hackeaban otras plataformas.
Poco antes, en junio, investigadores de las universidades de Toronto y Cambridge idearon otro ejemplo: crearon un gusano informático movido por inteligencia artificial. Era un programa que se cuela en una computadora, instala una copia de sí mismo y desde ahí ataca a otro, pero que en lugar de seguir un guion fijo decide sobre la marcha cómo atacar cada máquina que encuentra.
¿Podría suceder esto en el mundo real? “No está fuera de lo posible. Dependería sobre todo de que un enjambre lograra acceso a suficiente capacidad de computación para atacar suficientes dispositivos como para tomar el control de todo internet”, dice Nicolas Papernot, profesor de la Universidad de Toronto y uno de los coautores del experimento del gusano con IA. “La tecnología ya permite una toma de control de este tipo, pero exigiría una cantidad enorme de computación”.
El propio Sam Altman, presidente ejecutivo de OpenAI, cuyos agentes autónomos hackearon varias plataformas estos meses atrás, dijo este martes que era probable que pasara algo así: “El mensaje más contundente que tengo es que hay que defenderse de esta oleada de ciberataques que se nos viene encima. Creo que no estamos tan lejos de que haya modelos de pesos abiertos capaces de causar daños graves. Llegará una ciberamenaza enorme”.
La historia reciente de la informática tiene ejemplos célebres de ataques con características similares: Wannacry, NotPetya o la red de bots Mirai. Son casos donde se copiaban solos de una máquina a otra sin que nadie hiciera nada, usando fallos conocidos en software popular y viejo.
Esos gusanos no eran flexibles: en cuanto los detectaron, pudieron pararlos. La IA añade más capas. “Esto sería cientos de veces mayor. NotPetya se basaba en una sola vulnerabilidad. Nuestra investigación demuestra que un ataque impulsado por IA, incluso de un modelo menor, es capaz de averiguar qué estrategia va a funcionar, qué vulnerabilidad atacar, cómo entrar y hacerse con la potencia de cálculo de aparatos de todo tipo, para después lanzarse al siguiente dispositivo, y al siguiente”, dice Papernot. NotPetya costó unos 10.000 millones de dólares en daños según estimaciones. Este ataque sería mucho más caro y más difícil de contener.
Qué romperían y cómo los frenarían
Aquí ya solo la imaginación pone el límite a los daños. Buena parte de las infraestructuras críticas de la sociedad, desde el agua hasta los hospitales o las redes eléctricas, funcionan con software antiguo. “Eso genera una enorme superficie de ataque para ciberataques impulsados por IA. Podrían causar un daño tremendo sin necesidad de ningún avance adicional en IA”, calcula Papernot.
Uno de los problemas de estos ataques con IA sería cómo detenerlos. Si la IA va variando sus modos de ataque, ya no basta con parchear una sola vulnerabilidad. “La computación será el principal cuello de botella para que un enjambre pueda seguir atacando. Desactivar los servidores es una forma de apagar un enjambre. Pero eso tendría un coste: durante ese apagón, esa potencia de cálculo tampoco estaría disponible para usos legítimos”, dice Papernot. En cuanto a las víctimas del ataque, “primero tendrían que darse cuenta de que lo están sufriendo y luego detenerlo antes de poder recuperarse. Las interrupciones podrían prolongarse bastante”, explica el experto.
El reto de frenar y limpiar un ataque así es muy difícil de medir: “Si tenemos millones de sistemas secuestrados por agentes maliciosos de IA, requeriría una coordinación global para detenerlo”, dice Martín Vigo, fundador de la empresa de ciberseguridad Triskel Security y del podcast Tierra de hackers. “Podríamos seguir el típico modo de respuesta ante incidentes. Lo primero es aislar los sistemas infectados. Luego habría que desinfectarlos. Todo esto, por supuesto, es teoría. A la escala un tanto apocalíptica en la que nos sitúan, suena a que tendríamos que aprender a vivir desconectados unos añitos para arreglarlo todo”, añade.
Un ataque así podría ser ordenado por un humano, una organización criminal o un país, aunque luego podrían perder el control de estos sistemas autónomos. En el experimento de Toronto tuvieron un descuido que sirve de ejemplo: en un caso, junto al código del gusano colocaron sin querer un archivo con las contraseñas de todas las máquinas. Es el equivalente a olvidarse un manojo de llaves del edificio. El gusano lo encontró y no se limitó a usarlas, sino que las repartió entre todas las copias de sí mismo. Ya no tenía que forzar puertas, tenían las llaves. La propagación se disparó. Entonces los investigadores decidieron cortar el experimento y fueron apagando a mano, una por una, todas las copias del gusano. Se les escapó solo una. Esa copia solitaria conservaba las llaves, volvió a repartirlas y arrancó una segunda oleada de infecciones que recorrió la red otra vez.
Es como un virus, dice Miguel Ángel Liébana, evaluador autónomo de seguridad de Anthropic. “¿Puede erradicarse un virus? Sí, pero es tremendamente difícil. Puedes buscar tramas de patrones de comunicación en internet, puedes realizar análisis generalizados, pero nadie asegura que en un conjunto de servidores este modelo esté esperando o dormido a que pase un tiempo para volver. Todo depende de los factores iniciales, el tamaño y la inteligencia del modelo y su objetivo, si es que tiene uno premarcado”, añade Liébana.
Todo esto es una hipotética nueva etapa respecto a los ciberataques de la última década. No es la extinción y las empresas pueden seguir capando sus mejores modelos. Pero tampoco es ya ciencia ficción: “Hay que tratar la ciberseguridad como una emergencia de salud pública”, dice Papernot. Vigo aún lo tiene más claro: “Deberíamos operar bajo la premisa de que esto podría pasar, va a pasar y actuar consecuentemente. ¿Qué podemos hacer hoy para estar mejor preparados?”.
EL PAIS@Ediciones El Pais, S.L.U.
Más leídas de Tecnología
2“Nos estamos quedando sin tiempo”: renuncian dos expertos de Google DeepMind; creen que la IA podría “matarnos a todos”
3Usó IA y fotos satelitales para contabilizar personas que no figuran en los registros oficiales de la Argentina
4Así se puede modificar la cámara del celular para que funcione como una profesional