1
Cómo los grupos terroristas están usando la IA para obtener ventaja en el campo de batalla
Una nueva investigación revela que los chatbots de IA ya no son solo una herramienta de propaganda para los extremistas violentos: también los están ayudando a fabricar bombas y planificar ataques
11 minutos de lectura'
Cuando un grupo de integrantes de Boko Haram que se desplazaban en motocicletas atacó una base militar en el este de Nigeria hace un par de años, se encontró con un obstáculo inesperado: una zanja defensiva que rodeaba el complejo.
Los extremistas se reagruparon. Antes de lanzar un nuevo asalto, recurrieron a la inteligencia artificial.
“Vimos en una película cómo las motocicletas podían saltar puentes”, le contó a Antonia Juelich, investigadora sobre terrorismo y tecnología de la Universidad de Cambridge, un excomandante de Boko Haram. “Usamos IA para aprender cómo hacerlo. Le dimos información, como qué motocicletas usamos, la distancia que necesitábamos saltar y otros datos, y nos dio una serie de pasos sobre lo que debíamos hacer”.
Siguiendo las recomendaciones de los chatbots, mecánicos modificaron las motocicletas para lograr una aceleración y una velocidad máxima mayores. Los conductores cavaron sus propios pozos, los llenaron con vidrios rotos y fuego, y practicaron los saltos —a veces con consecuencias fatales— hasta conseguir suficiente impulso para llevar a cabo con éxito el ataque, según relataron desertores del grupo.
El episodio, narrado en un trabajo de investigación de la doctora Juelich compartido con The New York Times antes de su publicación este viernes, pone de manifiesto cómo las herramientas de inteligencia artificial generativa están ayudando cada vez más a grupos terroristas directamente en el campo de batalla, según expertos, pese a los esfuerzos de sus desarrolladores por impedir su uso indebido.
Hasta hace poco, Estado Islámico, Al Qaeda y otros grupos extremistas utilizaban la IA principalmente en el ámbito de las operaciones de información: producción de propaganda, traducción, reclutamiento y medidas de seguridad operativa. Pero eso ha cambiado. De acuerdo con funcionarios actuales y retirados del ejército y de la lucha antiterrorista de Estados Unidos, además de investigadores independientes, los yihadistas comenzaron a recurrir a la IA para obtener ventajas tácticas sobre el terreno.
Esta evolución pone de relieve un desafío más amplio para la industria de la IA. Los chatbots incorporan restricciones destinadas a impedir que los usuarios obtengan información que pueda causar daño a otras personas o a sí mismos. Sin embargo, diversos investigadores han demostrado repetidamente que es posible eludir esos mecanismos de seguridad, generalmente persuadiendo a los modelos de manera gradual y persistente hasta que revelan información que fueron entrenados para restringir.
Durante el último año, la doctora Juelich realizó cerca de 60 entrevistas con 27 exintegrantes de Boko Haram en Nigeria. Su investigación de campo reveló que los terroristas utilizaban chatbots para diseñar explosivos, reparar o mejorar otras armas y generar ideas sobre cómo atacar a sus enemigos.
Según escribe Juelich en su informe, los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) han sido “consultados en todas las etapas de la actividad militar: en la preparación de las misiones, durante las operaciones y en el análisis posterior”, lo que ofrece “una imagen muy diferente del uso de la IA centrado en la propaganda que domina el debate público y la investigación existente”.
Esta investigación, junto con otros estudios recientes que llegaron a conclusiones similares, surge en un contexto de creciente preocupación por las capacidades de los modelos avanzados de IA, que el director de la CIA, John Ratcliffe, comparó recientemente con “armas nucleares digitales”. Sin embargo, especialistas en seguridad de la IA y funcionarios de seguridad nacional sostienen que estos modelos también presentan riesgos poco reconocidos en otras áreas, como la creación de armas biológicas y las actividades terroristas.
En las últimas semanas, la administración de Donald Trump impulsó que los principales laboratorios de IA permitan al gobierno evaluar sus plataformas más avanzadas antes de que sean lanzadas al público. Las principales preocupaciones oficiales se centran en la posibilidad de que estos modelos descubran y exploten vulnerabilidades de software de una manera que podría causar estragos en la ciberseguridad global, más que en su posible utilización con fines terroristas.
“Los terroristas no están esperando a que hagamos que la IA sea segura”, afirmó Juelich en una entrevista, y agregó que el uso que hacen de esta tecnología había sido “significativamente subestimado tanto en su alcance como en su naturaleza”.
Daniel Byman, experto en terrorismo de la Universidad de Georgetown y coautor de un informe sobre IA y el futuro del terrorismo publicado este viernes por el Center for Strategic and International Studies (CSIS), explicó que los grupos terroristas están “combinando distintas herramientas de IA”, intentando evitar las barreras técnicas implementadas por las empresas desarrolladoras.
La investigación de Juelich también concluyó que Boko Haram es indiferente a la plataforma utilizada: emplea indistintamente ChatGPT, de OpenAI; Claude, de Anthropic; Gemini, de Google; Grok, de xAI; y también DeepSeek, de la empresa china del mismo nombre.
Los métodos descritos por la investigadora abarcan, en general, hasta finales de 2024. Desde entonces, las empresas de IA lanzaron nuevas versiones de sus modelos y sostienen que, aunque son más potentes, también incorporan medidas de seguridad más robustas. Además, remarcan que muchas de las funciones potencialmente peligrosas de la IA son de “doble uso”, es decir, que la información proporcionada también puede emplearse con fines legítimos. Aprender a saltar con una motocicleta, por ejemplo, no es una actividad intrínsecamente violenta.
Sin embargo, otros casos relatados por antiguos miembros de Boko Haram parecían tener una finalidad claramente violenta.
“Escribís la pregunta o usás la voz y te da una respuesta detallada, como ‘¿Cómo puedo fabricar una bomba?’, y entonces te explica cómo hacerlo”, le dijo el año pasado a Juelich un excomandante de la Provincia de Estado Islámico en África Occidental, una de las principales facciones de Boko Haram, sobre el uso de un chatbot de IA. “¡Es como un robot humano! Lo usábamos muchísimo”.
Consultado sobre el estudio, Michael Aciman, portavoz de Anthropic, afirmó que los productos de la empresa “están diseñados para rechazar solicitudes peligrosas, incluidas aquellas relacionadas con la violencia, la planificación de ataques y la fabricación de explosivos”. También señaló que Anthropic trabaja junto a expertos externos, investigadores y otras empresas del sector porque “ninguna compañía puede enfrentar estas amenazas por sí sola”.
Karl Ryan, portavoz de Google, cuestionó las conclusiones de la investigación. Indicó que especialistas técnicos de la empresa revisaron el trabajo y concluyeron que “las respuestas no eran lo suficientemente específicas ni detalladas como para facilitar un uso indebido”. Añadió además que Google mantiene “políticas estrictas que prohíben utilizar Gemini para causar daños en el mundo real”. Tanto Anthropic como Google fueron informadas sobre los hallazgos por la doctora Juelich antes de su publicación.
Drew Pusateri, portavoz de OpenAI, afirmó que el uso de las plataformas de la empresa con fines violentos o terroristas viola sus políticas. “Sabemos que los actores maliciosos nunca dejarán de intentar hacer un uso indebido de nuestras herramientas y seguiremos reforzando nuestras defensas en respuesta”, sostuvo.
Meta señaló que la investigación de Juelich se basó en modelos más antiguos y no en su versión más reciente, y aseguró que continúa fortaleciendo sus mecanismos de protección.
Ni xAI ni DeepSeek respondieron a las solicitudes de comentarios. Los funcionarios antiterroristas del Pentágono también declinaron pronunciarse sobre la amenaza que representan los ataques facilitados por IA.
No todos coinciden en que las medidas de seguridad estén mejorando. Esta semana, la organización sin fines de lucro Future of Life Institute evaluó los compromisos de seguridad de las principales empresas de IA y concluyó que, en términos generales, estos se han debilitado en toda la industria desde el año pasado. Si bien la mayoría obtuvo calificaciones intermedias, xAI y DeepSeek recibieron las peores puntuaciones.
Otros estudios recientes coinciden con la investigación de campo sobre Boko Haram. “Los sistemas de IA pueden respaldar una amplia variedad de funciones de planificación operativa, entre ellas reconocimiento, traducción, investigación de objetivos, diseño de artefactos explosivos improvisados (IED, por sus siglas en inglés), planificación de itinerarios, redacción de documentos, programación, seguridad de las comunicaciones y análisis de inteligencia de fuentes abiertas”, señaló un informe del Center for Strategic and International Studies (CSIS), en referencia, entre otras cosas, a los explosivos improvisados.
La organización internacional sin fines de lucro Tech Against Terrorism, dedicada a la lucha contra el terrorismo y respaldada por las Naciones Unidas, publicó la semana pasada los resultados de una serie de pruebas con IA para evaluar cómo más de dos docenas de modelos líderes respondían a miles de instrucciones (prompts) extraídas de casos reales de terrorismo. Las pruebas obtuvieron una “negativa total” en apenas el 57% de los casos. Mientras que las consultas relacionadas con explosivos fueron rechazadas aproximadamente el 80% de las veces, las referidas a armas químicas improvisadas solo lo fueron en alrededor de un tercio de los casos, indicó la organización.
Analistas de inteligencia estadounidenses afirman que los grupos terroristas también están comenzando a utilizar la IA para ayudar a imprimir en 3D piezas de armas empleadas en atentados, según un exfuncionario de alto rango de Estados Unidos que fue informado sobre el tema. Por ejemplo, la IA está ayudando a algunos de esos insurgentes con instrucciones de diseño y fabricación para componentes de drones, repuestos y adaptadores para municiones, explicó el exfuncionario, que habló bajo condición de anonimato para poder referirse a evaluaciones internas.
La inteligencia artificial difícilmente transforme el terrorismo de la noche a la mañana, coinciden analistas y funcionarios estadounidenses. Las organizaciones terroristas suelen adoptar las nuevas tecnologías con cautela, de manera selectiva y pragmática.
Sin embargo, los testimonios recopilados por la doctora Juelich muestran entusiasmo y compromiso entre las células de Boko Haram. Desertores relataron haber asistido a sesiones de capacitación organizadas específicamente para aprender a aprovechar al máximo las capacidades de los modelos de IA generativa y mejorar el uso que hacían de esta tecnología.
Según los entrevistados, esas capacitaciones —en las que las computadoras portátiles estaban equipadas con redes privadas virtuales (VPN) y software de cifrado— eran impartidas a través de redes yihadistas transnacionales, muchas de ellas dirigidas por miembros del Estado Islámico. Entre los temas más habituales figuraban cómo administrar una cuenta en una plataforma de IA, consejos para obtener respuestas útiles y técnicas para eludir las restricciones de seguridad de los sistemas.
Los ejemplos muestran a redes terroristas utilizando la IA de una forma no muy distinta a como lo hacen muchos empleados de oficina en su trabajo cotidiano: traduciendo información técnica en instrucciones fáciles de seguir o encontrando datos en internet que de otro modo serían difíciles de localizar, aunque con objetivos completamente diferentes. Al igual que ocurre en muchas empresas, los grupos terroristas parecen contar con equipos dedicados exclusivamente a trabajar con IA.
Algunos analistas especializados en contraterrorismo señalaron que, hasta ahora, la IA ha desempeñado un papel más importante en la planificación de atentados inspirados por individuos que en ataques de mayor envergadura organizados por grupos establecidos.
Aaron Zelin, investigador principal del Washington Institute for Near East Policy, afirmó que su investigación más reciente indica que algunos presuntos simpatizantes de ISIS en Estados Unidos y Europa occidental hicieron preguntas a ChatGPT sobre posibles objetivos y formas de llevar a cabo ataques, utilizándolo como una especie de manual de instrucciones virtual. Hasta el momento, ninguna de esas consultas derivó en atentados exitosos, aseguró.
Zelin citó el caso de un ciudadano tunecino de 27 años que fue detenido en mayo por su presunta participación en un plan que utilizó IA para ayudar a planificar un ataque contra un museo o un sitio judío en París.
El informe del Center for Strategic and International Studies también concluyó que es probable que la IA fortalezca el financiamiento del terrorismo, principalmente al mejorar la capacidad de estos grupos para utilizar el fraude y el engaño con el fin de recaudar dinero destinado a sostener sus redes insurgentes, apoyar a sus integrantes, comprar equipamiento y mantener las comunicaciones.
Funcionarios e investigadores estadounidenses advirtieron que todavía existen importantes limitaciones operativas y que la IA no reemplazará fácilmente la confianza, la coordinación, el financiamiento ni la experiencia en el terreno de la que dependen los terroristas más experimentados.
“Por lo tanto, el resultado más probable no será un aumento drástico de ataques altamente sofisticados, sino un incremento moderado en la capacidad de actores de menor nivel”, concluyó el estudio del CSIS.
Aun así, algunos analistas advirtieron sobre el alcance potencial de esta tecnología.
El Estado Islámico de Jorasán (ISIS-K), considerado quizás la filial más violenta del grupo, ha sido uno de los principales impulsores dentro de los círculos yihadistas de la idea de utilizar IA para ayudar a sus seguidores a evitar ser detectados por las autoridades, explicó Tricia Bacon, especialista en Somalia de la American University de Washington y exanalista de contraterrorismo del Departamento de Estado.
“La IA tiene el potencial —y en algunos casos ya ha demostrado la capacidad— de acelerar el proceso de radicalización y movilización hacia la violencia”, afirmó Bacon.
Más leídas
2Por qué Eva Mendes dejó Hollywood: la historia detrás de su retiro y su vida junto a Ryan Gosling
3Acto de la AMIA: frente a uno de los jueces que debe intervenir en el caso, el titular de la mutual reclamó que se acelere el juicio
4La FDA aprueba una nueva pastilla para reducir drásticamente los niveles de colesterol