Grupos extremistas empiezan a entrenarse en inteligencia artificial, planteando nueva amenaza

WASHINGTON (AP) — Mientras el resto del mundo se apresura a aprovechar el poder de la inteligencia artificial, los grupos extremistas también están experimentando con la tecnología, incluso si no están seguros de qué hacer exactamente con ella.

Para las organizaciones extremistas, la IA podría ser una herramienta poderosa para reclutar nuevos miembros, generar imágenes deepfake realistas y perfeccionar sus ciberataques, han advertido expertos en seguridad nacional y agencias de espionaje.

Alguien que publicó en un sitio web pro-Estado Islámico el mes pasado instó a otros simpatizantes a incorporar la IA en sus operaciones. "Una de las mejores cosas de la IA es lo fácil que es de usar", escribió el usuario en inglés.

"Algunas agencias de inteligencia temen que la IA contribuya al reclutamiento", continuó el usuario. "Así que conviertan sus pesadillas en realidad".

El EI, que tomó territorio en Irak y Siria hace años pero ahora es una alianza descentralizada de grupos que comparten una ideología violenta, se dio cuenta hace años de que las redes sociales podían ser una herramienta potente para el reclutamiento y la desinformación, por lo que no es sorprendente que el grupo esté probando la IA, dicen expertos en seguridad nacional.

Para grupos extremistas poco organizados y con escasos recursos, o incluso para un individuo malintencionado con conexión a internet, la IA puede ser utilizada para difundir propaganda o deepfakes a gran escala, ampliando su alcance e influencia.

"Para cualquier adversario, la IA realmente facilita mucho las cosas", explicó John Laliberte, ex investigador de vulnerabilidades en la Agencia de Seguridad Nacional que ahora es CEO de la firma de ciberseguridad ClearVector. "Con la IA, incluso un grupo pequeño que no tiene mucho dinero aún puede tener un impacto".

Cómo están experimentando los grupos extremistas

Los grupos radicales comenzaron a usar la IA tan pronto como programas como ChatGPT se hicieron ampliamente accesibles. En los años siguientes, han utilizado cada vez más programas de IA generativa para crear fotos y videos de apariencia realista.

Cuando se combinan con algoritmos de redes sociales, este contenido falso puede ayudar a reclutar nuevos creyentes, confundir o asustar a los enemigos y difundir propaganda a una escala inimaginable hace solo unos años.

Hace dos años, tales grupos difundieron imágenes falsas de la guerra entre Israel y Hamás que mostraban bebés ensangrentados y abandonados en edificios bombardeados. Las imágenes provocaron indignación y polarización y opacaron los horrores reales de la guerra. Grupos violentos en el Oriente Medio usaron las fotos para reclutar nuevos miembros, al igual que grupos de odio antisemita en Estados Unidos y otros lugares.

Algo similar ocurrió el año pasado después de un ataque reivindicado por un afiliado del EI que mató a casi 140 personas en un lugar de conciertos en Rusia. En los días posteriores al tiroteo, videos de propaganda creados por IA circularon ampliamente en foros de discusión y redes sociales, buscando nuevos reclutas.

El EI también ha creado grabaciones de audio deepfake de sus propios líderes recitando escrituras y ha utilizado la IA para traducir rápidamente mensajes a múltiples idiomas, según investigadores del Grupo de Inteligencia SITE, una firma que rastrea actividades extremistas y ha investigado el uso evolutivo de la IA por parte del EI.

Por ahora es solo "una aspiración"

Tales grupos están rezagados respecto a China, Rusia o Irán y y para ellos el uso de la IA es "solo una aspiración", según Marcus Fowler, ex agente de la CIA que ahora es CEO de Darktrace Federal, una firma de ciberseguridad que trabaja con el gobierno federal.

Pero los riesgos son demasiado altos para ignorarlos y es probable que crezcan a medida que se expanda el uso de IA barata y poderosa, dijo.

Los hackers ya están utilizando audio y video sintéticos para campañas de phishing, en las que intentan hacerse pasar por un líder empresarial o gubernamental para acceder a redes sensibles. También pueden usar la IA para escribir código malicioso o automatizar algunos aspectos de los ciberataques.

Más preocupante es la posibilidad de que los grupos extremistas intenten usar la IA para ayudar a producir armas biológicas o químicas, compensando la falta de experiencia técnica. Ese riesgo fue incluido en la Evaluación de Amenazas a la Seguridad Nacional actualizada del Departamento de Seguridad Nacional, publicada a principios de este año.

"El EI se metió en Twitter temprano y encontró formas de usar las redes sociales a su favor", declaró Fowler. "Siempre están buscando lo próximo para agregar a su arsenal".

Contrarrestando una amenaza creciente

Los legisladores han propuesto varias iniciativas, diciendo que hay una necesidad urgente de actuar.

El senador Mark Warner de Virginia, el principal demócrata en el Comité de Inteligencia del Senado, dijo, por ejemplo, que Estados Unidos debe facilitar que los desarrolladores de IA compartan información sobre cómo sus productos están siendo utilizados por actores malintencionados, ya sean extremistas, hackers criminales o espías extranjeros.

"Ha sido obvio desde finales de 2022, con la publicación de ChatGPT, que la misma fascinación y experimentación con la IA generativa que ha tenido el público también se aplicaría a una gama de actores malignos", indicó Warner.

Durante una reciente audiencia sobre amenazas extremistas, los legisladores de la Cámara de Representantes supieron que el EI y Al Qaeda han realizado talleres de capacitación para ayudar a los simpatizantes a aprender a usar la IA.

La legislación que aprobó la Cámara de Representantes el mes pasado requiere que los funcionarios de seguridad nacional evalúen los riesgos de la IA planteados por tales grupos cada año.

Protegerse contra el uso malicioso de la IA no es diferente de prepararse para ataques más convencionales, señaló el representante August Pfluger, republicano de Texas, patrocinador de la ley.

"Nuestras políticas y capacidades deben mantenerse al ritmo de las amenazas del mañana", sostuvo.

___________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.

Delgado como el papel. Crean un chip para tener una conexión de alta velocidad entre el cerebro y la computadora

WhatsApp. Palabras para enviar a un hijo el día de su cumpleaños

Paisaje y comodidades. Cuál es la mejor playa de Cariló, según la IA