1
IA en la guerra: más velocidad, más datos… y más responsabilidad humana
La IA se está utilizando en la guerra, pero no puede reemplazar el juicio humano
9 minutos de lectura'
Según The Washington Post, el ejército estadounidense logró atacar 1000 objetivos en las primeras 24 horas de su ataque contra Irán, en parte gracias al uso de inteligencia artificial. El ejército utilizó Claude, la herramienta de IA de Anthropic, combinada con el sistema Maven de Palantir, para la selección y priorización de objetivos en tiempo real en apoyo de las operaciones de combate en Irán y Venezuela.
Aunque Claude tiene solo unos pocos años, la capacidad del ejército estadounidense para utilizar esta o cualquier otra IA, no surgió de la noche a la mañana. El uso eficaz de los sistemas automatizados depende de una infraestructura extensa y personal cualificado. Solo gracias a décadas de inversión y experiencia, Estados Unidos puede utilizar la IA en la guerra hoy en día.
En mi experiencia como investigador de relaciones internacionales especializado en tecnología estratégica en Georgia Tech, y anteriormente como oficial de inteligencia en la Marina de los EE. UU., he constatado que los sistemas digitales son tan buenos como las organizaciones que los utilizan. Algunas organizaciones desaprovechan el potencial de las tecnologías avanzadas, mientras que otras logran compensar sus deficiencias tecnológicas.
Mito y realidad en la IA militar
Los relatos de ciencia ficción sobre inteligencia artificial militar suelen ser engañosos. Las ideas populares sobre robots asesinos y enjambres de drones tienden a exagerar la autonomía de los sistemas de IA y a subestimar el papel de los seres humanos. El éxito o el fracaso en la guerra generalmente no depende de las máquinas, sino de las personas que las utilizan.
En el mundo real, la IA militar se refiere a un amplio conjunto de sistemas y tareas diferentes. Las dos categorías principales son las armas automatizadas y los sistemas de apoyo a la toma de decisiones. Los sistemas de armas automatizadas tienen cierta capacidad para seleccionar o atacar objetivos por sí mismos. Estas armas suelen ser tema de ciencia ficción y objeto de considerable debate.
En cambio, los sistemas de apoyo a la toma de decisiones constituyen ahora el núcleo de la mayoría de las fuerzas armadas modernas. Se trata de aplicaciones informáticas que proporcionan información de inteligencia y planificación al personal humano. Muchas aplicaciones militares de la IA, incluso en las guerras actuales y recientes de Oriente Medio, se destinan a sistemas de apoyo para la toma de decisiones, no a armamento. Las organizaciones de combate modernas dependen de innumerables aplicaciones digitales para el análisis de inteligencia, la planificación de campañas, la gestión de batallas, las comunicaciones, la logística, la administración y la ciberseguridad.
Claude es un ejemplo de sistema de apoyo a la toma de decisiones, no un arma. Esta IA está integrada en el sistema inteligente Maven, ampliamente utilizado por organizaciones militares, de inteligencia y policiales. Maven utiliza algoritmos de IA para identificar posibles objetivos a partir de datos satelitales y de inteligencia, y Claude ayuda a los planificadores militares a organizar la información y decidir sobre los objetivos y las prioridades.
Los sistemas israelíes Lavender y Gospel, utilizados en la guerra de Gaza y en otros lugares, también son sistemas de apoyo a la toma de decisiones. Estas aplicaciones de IA proporcionan apoyo analítico y de planificación, pero, en última instancia, las decisiones las toman los seres humanos.
La larga historia de la IA militar
Las armas con cierto grado de autonomía se han utilizado en la guerra durante más de un siglo: las minas navales del siglo XIX explotaban al contacto. Las bombas volantes alemanas de la Segunda Guerra Mundial se guiaban giroscópicamente. Los torpedos teledirigidos y los misiles de búsqueda de calor modifican su trayectoria para interceptar objetivos en movimiento. Muchos sistemas de defensa aérea, como la Cúpula de Hierro israelí y el sistema Patriot estadounidense, ofrecen desde hace tiempo modos totalmente automáticos.
Los drones robóticos se generalizaron en las guerras del siglo XXI. Estos sistemas no tripulados realizan ahora diversas tareas tediosas, peligrosas y que generan gran riesgo en tierra, mar, aire y órbita. Vehículos pilotados a distancia como el MQ-9 Reaper estadounidense o el Hermes 900 israelí, capaces de permanecer en vuelo de forma autónoma durante horas, proporcionan una plataforma para el reconocimiento y los ataques. Los combatientes en la guerra entre Rusia y Ucrania fueron pioneros en el uso de drones con visión en primera persona como munición kamikaze. Algunos drones dependen de la inteligencia artificial para adquirir objetivos, ya que las interferencias electrónicas impiden el control remoto por parte de operadores humanos.
Pero los sistemas que automatizan el reconocimiento y los ataques son solo la parte más visible de la revolución de la automatización. La capacidad de ver más lejos y atacar más rápido aumenta drásticamente la carga de procesamiento de información para las organizaciones militares. Aquí es donde entran en juego los sistemas de apoyo a la toma de decisiones. Si las armas automatizadas mejoran la visión y los brazos de un ejército, los sistemas de apoyo a la toma de decisiones potencian el cerebro.
Los sistemas de mando y control de la Guerra Fría anticiparon los modernos sistemas de apoyo a la toma de decisiones, como el Tzayad israelí, con inteligencia artificial, para la gestión de batallas. Proyectos de investigación en automatización, como el SAGE (Semi-Automatic Ground Environment) de Estados Unidos, en la década de 1950, impulsaron importantes innovaciones en memoria e interfaces informáticas. Durante la guerra de Vietnam, el sistema Igloo White recopiló datos de inteligencia en una computadora centralizada para coordinar los ataques aéreos estadounidenses contra las líneas de suministro norvietnamitas. El programa de computación estratégica de la Agencia de Proyectos de Investigación Avanzada de Defensa de Estados Unidos (DARPA) en la década de 1980 impulsó avances en semiconductores y sistemas expertos. De hecho, la financiación para la defensa fue el principal motor del auge de la inteligencia artificial.
Las organizaciones permiten la guerra automatizada
Los sistemas automatizados de armas y apoyo a la toma de decisiones dependen de la innovación organizativa complementaria. Desde el campo de batalla electrónico de Vietnam hasta la doctrina de batalla aeroterrestre de finales de la Guerra Fría y los conceptos posteriores de guerra centrada en redes, las fuerzas armadas estadounidenses han desarrollado nuevas ideas y conceptos organizativos.
Resulta particularmente destacable el surgimiento de un nuevo estilo de operaciones especiales durante la guerra global estadounidense contra el terrorismo. Los sistemas de apoyo a la toma de decisiones basados en inteligencia artificial se volvieron indispensables para localizar a terroristas, planificar incursiones para eliminarlos o capturarlos y analizar la información recopilada durante el proceso. Sistemas como Maven se volvieron esenciales para este estilo de contraterrorismo.
La impresionante estrategia bélica estadounidense desplegada en Venezuela e Irán es el resultado de décadas de ensayo y error. El ejército estadounidense ha perfeccionado procesos complejos para recopilar inteligencia de diversas fuentes, analizar sistemas objetivo, evaluar opciones de ataque, coordinar operaciones conjuntas y evaluar los daños causados por los bombardeos. La única razón por la que se puede utilizar la IA a lo largo de todo el ciclo de selección de objetivos es que innumerables personas trabajan en todo el mundo para mantenerla en funcionamiento.
La IA genera importantes inquietudes sobre el sesgo de automatización o la tendencia de las personas a dar una importancia excesiva a las decisiones automatizadas en la selección de objetivos militares. Sin embargo, estas inquietudes no son nuevas. Igloo White fue engañado a menudo por señuelos vietnamitas. Un crucero estadounidense Aegis de última generación derribó accidentalmente un avión de pasajeros iraní en 1988. Errores de inteligencia llevaron a bombarderos furtivos estadounidenses a atacar accidentalmente la embajada china en Belgrado, Serbia, en 1999.
Muchos civiles iraquíes y afganos murieron debido a errores analíticos y sesgos culturales dentro del ejército estadounidense. Recientemente, la evidencia sugiere que un misil de crucero Tomahawk impactó una escuela de niñas adyacente a una base naval iraní, matando a unas 175 personas, en su mayoría estudiantes. Este ataque podría deberse a un fallo de la inteligencia estadounidense.
La predicción automatizada necesita juicio humano
Los éxitos y fracasos de los sistemas de apoyo a la toma de decisiones en la guerra se deben más a factores organizativos que a la tecnología. La IA puede ayudar a las organizaciones a mejorar su eficiencia, pero también puede amplificar los sesgos organizacionales. Si bien puede ser tentador culpar a Lavender por el exceso de muertes de civiles en la Franja de Gaza, la laxitud de las normas israelíes de intervención probablemente sea más importante que el sesgo de automatización.
Como su nombre lo indica, los sistemas de apoyo a la toma de decisiones respaldan la toma de decisiones humanas; la IA no reemplaza a las personas. El personal humano sigue desempeñando un papel importante en el diseño, la gestión, la interpretación, la validación, la evaluación, la reparación y la protección de sus sistemas y flujos de datos. Los comandantes siguen al mando.
En términos económicos, la IA mejora la predicción, lo que implica generar nuevos datos a partir de los existentes. Sin embargo, la predicción es solo una parte de la toma de decisiones. En última instancia, las personas son quienes toman las decisiones importantes sobre qué predecir y cómo utilizar las predicciones. Las personas tienen preferencias, valores y compromisos con respecto a los resultados del mundo real, algo que los sistemas de IA, por naturaleza, no tienen.
En mi opinión, esto significa que el aumento del uso militar de la IA en realidad está haciendo que los humanos sean más importantes en la guerra, no menos.
Más leídas de Tecnología
