Las guerras de robots, más cerca de lo que parece

CAMP EDWARDS, Massachusetts.- El pequeño drone con sus seis rotores pasó volando sobre la réplica de una aldea de Medio Oriente e hizo zoom con su cámara sobre una edificación con aspecto de mezquita, escaneando en busca de objetivos.

No había ningún humano piloteando a distancia ese drone, que no era más que una máquina como las que pueden comprarse vía Amazon. Pero equipado con un software de inteligencia artificial de última generación, el aparato había sido transformado en un robot capaz de encontrar e identificar a hombres con réplicas de rifles AK-47 que caminaban por la ciudad haciendo de insurgentes.

A medida que el drone descendía, un rectángulo violeta empezó a parpadear en la imagen de video que recibían los ingenieros que monitoreaban el experimento: el drone tenía en la mira a un hombre escondido en las sombras, demostración de las proezas de detección y cacería con que el Pentágono planea transformar la guerra para siempre.

En un hecho casi inadvertido fuera de los círculos militares, el Pentágono ha colocado la inteligencia artificial en el centro de su estrategia para mantener la preeminencia militar de Estados Unidos en el mundo. Está gastando miles de millones de dólares para desarrollar las así llamadas armas autónomas y semiautónomas, y para construir un arsenal de un tipo de armas que hasta ahora sólo existían en las películas de ciencia ficción, generando alarma entre la comunidad científica y entre los activistas preocupados por las derivaciones que podría tener una carrera de armas robot*.

El Departamento de Defensa norteamericano está diseñando aviones caza robotizados que podrían volar en combate junto a naves tripuladas por humanos. También ha hecho pruebas con misiles que pueden decidir qué atacar, y ha construido barcos que pueden cazar submarinos enemigos y perseguirlos miles de kilómetros sin ayuda de humanos.

Funcionarios de Defensa dicen que esas armas son necesarias para mantener la preeminencia de Estados Unidos sobre China, Rusia y otros rivales, que también están invirtiendo investigaciones similares, al igual que los aliados, como Gran Bretaña e Israel. El último presupuesto del Pentágono detalla US$ 18.000 millones para desarrollo del uso en tecnologías que incluyen esas necesarias armas autónomas.

"China y Rusia están desarrollando redes bélicas tan buenas como las nuestras. Pueden ver y lanzar proyectiles teleguiados tan lejos como nosotros", dice Robert O. Work, subsecretario de Defensa norteamericano.

Así como la Revolución Industrial impulsó la creación de maquinaria de guerra poderosa y destructiva, como aviones y tanques, que disminuyeron la necesidad y el rol de soldados individuales, la tecnología de inteligencia artificial ahora permite que el Pentágono reordene el rol de hombre y máquina en el campo de batalla.

Las nuevas armas ofrecerían velocidad y precisión que un humano no podría igualar, al tiempo que reducirían el número -y el costo- de soldados y pilotos expuestos a una eventual muerte. Para el Pentágono, el desafío es asegurar que las armas sean socias confiables de los humanos y no una amenaza potencial.

Pero afuera del Pentágono, sin embargo, cunde el escepticismo sobre los límites que quedarán en pie cuando se haya perfeccionado la tecnología necesaria para crear armas pensantes. El año pasado, en una carta abierta, cientos de científicos y expertos advirtieron que incluso del desarrollo de la más insignificante de las armas con inteligencia para matar podría desatar una carrera armamentística de escala global. El resultado, advertía la carta, serían robots totalmente independientes y capaces de matar, tan baratos y accesibles para las superpotencias como para los Estados díscolos o los extremistas.

Entre los militares, el debate ya no es si construir o no armas autónomas, sino acerca del grado de autonomía que se les debería dar. El general de aviación Paul J. Selva, vicejefe del estado mayor conjunto, dijo que Estados Unidos está a una década de distancia de contar con la tecnología para construir un robot totalmente independiente capaz de decidir por sí mismo a quién matar y cuándo, aunque dijo que el país no tiene intenciones de construirlo.

Los funcionarios norteamericanos recién están empezando a lidiar con las implicancias de armas que podrían operar solas, sin control de sus creadores. Dentro del Pentágono suelen referirse a ese dilema como el "enigma Terminator", y hay posiciones encontradas entre quienes creen que Estados Unidos debería sellar tratados internacionales para prohibir la fabricación de dichas armas o si debería construirlas antes que sus enemigos.

Fuera del Pentágono, los expertos no están convencidos de que Estados Unidos pueda mantener su predominio en la inteligencia artificial. La industria de la defensa ya no está a la cabeza, como en la Guerra Fría, y el Pentágono no tiene el monopolio de la tecnología de punta que sale de Silicon Valley, Asia y Europa.

Más allá de las preocupaciones de orden práctico, la combinación de una creciente capacidad de automatización con el desarrollo de armas ha intensificado la discusión entre los académicos del derecho y los expertos en ética. Las preguntas son muchas y las respuestas son controvertidas. ¿Puede confiársele a una máquina el poder de matar? ¿Quién es culpable si un robot ataca un hospital o una escuela?

Un funcionario del Pentágono dice que las armas autónomas deben estar dotadas de "niveles apropiados de juicio humano". Los científicos y expertos en derechos humanos dicen que ese estándar es demasiado amplio, y reclaman que dichas armas estén sujetas a "un control humano significativo".

¿Pero qué estándar se sostendría si Estados Unidos enfrentara un adversario de similar poderío militar que usara armas completamente autónomas? Peter Singer, especialista del centro New America, dice que existe una lección paralela en la historia de la guerra submarina.

Durante la Primera Guerra Mundial, Alemania usaba sus submarinos para hundir barcos civiles, sin preocuparse por la seguridad de su tripulación, una práctica que se conoció como guerra submarina irrestricta. Cuando la guerra terminó, Estados Unidos colaboró en la negociación de un tratado internacional para prohibir la guerra submarina irrestricta.

Después llegó el ataque japonés sobre Pearl Harbor. Ese día, Estados Unidos tardó seis horas en desentenderse de décadas de normas éticas y legales, y en ordenar una guerra submarina irrestricta contra Japón. Los submarinos norteamericanos avanzaron hasta devastar la flota mercante civil japonesa, una campaña que más tarde sería reconocida como equiparable a los crímenes de guerra.

"El tema es así: ¿qué pasa cuando los submarinos ya no son tecnología nueva y los que perdemos somos nosotros?", se pregunta Singer. "Entonces piensen en los robots y en todas las cosas que ahora decimos que no haríamos. ¿Y si esa guerra cambiara?"

En busca de la preeminencia militar

Presupuesto

El Pentágono planea invertir US$ 18.000 millones para desarrollar en los próximos tres años tecnologías que incluyen armas autónomas

Competidores

Además de Estados Unidos, en la carrera por el dominio de esa tecnología se encuentran Rusia, China, Gran Bretaña e Israel

Dilemas éticos

Las investigaciones intensificaron la discusión entre los expertos en ética

Ventajas

Las nuevas armas ofrecen velocidad y precisión inigualable para un humano; reducirían la exposición de soldados y pilotos

Desafío

El desafío es asegurar que las armas sean socias confiables de los humanos, y no una amenaza potencial

Traducción de Jaime Arrambide

John Markoff y M.Rosenberg

Por John Markoff

• Ciencia

---

Conforme a

Tiene explicación. Qué significa tener lagartijas en la casa

Según especialistas. Dormir mal enferma el corazón: el revelador hallazgo de Yale sobre el insomnio en 2026

“Lo que pasa en la Antártida tiene repercusiones en todo el planeta”. La bióloga marina que dedica su vida a contar sobre las ballenas del sur