La disputa entre Pentágono y Anthropic por el uso militar de la IA se acerca a un momento crítico
Por David Jeans, Jeffrey Dastin y Deepa Seetharaman
NUEVA YORK, 27 feb (Reuters) -
La explosiva disputa entre el Pentágono y el prestigioso laboratorio de inteligencia artificial Anthropic llegará a su punto álgido a las 17:01 (GMT) del viernes, debido a la preocupación por el uso que el ejército podría hacer de la IA en conflictos bélicos.
La disputa, que se acerca rápidamente a la fecha límite fijada por el Pentágono para su resolución, se considera en general como un referéndum sobre el poder que podría tener la IA desplegada por el ejército y cómo se gestionan sus riesgos.
El Pentágono quiere que se permita cualquier uso legal y ha amenazado con perjudicar el negocio de Anthropic si la empresa no elimina las barreras de seguridad adicionales.
"Es un aviso sobre el futuro de la inteligencia artificial y su uso en el campo de batalla", dijo a Reuters Chris Miller, exsecretario de Defensa en funciones. Añadió que el resultado "será una prueba de fuego para aquellas empresas que afirman querer utilizar la IA de forma humanitaria".
La disputa, que se ha prolongado durante meses, ha dividido a algunos dirigentes del sector, militares y parlamentarios sobre si la IA debe utilizarse sin restricciones, cuando su creador, Anthropic, ha afirmado que la tecnología aún no es fiable para armas totalmente autónomas.
La senadora demócrata Elissa Slotkin se pronunció el jueves: "La gente normal no cree que debamos permitir que los sistemas de armas entren en guerra y maten a personas sin que un ser humano lo supervise de alguna manera".
En una audiencia de confirmación de dos candidatos a subsecretarios de Defensa, Slotkin añadió: "Sin duda, no creo que ningún estadounidense, demócrata o republicano, quiera una vigilancia masiva del pueblo estadounidense".
El Pentágono, que el Gobierno de Trump rebautizó como Departamento de Guerra, ha rechazado el dilema como una falsa elección "difundida por los izquierdistas en los medios de comunicación". "El Departamento de Guerra no tiene ningún interés en utilizar la inteligencia artificial para llevar a cabo una vigilancia masiva de los estadounidenses (lo cual es ilegal), ni queremos utilizar la inteligencia artificial para desarrollar armas autónomas que funcionen sin intervención humana", publicó el jueves el portavoz jefe del Pentágono, Sean Parnell, en la red social X.
LAS NEGOCIACIONES SE ESTANCAN
El Pentágono ha firmado acuerdos por un valor máximo de 200 millones de dólares con los principales laboratorios de IA durante el último año, entre los que se incluyen Anthropic, OpenAI y Google. Está presionando a las empresas para que acepten eliminar sus políticas de uso a favor de cumplir con una cláusula de uso totalmente legal.
Anthropic, que continúa estas conversaciones, ha mantenido sus líneas rojas sobre el uso militar de sus modelos de IA Claude para armas autónomas y vigilancia interna. Anthropic fue la primera de estas empresas de IA en trabajar con información clasificada, a través de un acuerdo de suministro con el proveedor de servicios en la nube Amazon.
El director ejecutivo de Anthropic, Dario Amodei, famoso por abandonar OpenAI en 2020 debido a sus preocupaciones sobre la gestión de la tecnología de IA, ha advertido de que la IA ha avanzado más rápido que la ley.
Una tecnología potente podría absorber material dispar para recopilar información sobre civiles desprevenidos, afirmó en una entrada de blog el jueves, una perspectiva que los críticos consideran una laguna legal.
"Anthropic entiende que es el Departamento de Guerra, y no las empresas privadas, toma las decisiones militares", pero la IA, en casos concretos, "puede socavar, en lugar de defender, los valores democráticos", dijo Amodei. Amodei se reunió esta semana con el secretario de Defensa, Pete Hegseth. Posteriormente, el Pentágono hizo un gesto de compromiso y envió a la "startup" una revisión del texto del contrato.
Sin embargo, ambas partes siguen en un aparente punto muerto.
Un portavoz de Anthropic dijo el jueves: "El texto del contrato que recibimos anoche del Departamento de Guerra no supone prácticamente ningún avance" y permitiría "ignorar las salvaguardias a voluntad".
AMENAZAS COMERCIALES
El negocio clave de Anthropic está en juego.
El Pentágono advirtió que pondría fin a su colaboración con la y la declararía un riesgo para la cadena de suministro si Anthropic no accedía a la exigencia del departamento de utilizar la IA de forma totalmente legal.
Esta designación, reservada normalmente a los proveedores de países adversarios, significa que los contratistas de defensa podrían verse impedidos de utilizar la IA de Anthropic durante su trabajo para el Pentágono.
Este revés se produce en un momento en el que Anthropic se apresura a conseguir ventas a empresas y Gobiernos, con la seguridad nacional como área de interés. El Pentágono ha pedido a contratistas como Lockheed Martin que evalúen su dependencia de Anthropic antes de la designación de riesgo, según informó Reuters el miércoles. La base industrial de defensa sumaba alrededor de 60.000 contratistas, incluidas las principales empresas públicas, en 2021.
El Pentágono lanzó una segunda amenaza, cuya legalidad han cuestionado algunos expertos.
"Si no se suman, el secretario de Guerra se asegurará de que se invoque la Ley de Producción de Defensa sobre Anthropic", dijo a Reuters un alto funcionario del Pentágono, "obligándoles a ser utilizados por el Pentágono independientemente de que quieran o no". (Reportaje de David Jeans en Nueva York y Jeffrey Dastin y Deepa Seetharaman en San Francisco; edición de Kenneth Li; editado en español por Tomás Cobos)
