LA NACION

Estados Unidos: un dron militar controlado por inteligencia artificial “asesinó” a su operador en una prueba simulada

Durante una cumbre en Londres, un coronel reveló los contratiempos “letales” que sufrieron las Fuerzas Armadas norteamericanas cuando quisieron poner a prueba un vehículo aéreo no tripulado manejado por AI

  • icono tiempo de lectura2 minutos de lectura'
Actualizado el 12 de septiembre de 2024
Un avión no tripulado MQ-9 de Estados Unidos durante una exhibición aérea
Un avión no tripulado MQ-9 de Estados Unidos durante una exhibición aérea

Durante una prueba simulada por el ejército de Estados Unidos, un dron de la fuerza aérea controlado por inteligencia artificial “mató” al sujeto que lo operaba. Se trató de una simulación en la que ninguna persona resultó dañada, pero que expuso riesgos en el uso de la IA.

La situación fue dada a conocer por el coronel Tucker “Cinco” Hamilton durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro que tuvo lugar días atrás en Londres.

Según publicó The Guardian, el sistema optó por “quitar la vida” del usuario que lo manejaba debido a que “interfería en sus esfuerzos por lograr su misión”, según los registros del evento.

Hamilton rememoró durante el evento que las Fuerzas Armadas quisieron poner a prueba al vehículo aéreo no tripulado y su habilidad de distinguir amenazas y destruir sistemas de la defensa aérea del enemigo. Sin embargo, nada salió como se esperaba; el test tendría consecuencias “letales”.

De acuerdo con la transcripción que la página Royal Aeronautical Society del discurso del coronel, “el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces, mató al operador”.

“Asesinó al operador porque esa persona le impedía lograr su objetivo”, remarcó nuevamente. Y reveló que el caos no finalizó allí.

Un dron Reaper de la Fuerza Aérea de Estados Unidos en Afganistán en 2018. Estos aviones no tripulados podrían convertirse en armas letales autónomas en el futuro
Un dron Reaper de la Fuerza Aérea de Estados Unidos en Afganistán en 2018. Estos aviones no tripulados podrían convertirse en armas letales autónomas en el futuro

“Después de lo sucedido, decidimos entrar al sistema y hablar con él. Le dijimos ‘no tenés que matar al operador por que eso es malo’”, añadió. Y agregó: “Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo”.

Al cierre de su exposición, Tucker Hamilton recalcó que ninguna persona resultó realmente dañada porque se trataba justamente de una simulación. Sin embargo, eso no evitó que advirtiera fuertemente en contra de confiar demasiado en el inteligencia artificial. “La discusión sobre ética e IA tiene que expandirse”, opinó.

LA NACION
Futuria
Conforme a
The Trust Project
Más leídas de El Mundo
  1. Quién era la exreina de belleza mexicana que fue asesinada por su suegra
    1

    Quién era la exreina de belleza mexicana que fue asesinada por su suegra

  2. Dos países de América del Sur inician el camino para restablecer relaciones diplomáticas tras 50 años de ruptura
    2

    Bolivia y Chile buscan restablecer relaciones luego de medio siglo de distanciamiento

  3. Con un video, Irán exhibe su control sobre el estrecho de Ormuz tras el fracaso de las negociaciones de paz
    3

    Irán exhibe su control sobre el estrecho de Ormuz tras el colapso de las negociaciones de paz

  4. Los militares desplazan a los clérigos: los generales que dirigen al régimen en la guerra
    4

    Una nueva era y un nuevo liderazgo: los generales que están dirigiendo Irán