Usa IA para hacerse pasar por Rubio y contactar a funcionarios extranjeros

WASHINGTON (AP) — El Departamento de Estado está advirtiendo a los diplomáticos de Estados Unidos sobre intentos de hacerse pasar por el secretario de Estado Marco Rubio y posiblemente otros funcionarios utilizando tecnología impulsada por inteligencia artificial, según dos altos funcionarios y un cable enviado la semana pasada a todas las embajadas y consulados.

La advertencia surgió después de que el departamento descubriera que un impostor había intentado contactar al menos a tres ministros de relaciones exteriores, un senador estadounidense y un gobernador, haciéndose pasar por Rubio, según el cable del 3 de julio, que fue reportado por primera vez por The Washington Post.

Los destinatarios de los mensajes fraudulentos, que fueron enviados por texto, Signal y correo de voz, no fueron identificados en el cable, una copia del cual fue compartida con The Associated Press.

"El Departamento de Estado está al tanto de este incidente y actualmente está investigando el asunto", se indicó. "El departamento se toma en serio su responsabilidad de proteger su información y continuamente toma medidas para mejorar su ciberseguridad para prevenir futuros incidentes".

Se negó a comentar más debido a "razones de seguridad" y la investigación en curso.

Es apenas el caso más reciente de alguien tratando de hacerse pasar por una figura de alto nivel de la administración Trump. Ocurrió un incidente similar en mayo que involucraba a la jefa de gabinete del presidente Donald Trump, Susie Wiles. Es probable que el uso indebido de la IA para engañar a las personas crezca a medida que la tecnología mejore y se vuelva más ampliamente disponible, y el FBI advirtió esta primavera pasada sobre "actores maliciosos" que se hacen pasar por altos funcionarios del gobierno en una campaña de mensajes de texto y voz.

Las farsas que involucraban a Rubio fracasaron y "no eran muy sofisticadas", indicó uno de los funcionarios. No obstante, el segundo funcionario dijo que el departamento consideró "prudente" aconsejar a todos los empleados y gobiernos extranjeros, particularmente a medida que aumentan los esfuerzos de actores extranjeros para comprometer la seguridad de la información.

Los funcionarios no estaban autorizados a discutir el asunto públicamente y hablaron bajo condición de anonimato.

"No hay una amenaza cibernética directa para el departamento por esta campaña, pero la información compartida con un tercero podría ser expuesta si los individuos son comprometidos", dice el cable.

El FBI ha advertido en un anuncio de servicio público sobre una campaña "maliciosa" que se basa en mensajes de texto y mensajes de voz generados por IA que pretenden provenir de un alto funcionario y que tienen como objetivo engañar a otros funcionarios del gobierno, así como a los asociados y contactos de la víctima.

No es la primera vez que Rubio es suplantado en un deepfake.

Esta primavera, alguien creó un video falso de él diciendo que quería cortar el acceso de Ucrania al servicio de internet Starlink de Elon Musk. El gobierno de Ucrania posteriormente refutó la afirmación falsa.

Se han propuesto varias soluciones potenciales para el creciente uso indebido de la IA para el engaño, incluidas sanciones penales y campañas educativas. Las preocupaciones sobre los deepfakes también han llevado a una avalancha de nuevas aplicaciones y sistemas de IA diseñados para detectar falsificaciones que podrían engañar fácilmente a un humano.

Las empresas tecnológicas que trabajan en estos sistemas ahora están en competencia contra aquellos que usarían la IA para engañar, según Siwei Lyu, profesor y científico informático de la Universidad de Buffalo. Reveló que ha visto un aumento en el número de deepfakes que retratan a celebridades, políticos y líderes empresariales a medida que la tecnología mejora.

Hace solo unos años, las falsificaciones contenían fallas fáciles de detectar, como voces inhumanas o errores como dedos extra, pero ahora la IA es tan buena que es mucho más difícil para un humano detectarlo, dando a los creadores de deepfakes una ventaja.

"El nivel de realismo y calidad está aumentando", señaló Lyu. "Es una carrera armamentista, y en este momento los generadores están tomando la delantera".

La farsa de Rubio se produce después de que mensajes de texto y llamadas telefónicas llegaran a funcionarios electos, ejecutivos de negocios y otras figuras prominentes de alguien que parecía haber accedido a los contactos en el teléfono celular personal de Wiles, informó The Wall Street Journal en mayo.

Algunos de los que recibieron llamadas escucharon una voz que sonaba como Wiles, que podría haber sido generada por IA, según el periódico. Los mensajes y llamadas no provenían del número de Wiles, según el informe. El gobierno está investigando.

________________________

Los corresponsales David Klepper y Eric Tucker contribuyeron con este despacho.

________________________

Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.

Para devorarse. Está en Netflix, es un tanque y lidera el Top 10 mundial con una historia de desastre extremo

Balance y reconversión. El metaverso, cuatro años después: ¿un proyecto acabado o solo en punto muerto?

Selección de la IA. Cuál es la mejor playa de la Argentina