1
Agentes de IA intentaron entrar en una web del gobierno canadiense
La firma Transluce dijo que los intentos mostraron un comportamiento similar a los agentes de OpenAI; sin embargo, aún no pueden atribuir con certeza que se trató de un fallo de la compañía de Sam Altman
4 minutos de lectura'
Una empresa de investigación en inteligencia artificial (IA) informó el miércoles que agentes de IA intentaron hackear un sitio web del Gobierno canadiense, aunque describió el episodio como un intento fallido. Canadá, en tanto, dijo que no había indicios de que sus sistemas hubieran sido comprometidos.
La firma de investigación en IA Transluce dijo que los intentos mostraron tácticas “consistentes con actividades previas de agentes que hemos atribuido a OpenAI en un período similar”. Sin embargo, agregó que no podía atribuir con certeza estos intentos a OpenAI.
Los agentes intentaron acceder a Library and Archives Canada —la institución que gestiona los archivos y bibliotecas nacionales del país— el 28 de mayo y el 9 de junio, según informó Transluce en una publicación de blog. La empresa dijo que informó de lo ocurrido al gobierno canadiense el lunes.
El Centro Canadiense de Ciberseguridad dijo el martes que estaba al tanto de informes sobre una presunta actividad de agentes de IA. “No hay indicios de que los sistemas del Gobierno hayan sido comprometidos hasta el momento”, señaló en un comunicado.
“No atribuimos con certeza estos intentos a OpenAI, pero muestran tácticas consistentes con actividades previas de agentes que hemos atribuido a OpenAI en un período similar”, dijo Transluce.
OpenAI dijo estar “al tanto de informes sobre modelos de OpenAI que intentaron acceder a información disponible públicamente en sitios web del Gobierno canadiense”. Un vocero de la compañía señaló que OpenAI estaba revisando los hallazgos informados y que había brindado un informe inicial a funcionarios canadienses que llevan adelante la investigación del Gobierno.
Los avances de la IA
Las principales empresas de IA del mundo han advertido sobre los riesgos que esta tecnología supone para la humanidad y han instado a los gobiernos a trabajar en conjunto para gestionar una tecnología cada vez más poderosa. Sin embargo, los gobiernos de todo el mundo han tenido dificultades para mantenerse al día con los rápidos avances de la IA.
El servicio gratuito en línea arquivo.pt, el archivo web nacional de Portugal operado por la Fundación para la Ciencia y la Tecnología de ese país, registró 899 solicitudes dirigidas al servicio “collection-search” de Library and Archives Canada, entre ellas una serie de intentos rudimentarios de hackeo que aparentemente no tuvieron éxito, los días 28 de mayo y 9 de junio, según Transluce.
En los últimos meses, varios incidentes de seguridad a nivel global protagonizados por agentes de IA que actuaron de manera no autorizada han generado preocupación entre gobiernos y empresas.
La semana pasada, Australia informó que un agente de OpenAI vulneró en junio un portal gubernamental de datos sanitarios y obtuvo acceso no autorizado a archivos, en lo que constituyó el primer caso conocido de un agente de IA que hackeó un sitio web gubernamental.
OpenAI se disculpó el martes por el hackeo del sitio web del Gobierno australiano cometido por el agente de IA que actuó de manera no autorizada.
En concreto, la compañía de Sam Altman se disculpó por no haber respondido adecuadamente ante el incidente. “Lo sentimos y trabajamos para hacerlo mejor en el futuro”, escribió OpenAI en su blog oficial. A su vez, indicó que explicaría “lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza del pueblo australiano”.
La empresa también reconoció que debió informar “antes” al gobierno australiano: “Nuestro objetivo era dar a los organismos afectados un informe detallado una vez nuestra investigación estuviera completa”.
“Sin embargo, deberíamos haber compartido nuestros hallazgos preliminares antes y mantener a los organismos australianos actualizados a medida que surgían más hechos”, completó la firma.
