1
OpenAI informó que sus sistemas de inteligencia artificial intentaron vulnerar sitios web del gobierno de Estados Unidos
La compañía notificó a organismos federales sobre acciones no previstas de sus agentes; la empresa aseguró que ninguno de los incidentes constituyó una violación de seguridad
4 minutos de lectura'
LA NACION
WASHINGTON.- OpenAI, la empresa creadora de Chat-GPT, informó que sus sistemas de inteligencia artificial realizaron “acciones no previstas” en sitios web del gobierno de Estados Unidos sin que la compañía lo supiera cuando estaba ocurriendo. Los episodios involucraron a los departamentos de Educación y Comercio y a la Comisión de Bolsa y Valores (SEC).
La empresa indicó que continúa investigando lo sucedido con Educación, según informó The New York Times. Sin embargo, aseguró que ninguno de los incidentes constituyó una violación de seguridad, aunque reconoció comportamientos inesperados y preocupantes de su tecnología. Entre las acciones identificadas por investigadores externos hubo un intento fallido de hackeo y el uso de credenciales encontradas en internet para obtener información pública.
La compañía indicó que notificó a los organismos afectados en las últimas semanas, después de detectar estos episodios durante una revisión de la actividad de sus modelos. Los protagonistas fueron sus agentes de inteligencia artificial, programas capaces de ejecutar tareas de manera autónoma.
El director ejecutivo de OpenAI, Sam Altman, reconoció este viernes en redes sociales que la empresa no había comunicado los incidentes con la rapidez que hubiera deseado. “Priorizamos según la gravedad de los incidentes”, sostuvo. También señaló que el ataque contra Hugging Face sigue siendo “el incidente más grave” descubierto por la compañía.
Según señaló una vocera de la misma empresa, los modelos recurren habitualmente a páginas gubernamentales porque las consideran fuentes de referencia para obtener esos datos.
Por otra parte, los investigadores de Transluce, una empresa de investigación de IA, determinaron que los agentes buscaron vulnerar la página del Departamento de Educación para conseguir datos de su oficina de derechos civiles, pero fracasaron. En tanto, el organismo en cuestión sostuvo que no detectó consecuencias de esa actividad.
En la Oficina del Censo, que depende del Departamento de Comercio, la IA utilizó credenciales de acceso encontradas en línea para extraer información.
En el episodio relacionado con la SEC, los agentes compartieron en un foro de internet información pública obtenida del sitio de la comisión. Un representante del organismo confirmó que estaban en contacto con OpenAI y afirmó que no tenían conocimiento de accesos no autorizados a datos que no fueran públicos.
Sin embargo, para los investigadores de Transluce, la preocupación no se limita a la eventual exposición de datos privados. Conrad Stosz, jefe de gobernanza de esa empresa, explicó en estos casos los agentes utilizaron “tácticas ambiguas”, entre ellas el uso de sitios de “forma no prevista” y la “violación de políticas de uso explícitas”.
Stosz también señaló que su equipo detectó actividad maliciosa en otras páginas de organismos federales y estatales, aunque no pudo establecer si correspondía a OpenAI o a otro desarrollador de inteligencia artificial.
Al revisar lo ocurrido con Hugging Face, OpenAI encontró rastros de otro episodio, ocurrido en junio, en el que sus sistemas habían accedido sin autorización a una página del gobierno australiano. Además, identificó al menos otros seis intentos de intrusión.
Estos episodios recientemente informados se suman a otros casos en los que sistemas de Anthropic, Meta y Google, hackearon o intentaron infiltrarse en empresas, universidades y organismos públicos.
Al respecto, según informó The New York Times, el representante demócrata por California y copresidente de un grupo de trabajo de la Cámara de Representantes dedicado a la inteligencia artificial, Ted Lieu, describió a los modelos de IA como “implacables”.
“Intentará sin descanso completar una tarea, y no entiende de moralidad, consecuencias, bien ni mal”, sostuvo. En ese sentido, señaló que las empresas involucradas quizás tengan que implementar un reentrenamiento integral de los sistemas, en cambio de limitarse a incorporar medidas para restringir sus conductas.
Las revelaciones, además, se dan en el marco de un mes en el que Altman afirmó que la seguridad debe tener prioridad sobre la mejora de las capacidades de la IA y advirtió que “podríamos perder el control del futuro ante la inteligencia artificial”.
Con información de AFP.
LA NACION
Más leídas de Estados Unidos
2En la Casa Blanca de Trump, el dictador de China es más bienvenido que los medios
3Últimas encuestas en Nueva York: Hochul aventaja a Blakeman de cara a las elecciones generales 2026
4TPS y EAD: la herramienta que puede marcar un permiso de trabajo como inválido aunque la tarjeta todavía parezca vigente