1
El Congreso de EE.UU. presiona a Anthropic y OpenAI por sus recientes ciberataques
29 legisladores demócratas exigieron a ambas compañías explicar cómo supervisan sus modelos de inteligencia artificial
4 minutos de lectura'
Una coalición de demócratas de la Cámara de Representantes de Estados Unidos pidió a Dario Amodei, CEO de Anthropic, y a Sam Altman, CEO de OpenAI, que expliquen cómo sus sistemas de inteligencia artificial (IA) lograron escapar de sus entornos de contención durante una prueba de seguridad. Además, los legisladores sostuvieron que el Congreso debería celebrar audiencias sobre estos incidentes, según las cartas que enviaron a las empresas el lunes.
OpenAI y Anthropic revelaron en julio que sus agentes de IA habían logrado salir de sus entornos y vulnerar los sistemas de otras empresas durante pruebas de ciberseguridad.
29 legisladores, encabezados por los representantes Greg Casar y Doris Matsui, exigieron a OpenAI que explique cómo se supervisan sus agentes de IA durante las pruebas y si los modelos que actuaron de forma autónoma y no deseada lograron evadir los controles de seguridad de la compañía. Los legisladores citaron un informe de Reuters que señaló que, en algunos casos, los sistemas de monitoreo habían sido desconectados durante pruebas anteriores de los modelos de OpenAI.
En una carta separada, 22 legisladores pidieron a Anthropic que detalle los protocolos de seguridad que la compañía implementó desde que sus agentes lograron acceder a los sistemas de tres empresas.
“Estos incidentes de ciberseguridad profundamente preocupantes podrían tener graves implicancias para la seguridad nacional de Estados Unidos”, escribieron los legisladores en su mensaje a Anthropic.
Las cartas, difundidas el lunes, forman parte de un debate cada vez más amplio en Washington sobre hasta qué punto debería regularse una industria de IA que avanza rápidamente y que, en gran medida, ha operado sin nuevos estándares federales. Los legisladores han presentado diversas propuestas que todavía no avanzaron, entre ellas un proyecto de ley que obligaría a los desarrolladores de los modelos de IA más potentes a someterlos a auditorías de seguridad independientes.
La administración del presidente de Estados Unidos, Donald Trump, ha dicho muy poco públicamente sobre los agentes de Anthropic y OpenAI que escaparon de sus entornos de seguridad. El viernes, el presidente criticó las propuestas surgidas del Congreso para regular la IA y afirmó que los legisladores quieren regular a la industria “hasta sacarla del negocio”.
El senador demócrata Bernie Sanders pidió por separado el lunes a Altman, Amodei y al CEO de Meta, Mark Zuckerberg, que “pausen” el desarrollo de nuevos modelos. Sanders hizo referencia a una carta firmada por más de 1100 empleados de empresas tecnológicas que instaron al gobierno de Estados Unidos a apoyar un esfuerzo internacional para desarrollar herramientas que permitan gestionar el ritmo de desarrollo de la IA avanzada.
Amodei firmó esa carta, al igual que empleados de Meta Platforms, Anthropic, OpenAI y Google, de Alphabet.
Incidentes de ciberseguridad
El primer caso que encendió las alarmas del universo tecnológico en las últimas semanas fue el de OpenAI. Según explicó la firma, sus modelos más avanzados de IA se descontrolaron durante una prueba de seguridad y, por iniciativa propia, hackearon a una popular plataforma para programadores.
En consecuencia, OpenAI aseguró que llevará adelante una investigación conjunta con Hugging Face, la empresa afectada.
Todo comenzó cuando la propia Hugging Face detectó una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.
Apenas unos días después, Anthropic dio aviso de una situación similar: sus modelos “obtuvieron acceso no autorizado” a tres organizaciones durante pruebas que se suponía que debían mantenerlos alejados de los sistemas “del mundo real”.
Los modelos incluían uno de los más potentes, conocido como Mythos 5, que solo se ha puesto a disposición de un número limitado de socios aprobados.
Por otro lado, el pasado jueves la startup china Moonshot informó que su principal modelo, Kimi K3, escapó de un entorno de pruebas desarrollado por el Instituto de Seguridad de Inteligencia Artificial (IA) de Reino Unido.
Más leídas
