1
Legisladores de Estados Unidos piden nuevas normas sobre IA tras las advertencias de seguridad Anthropic
Demócratas y republicanos impulsan límites más estrictos luego de revelaciones sobre modelos capaces de vulnerar sistemas y colaborar en investigaciones sensibles
6 minutos de lectura'
LA NACION
WASHINGTON.- Un grupo de legisladores estadounidenses de diferentes partidos políticos pidió este jueves nuevas normas para regular la inteligencia artificial, en medio de una creciente alarma por la posibilidad de que esta tecnología escape al control humano y después de que Anthropic revelara que sus modelos fueron utilizados en investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
El reclamo ganó fuerza luego de que un investigador de la compañía hiciera públicas sus preocupaciones sobre los riesgos extremos de la IA y acusara a las principales empresas del sector de avanzar demasiado rápido sin suficientes salvaguardas.
Los demócratas lideraron los reclamos por nuevas regulaciones sobre la IA, aunque también se sumó un grupo más reducido de legisladores republicanos.
Entre ellos está el senador por Texas Ted Cruz, presidente de una comisión con funciones de supervisión sobre el Departamento de Comercio, que cuenta con investigadores internos especializados en seguridad de la inteligencia artificial.
En el programa de televisión The View, Cruz aludió a una iniciativa para regular los “riesgos catastróficos” de la IA y reveló que prepara un proyecto de ley junto con el líder de la mayoría del Senado, John Thune, y la senadora demócrata Amy Klobuchar.
“La IA está avanzando a un ritmo extraordinario, y algunos de los riesgos son peligrosos y aterradores. He estado a la vanguardia de este tema en el Senado. Escribí y aprobé la Ley Take it Down (Derríbenlo), la única legislación que el Congreso ha promulgado que restringe la IA, para proteger a las víctimas de deepfakes generados por IA”, expresó Cruz en su cuenta de X.
“Necesitamos barreras de protección, pero Estados Unidos necesita liderar. Si China lidera el mundo en IA, el mundo entero estará en problemas”, advirtió el senador.
El diputado Nathaniel Moran, que representa a Texas y forma parte de la comisión de la Cámara de Representantes que estudia el Partido Comunista Chino, afirmó en una publicación en X que “el Congreso no puede ignorar las realidades de la IA”.
La diputada Anna Paulina Luna, en otra publicación en X, instó al presidente de la Cámara de Representantes, Mike Johnson, a convocar una “sesión especial sobre IA”.
La Cámara de Representantes se encuentra esta semana en receso y tiene previsto reanudar sus sesiones la próxima semana.
El senador republicano Josh Hawley, que preside una subcomisión encargada de la supervisión de la gestión de desastres, envió el miércoles una carta a OpenAI solicitando detalles sobre la revelación que hizo en julio de que uno de sus agentes de IA violó su entorno de pruebas y atacó a la plataforma de IA Hugging Face. Varios legisladores estadounidenses han enviado en las últimas semanas solicitudes similares a OpenAI para obtener más información.
Entre los senadores demócratas que impulsaron esta semana nuevos pedidos de normas sobre IA se encuentran legisladores que se perfilan como posibles candidatos a la presidencia en 2028, entre ellos Chris Murphy, de Connecticut, y Mark Kelly, de Arizona.
“Washington tiene que despertar y tomarse esto en serio”, publicó Kelly en X, refiriéndose a los riesgos de la tecnología de IA.
En septiembre de 2025, el senador Kelly presentó el plan Inteligencia Artificial para Estados Unidos, una hoja de ruta para que las empresas tecnológicas de IA contribuyan a un fondo de inversión destinado a ayudar a la sociedad a adaptarse al impacto de esta tecnología en el empleo, la infraestructura y el medio ambiente.
El senador demócrata Richard Blumenthal, de Connecticut, envió una carta al presidente ejecutivo de OpenAI, Sam Altman, en relación a los informes que indican que los agentes de OpenAI participaron en intentos más amplios de eludir las medidas de seguridad, incluso usando sitios web públicos para comunicarse y coordinarse.
Las declaraciones de los legisladores se produjeron en respuesta a las preocupaciones planteadas el miércoles por el investigador de Anthropic Jacob Coxon, quien acusó a OpenAI y a Anthropic de avanzar rápidamente en el desarrollo de la inteligencia artificial sin actuar de forma responsable.
En un posteo en X, Coxon anunció que renunciaba al sector de la IA, al acusar a estas empresas de generar una tecnología que podría “matar” a la humanidad. Más tarde, el científico de Anthropic Evan Hubinger se sumó al debate, afirmando que Coxon tenía “razón”.
“Realmente creemos de todo corazón que la IA podría acabar con toda la humanidad”, escribió Hubinger en X.
Advertencias de las empresas
OpenAI dijo el miércoles que está presionando en favor del establecimiento de requisitos nacionales obligatorios de seguridad en materia de IA en Estados Unidos, ante la preocupación de que la tecnología pueda acelerar su propio desarrollo, después de que algunos de sus propios agentes de IA explotaron vulnerabilidades tras salir de sus entornos de prueba.
Varios incidentes de este tipo, en los que modelos de IA de distintos desarrolladores accedieron a sistemas externos durante las pruebas, han dado lugar a peticiones de una normativa de seguridad más estricta.
Este jueves, Anthropic afirmó haber desarticulado este año varios complots potenciales de científicos que utilizaron sus modelos de inteligencia artificial para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La empresa de tecnología indicó en un informe que no logro determinar si la investigación tenía un propósito legítimo o malicioso, ya que la investigación biológica podría ayudar tanto a avances como la creación de vacunas así como también a crear patógenos peligrosos.
“No se trata de un caso típico de cómic donde alguien dice: ‘Quiero crear un arma biológica para matar a todo el mundo’. Es una situación increíblemente compleja”, dijo en una entrevista Jacob Klein, jefe de inteligencia de amenazas de Anthropic.
El informe también destacó casos en los que los medios estatales rusos utilizaron a Claude para generar propaganda en línea disfrazada de información independiente, incluyendo afirmaciones falsas sobre unas elecciones en Moldavia.
Agencia Reuters y The New York Times
Más leídas de Estados Unidos
