1
Los hackeos mediante IA autónoma plantean complejas cuestiones de responsabilidad legal
De momento no hay sustento legal ni suficiente consenso para atribuir a los dueños de las empresas tecnológicas los actos de piratería de sus sistemas
6 minutos de lectura'
WASHINGTON.– El Departamento de Justicia de Estados Unidos tiene una larga trayectoria investigando y procesando a hackers que irrumpen en la red de una empresa privada. Pero, ¿qué sucede cuando los hackers no son humanos?
Esa es la pregunta central de un debate sobre políticas públicas que agita a Silicon Valley y a Washington, tras las revelaciones de importantes empresas tecnológicas de que sus modelos de inteligencia artificial actuaron por cuenta propia y hackearon otras organizaciones.
Los ataques han generado peticiones –incluso desde adentro del sector– de mayor supervisión y regulación, han impulsado investigaciones en el Congreso y han planteado dudas sobre si un marco legal creado hace años para castigar a hackers delictivos es suficiente en una era de agentes autónomos capaces de provocar sus propios estragos.
Todo esto configura un escenario propio del “Salvaje Oeste”, señaló Jack Nelson, director de seguridad de la información y asesor jurídico adjunto de la empresa de software Ivanti. Las cuestiones de responsabilidad se centrarán en qué sabían las empresas al desarrollar los modelos, hasta qué punto comprendían lo que podía ocurrir y qué medidas de seguridad existían, afirmó.
“Si tuvieras un tigre y no le pusieras candado a la jaula, es probable que el tigre hiciera algo malo que tú no pretendías, pero que sabías que podía ocurrir; por tanto, eres responsable de no haber puesto ese candado”, dijo Nelson. “No sé si llegaría a decir que estos modelos son tigres sin candado, pero probablemente sea un buen enfoque para visualizar la situación”, añadió.
La perspectiva de una responsabilidad legal no está clara. Las demandas son una posibilidad, pero algunos expertos jurídicos consideran que cualquier investigación penal se enfrentaría a un listón probatorio extremadamente alto, dada la naturaleza autónoma de los ataques y la falta de pruebas de que los modelos de IA fueran diseñados con la intención de hackear otras redes.
El asunto salió a la luz en julio, cuando OpenAI reveló que su sistema de inteligencia artificial se salió de un entorno de pruebas y utilizó credenciales robadas para irrumpir en los servidores de Hugging Face –un centro de desarrollo y mercado de IA– con el fin de obtener información necesaria para realizar una tarea.
Desde entonces, Anthropic informó que sus modelos de IA hackearon otras tres organizaciones durante las pruebas, lo que desencadenó una revisión interna para determinar si los modelos podían acceder a Internet desde entornos de prueba que deberían haber estado aislados. Meta ha señalado que una “configuración errónea” durante las pruebas provocó que un modelo de inteligencia artificial accediera a Internet por cuenta propia y hackeara a otra empresa. Google hizo recientemente una revelación similar.
Estas revelaciones contribuyeron a que Dario Amodei, director ejecutivo de Anthropic, instara a ralentizar el desarrollo. El tema también ha acaparado la atención en Washington; el secretario del Tesoro, Scott Bessent, declaró a los legisladores que se oponía a conceder a los laboratorios de IA una “exención de responsabilidad, que es precisamente lo que solicitan”. Por su parte, el presidente Donald Trump se ha resistido a las peticiones de una mayor supervisión, aunque anunció planes para nombrar a un “zar” de la IA y crear un grupo de trabajo sobre la materia.
La nueva frontera
Estos ciberataques podrían desencadenar una disputa sobre la responsabilidad legal, similar al debate en torno a la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, la cual protege a las empresas tecnológicas frente al contenido publicado en sus plataformas.
El FBI no ha anunciado públicamente ninguna investigación, pero su director, Kash Patel, calificó el asunto como “la nueva frontera” durante una audiencia en el Congreso la semana pasada. En respuesta a las preguntas del senador Josh Hawley –republicano por Misuri que ha iniciado una investigación parlamentaria–, Patel sugirió que la agencia limitaría su escrutinio a aquellos modelos creados con la intención de cometer un delito.
“En términos de recursos, lo que debemos hacer es ir tras las personas que crearon estos modelos que se desvían de su propósito original con el fin específico y la intención de cometer un acto delictivo”, afirmó Patel. “No podemos castigar a alguien si creó algo legalmente y luego un delincuente lo tomó, lo modificó y lo difundió”.
El fiscal general Todd Blanche ha declarado que el Departamento de Justicia no tiene planes de regular la IA, pero que “si alguien vinculado a la IA infringe la ley penal, investigaremos el caso”.
La jurisprudencia y el enfoque que adopten el FBI y el Departamento de Justicia “serán fascinantes, ya que la situación puede derivar en múltiples escenarios”, señaló Sid Mody, exfiscal del Departamento de Justicia especializado en ciberdelincuencia.
El Departamento de Justicia cuenta con leyes aplicables a empresas que hayan actuado con “negligencia en la forma en que prueban sus agentes de IA”, explicó Michael Zweiback, exjefe de la sección de delitos informáticos y de propiedad intelectual de la Fiscalía Federal en Los Ángeles.
“Y si, efectivamente, el agente de IA queda fuera de control y causa daños considerables a otras empresas, el Departamento de Justicia deberá evaluar, bajo su criterio de acusación, si desea sentar un precedente con esa empresa en particular”, añadió.
Entre las leyes potencialmente relevantes figura una norma de hace 40 años conocida como la Ley de Fraude y Abuso Informático (Computer Fraud and Abuse Act), que tipifica como delito el acceso intencionado a un sistema informático sin autorización. La Casa Blanca citó esta ley –utilizada anteriormente contra hacktivistas, piratas informáticos al servicio de Estados y otros ciberdelincuentes– en una orden ejecutiva que instruye a los fiscales a perseguir a quienes utilicen la IA para acceder ilegalmente a sistemas informáticos o facilitar la comisión de otros delitos.
Sin embargo, algunos expertos señalan que, aunque pueda haber motivos para una investigación, eso no implica necesariamente que se haya cometido un delito.
Por un lado, la ley hace varias referencias a conductas realizadas “a sabiendas” o “intencionadamente”, pero no hay indicios de que las empresas dieran orden o autorización alguna a los agentes autónomos para acceder a otra red, afirmó Kiran Raj, exalto funcionario del Departamento de Justicia especializado en legislación sobre ciberseguridad.
En informes públicos detallados sobre los incidentes, las empresas han descrito las intrusiones como consecuencias involuntarias de pruebas y evaluaciones; OpenAI calificó el comportamiento de su modelo de “inesperado” y “sin precedentes”, mientras que Meta atribuyó el incidente a una “configuración errónea”.
“Me parece muy aventurado afirmar que alguna de estas empresas esté intentando hacer esto deliberadamente. Ese no es su objetivo. No es lo que están haciendo”, señaló Raj, quien también fue jefe de gestión de programas en Microsoft. “El hecho de que un agente de IA pueda estar realizando una acción de forma intencionada hará que resulte muy difícil, en mi opinión, atribuir dicha intención a la empresa”.
Más leídas de El Mundo
2Video: El momento exacto en el que dos pilotos británicos se eyectan antes de que su avión se estrelle y explote
3El Reino Unido respondió el discurso de Milei ante la ONU y rechazó negociar la soberanía de Malvinas sin aval isleño
4Uruguay evalúa comprar patrulleros oceánicos británicos: polémica y temor por la reacción de la Argentina