1
¿Se puede “apagar” una inteligencia artificial desbocada?
Los expertos debaten sobre la posibilidad de usar un interruptor de emergencia frente a una IA fuera de control
4 minutos de lectura'
¿Es posible detener una inteligencia artificial? Técnicamente, una IA puede interrumpirse mientras esté en un entorno controlado; pero cuanto más actúa de forma autónoma en varios sistemas, más complejo es el bloqueo, advierten los expertos.
La pregunta parece cada vez más pertinente teniendo en cuenta que se multiplican los incidentes de seguridad relacionados con la IA y aumentan los temores sobre los peligros de esta tecnología.
¿Existe un “interruptor de emergencia”?
“En el ámbito de la ciberseguridad vinculada con la IA”, un interruptor de apagado de emergencia o “kill switch” en inglés, designa “la capacidad de interrumpir la ejecución de la acción de un agente de IA” —un programa construido sobre un modelo de IA generativa capaz de encadenar por sí solo una serie de tareas—, explica Nicolas Papernot, profesor en la Universidad de Toronto y especialista en seguridad informática e IA.
Este mecanismo tendría que poder activarse si una IA se escapa de todo control y presenta un riesgo para la seguridad. Una IA sigue siendo un “programa informático”, señala el investigador. “La persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución”, añade.
La situación se complica cuando se autoriza al programa a actuar más allá de su entorno inicial. Según Papernot, esto puede pasar si un “gusano informático” (programa malicioso) controlado por la IA se propaga utilizando los recursos de otros aparatos para duplicarse. “En ese caso, habría que interrumpir simultáneamente todas las copias generadas por el gusano, aparato por aparato”, explica.
Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, la cuestión sobre el “kill switch” puede alimentar la idea de “un riesgo metafísico” con una IA que tendría una voluntad propia. Pero para él, el peligro más concreto es nuestra creciente dependencia de estos sistemas.
Para Thierry Poibeau, director de investigación en el Cnrs y especialista en IA, la imagen de un único botón que permita “apagar la IA” es engañosa. “No se puede realmente cortar la IA así como así, hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos”, afirma. “No hay nadie que controle la IA” en su conjunto.
En cambio, sí es técnicamente posible detener un sistema concreto cuando se controlan las máquinas y los servicios de los que depende.
Tres niveles de complejidad
En un artículo publicado en LinkedIn, Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur de Canberra, presenta tres niveles de complejidad.
En el primero, el sistema permanece en el entorno controlado por su operador: la puesta en marcha de un dispositivo de parada de emergencia es “en teoría y en la práctica realizable”.
En el segundo nivel, el agente dispone de permisos para intervenir en otros programas, archivos o máquinas: se vuelve más difícil detenerlo, especialmente las acciones que ya desencadenó.
En el tercero, el sistema amplía su acción a varios sistemas, la IA se convierte en un electrón libre y el objetivo ya no es tanto “apagarla”, sino identificar los elementos que hay que detener antes que los otros.
“Una vez que se ha puesto en marcha, es un poco como un virus informático”, zanja Poibeau.
La limitación del interruptor si la IA está muy integrada
Cuanto más se integre la IA en las actividades cotidianas, más probabilidades habrá de que su interrupción bloquee también usos legítimos que se le dan a esta tecnología.
A medida que “automatizamos cada vez más aspectos de la vida diaria gracias a la IA”, “cada vez [será] más difícil distinguir una IA mala de una IA inofensiva y, por lo tanto, saber qué hay que ‘apagar’”, explica Nicolas Papernot.
Detener un sistema de IA podría tener como consecuencia deteriorar servicios de los que ya dependen empresas, administraciones o centros de salud.
“En una hipótesis de pérdida real de control” de los agentes de IA, “sería posible desactivar la IA desconectando toda la potencia de cálculo”, pero “los costes y las consecuencias negativas serían considerables”, alerta Papernot.
“Siempre podemos detener las máquinas”, insiste Jean-Gabriel Ganascia. Pero, en la medida en que estos dispositivos ocupan cada vez más lugar en la sociedad, “al mismo tiempo, no podemos detenerlas”.
AFP
Más leídas de Tecnología
2Usó IA y fotos satelitales para contabilizar personas que no figuran en los registros oficiales de la Argentina
3Qué es el sedentarismo cognitivo y por qué está creciendo cada vez más de la mano de la IA
4Así podría secuestrar internet un enjambre de agentes de IA y transformar al ciberataque en un problema global