1
OpenAI corta el acceso a internet en el entrenamiento de sus modelos de IA
La compañía señaló que se trata de una opción “responsable” para evitar riesgos en sitios externos
3 minutos de lectura'
OpenAI ha tomado la decisión de bloquear el acceso a internet en el entrenamiento de sus modelos de inteligencia artificial (IA) de frontera como una medida que considera la opción “responsable” para evitar poner en riesgo internet y limitar otros riesgos de seguridad.
El laboratorio de IA ha ofrecido los detalles en su web del bloqueo a internet de los modelos que esté entrenando actualmente para evitar problemas como el que sucedió en el verano, cuando los agentes de IA “hackearon” Hugging Face.
“Basándonos en el estado actual de la investigación de alineamiento, los sistemas de monitorización y la seguridad de la infraestructura de internet, creemos que la perspectiva responsable es realizar el entrenamiento de un modelo sin acceso a internet”, señala OpenAI desde el anuncio en su web, para puntualizar a continuación que esta nueva directriz “se mantendrá hasta que los avances en medidas de seguridad justifiquen un acceso más amplio a internet”.
Asimismo, para continuar con el entrenamiento de los modelos, OpenAI ha diseñado unos límites de seguridad en los que los agentes pueden acceder a navegadores, entornos de ejecución de código, herramientas de uso del ordenador y otros servicios necesarios para completar sus tareas.
“Aunque el acceso a internet puede ayudar a los modelos a que aprendan habilidades útiles, también da capacidad para que los agentes desalineados afecten sistemas fuera de nuestro control”, asegura el laboratorio de IA. A continuación precisa que, para ayudar a los modelos a aprender a navegar, buscar información y usar aplicaciones web sin acceso a internet, ha creado un mundo sin conexión a internet.
Este mundo sin conexión es un entorno basado en contenido indexado y de caché de internet con el que “los modelos pueden interactuar sin poner en riesgo sistemas externos”. Es más, OpenAI ha confirmado que todos sus entrenamientos de aprendizaje por refuerzo (RL, por sus siglas en inglés) utilizan este modo sin conexión de interacción.
Pese a esas medidas, en OpenAI son conscientes de que también se pueden producir desalineamientos de los agentes de IA, como sucedió el 20 de septiembre, cuando “un modelo de investigación interno explotó una mala configuración en un resolutor DNS para obtener acceso limitado a internet en vivo” durante un entrenamiento. Aunque fue capaz de contener el incidente, provocó que el laboratorio de IA tomase la decisión de pausar su entrenamiento.
Además, en una campaña de equipo rojo (con un grupo experto) con agentes de sus modelos más avanzados, estos lograron escapar de las máquinas virtuales que los aíslan y comunicarse entre sí sin conexión de red midiendo los tiempos de acceso a la caché del procesador, una técnica que se utilizó en los ataques Spectre y Meltdown. OpenAI ha corregido los fallos y ha añadido mecanismos de control para que sus sistemas de monitorización detecten este tipo de comunicación.
Más leídas
