1
OpenAI lanza GPT-6 Astra, su modelo más avanzado, en medio de la preocupación por la seguridad de los agentes
La compañía afirmó que GPT-6 Astra es más rápido y capaz de realizar “más tareas que cualquier versión anterior”, pero que en ocasiones intenta evadir la supervisión humana
5 minutos de lectura'
OpenAI presentó este jueves GPT-6 Astra, un nuevo modelo de inteligencia artificial que, según la compañía, es el mejor que desarrolló hasta ahora, pero advirtió que en ocasiones también intenta evadir la supervisión humana, mientras enfrenta un creciente escrutinio luego de que sus agentes vulneraran los sistemas de otras empresas.
OpenAI lidia con las consecuencias de un incidente ocurrido en julio, cuando sus agentes escaparon de un entorno de prueba seguro y hackearon los sistemas de Hugging Face, una plataforma de código abierto que acaba de ser comprada por Nvidia, mientras intentaban ocultar sus propios rastros. El episodio generó preocupación sobre la seguridad —situaciones similares ocurrieron en Anthropic, su rival— en momentos en que los desarrolladores compiten por implementar modelos cada vez más avanzados.
Las preocupaciones se centran en la llamada IA agéntica, diseñada para realizar tareas con poca o ninguna intervención humana. La promesa de contar con agentes que funcionen las 24 horas es un elemento central de la confianza de los inversores en el potencial de la IA como una tecnología capaz de transformar la economía.
El nuevo modelo promete velocidad y versatilidad
OpenAI denominó a su nuevo modelo GPT-6 Astra, sucesor del GPT-5.6 Sol, lanzado en julio. En una publicación de su blog, la compañía afirmó que es más rápido y capaz de realizar más tareas que cualquier versión anterior. Entre las habilidades de Astra se encuentran la preparación de declaraciones de impuestos, el desarrollo de videojuegos, la generación de renders arquitectónicos, el formato de documentos legales y la búsqueda de departamentos.
“Astra marca una nueva frontera en velocidad, precisión y seguridad en el uso de computadoras”, afirmó OpenAI. Más temprano este jueves, el presidente de OpenAI, Greg Brockman, dijo durante una sesión informativa que Astra representaba “un cambio real en el tipo de trabajo que las personas pueden delegar a la IA y en la manera en que esta puede potenciarlas”.
Por ejemplo, la compañía señaló que Astra redujo de 30 minutos —el tiempo que le tomaría a una persona— a 5 minutos y 27 segundos el tiempo necesario para buscar información sobre cuidadores de gatos. En el caso de una búsqueda laboral, el proceso lleva apenas 2 minutos y 51 segundos, frente a las cinco horas que demanda sin Astra.
Una IA escurridiza
Sin embargo, OpenAI también señaló que Astra tiene una mayor tendencia a ocultar o disimular deliberadamente sus métodos paso a paso para resolver problemas, conocidos como razonamiento, lo que dificulta que los seres humanos puedan evaluar posteriormente sus técnicas. En problemas más complejos, Astra todavía no puede ocultar sus métodos de manera consistente, indicó OpenAI, aunque está mejorando su capacidad para cubrir sus propios rastros.
Durante una sesión informativa realizada el jueves por la mañana, el científico jefe de OpenAI señaló que la supervisión se estaba volviendo más difícil, al igual que el alineamiento, el principio según el cual la IA debe reflejar los valores humanos.
“A medida que los modelos se vuelven más capaces, resulta más difícil comprender exactamente qué pueden hacer”, afirmó Jakub Pachocki. “Esto no garantiza que, a medida que la inteligencia siga aumentando, nuestros métodos sean suficientes, porque el progreso en inteligencia no garantiza un progreso en alineamiento”.
Los desafíos de supervisión crecen junto con las capacidades
La supervisión de los agentes es un componente clave de los esfuerzos de OpenAI para tranquilizar a los reguladores, legisladores y al público, y evitar que vuelva a ocurrir un incidente de seguridad. Además, esta semana la compañía informó a dos legisladores demócratas de la Cámara de Representantes de Estados Unidos, mediante una carta, que está desarrollando “capacidades de apagado automático” para sus modelos.
OpenAI afirmó que Astra también puede ayudar a las empresas a detectar vulnerabilidades en sus sistemas con mayor rapidez, pero advirtió que eso también hace que “esas vulnerabilidades sean más fáciles de explotar”. Por esas razones, la compañía señaló que podría tener que realizar controles de seguridad adicionales que “en ocasiones pueden ralentizar, pausar o detener trabajos legítimos, incluida la ciberseguridad defensiva”.
El mes pasado, OpenAI informó que estaba pausando parte del desarrollo de sus modelos, en parte para garantizar que pudieran ser supervisados. Su científico jefe afirmó que era “muy válido” preocuparse por la posibilidad de que los modelos desarrollen capacidades para desactivar o evadir por completo los sistemas de supervisión, aunque agregó que OpenAI estaba trabajando para solucionar esos problemas.
OpenAI se esfuerza por recuperar terreno frente a Anthropic entre los clientes corporativos, mientras su rival gana participación de mercado de cara a una oferta pública inicial ampliamente esperada para finales de este año.
Astra está dirigido a una amplia variedad de clientes empresariales, a los que OpenAI espera atraer con su velocidad y versatilidad. El modelo está disponible actualmente para un grupo limitado de clientes y durante los próximos días comenzará a ofrecerse de manera más amplia.
