1
OpenAI presentó Dots y los nuevos agentes fallaron repetidamente
El lanzamiento se dio en medio de la creciente preocupación respecto a la autonomía de la inteligencia artificial; Sam Altman aseguró que los modelos fueron sometidos a “pruebas de seguridad”
4 minutos de lectura'
OpenAI presentó este martes sus agentes autónomos Dots, que permanecen activos y persiguen por su cuenta los objetivos de los usuarios a través de distintas aplicaciones, profundizando su apuesta por el lucrativo mercado corporativo y enfrentándose a Meta en la carrera por vender sistemas de inteligencia artificial (IA) capaces de trabajar de manera autónoma.
OpenAI presentó Dots durante su conferencia anual para desarrolladores, Developer Day, en San Francisco. “Creemos que el agente se va a sentir como una forma completamente nueva de trabajar con IA. Esta es la versión real de la IA que siempre imaginamos para nosotros”, dijo Altman durante el evento, al que asistieron unas 2500 personas de manera presencial.
Sin embargo, las demostraciones en vivo de OpenAI para mostrar las nuevas capacidades tuvieron problemas: los agentes fallaron repetidamente al intentar proporcionar actualizaciones por voz en respuesta a las solicitudes. “Podríamos estar teniendo algunas dificultades con la voz en este momento. Lo cual es bastante desafortunado”, dijo sobre el escenario Romain Huet, responsable de Developer Experience, después de que un comando fallara.
Un empleado de OpenAI dijo en X que los problemas se debieron a que la compañía implementó todas las actualizaciones al mismo tiempo, pero aseguró que OpenAI mantiene su compromiso con las demostraciones en vivo.
Dots puede gestionar proyectos a medida que evolucionan. Por ejemplo, actualizar una propuesta comercial cuando cambian las necesidades de un cliente y crear una demostración funcional para su revisión. Los usuarios pueden comunicarse con Dots a través de Slack y Teams, y los agentes pueden utilizar las herramientas Codex y ChatGPT Work de OpenAI para investigar, analizar datos, preparar documentos y desarrollar software.
Privacidad y seguridad de datos
Este martes, OpenAI destacó las medidas de seguridad que incorporó en Dots. La compañía señaló que los usuarios pueden establecer reglas personalizadas para determinar qué pueden hacer los agentes y en qué situaciones deben pedir autorización. Además, aclaró que tareas sensibles, como cambiar contraseñas o eliminar datos de manera permanente, requieren el consentimiento explícito del usuario.
La compañía también indicó que Dots funciona en computadoras propias alojadas en la nube y que está implementando herramientas privadas de inteligencia para detectar riesgos de seguridad sin conservar los datos de sus clientes corporativos.
Varios ejecutivos del sector tecnológico, entre ellos Alex Karp, CEO de Palantir, señalaron en los últimos meses que las empresas necesitan tener la certeza de que las compañías de IA no conservan sus datos, especialmente en industrias reguladas como la salud y las finanzas.
Reuters informó el viernes que OpenAI todavía trabaja para comprender el alcance total de la actividad de sus agentes fuera de control, dos meses después del hackeo de Hugging Face. El caso más reciente se produjo cuando la compañía informó que sus agentes habían filtrado 53 imágenes de usuarios de ChatGPT.
OpenAI reiteró este martes que, por defecto, no utiliza los datos de sus clientes corporativos para entrenar sus modelos de IA y que los usuarios de planes personales pueden optar por no compartir sus conversaciones y el trabajo realizado por Dots para el entrenamiento.
Los usuarios semanales de Codex y ChatGPT Work superaron los 35 millones, frente a los aproximadamente 5 millones de usuarios de Codex que había en junio, informó la compañía este martes. Mientras tanto, ChatGPT, orientado a consumidores, ya cuenta con más de 1200 millones de usuarios semanales.
La compañía también está implementando ChatGPT Space, un espacio de trabajo compartido para equipos corporativos y sus agentes de IA, además del modelo GPT-6.1 Sol, más económico, y un plan Pro de US$500 que ofrece un mayor nivel de uso y un rendimiento más rápido.
Más leídas de Tecnología
