El exlíder de OpenAI dice que la seguridad “pasó a segundo plano” en la empresa
Jan Leike realizó una serie de publicaciones preocupantes en sus redes sociales, luego de renunciar a su cargo en la compañía
Un exlíder de OpenAI, quien renunció a la popular compañía esta semana, dijo el viernes que la seguridad “pasó a segundo plano” en la empresa líder de Inteligencia Artificial (IA).
Jan Leike dirigió el equipo de “Superalineamiento” de OpenAI junto con el cofundador de la empresa, que también renunció esta semana. El especialista escribió en una serie de publicaciones en la red social X que se unió a la empresa, con sede en San Francisco, porque pensó que sería el mejor lugar para realizar investigaciones sobre IA.
“Sin embargo, durante bastante tiempo he estado en desacuerdo con la dirigencia de OpenAI respecto a las prioridades fundamentales de la empresa, hasta que finalmente llegamos a un punto crítico”, expresó Jan, cuyo último día trabajando para OpenAI fue el pasado jueves.
Leike, formado como investigador de IA, señaló que, en su opinión, se debería hacer más énfasis en prepararse para la próxima generación de modelos de Inteligencia Artificial, incluyendo factores como la seguridad y el análisis del impacto de esas tecnologías en la sociedad. Además, admitió que la construcción de “máquinas más inteligentes que los seres humanos” es algo inherentemente peligroso, y que la compañía para la que trabajaba “tiene una enorme responsabilidad para con la humanidad”.
“OpenAI debe convertirse en una empresa de AGI donde la seguridad sea lo primero”, escribió, usando la abreviatura en inglés de Inteligencia Artificial general, una visión futurista de las máquinas que indica que son, en general, tan inteligentes como los seres humanos o, por lo menos, pueden hacer muchas cosas tan bien como lo hacen las personas.
La inesperada renuncia del especialista en Inteligencia Artificial se produjo después de que el cofundador de OpenAI y científico en jefe, Ilya Sutskever, dijera que dejaría la empresa tras casi una década. Sutskever fue uno de los cuatro miembros del consejo de administración que votaron el otoño pasado a favor de expulsar al director ejecutivo Sam Altman, quien luego fue reincorporando de inmediato. Fue él mismo quien le informó a Altman, en noviembre pasado, que sería despedido, pero después admitió que se arrepintió de haberlo hecho.
El cofundador de la compañía admitió que se encuentra trabajando en un nuevo proyecto, que es muy importante para él, pero no sumó más detalles al respecto.
Tras su salida, será reemplazado por Jakub Pachoki, quien ocupará el cargo de científico en jefe. Altman dijo que Pachocki “es también, fácilmente, una de las más grandes mentes de nuestra generación” y afirmó que “tiene mucha confianza en que podrá dirigirnos para avanzar en forma rápida y segura hacia nuestra misión de garantizar que la AGI nos beneficie a todos”.
Este lunes, OpenAI mostró la actualización más reciente de su modelo de Inteligencia Artificial, que puede imitar la cadencia humana en sus respuestas verbales, e incluso puede tratar de detectar el estado de ánimo de las personas.
