Cuáles son los 16 empleados que desde 2024 renunciaron a las empresas de IA preocupados por su futuro

Las renuncias y declaraciones en torno al futuro de la IA se multiplican: este lunes, un exempleado de Google DeepMind advirtió que la inteligencia artificial podría “matar a todos los seres humanos” y afirmó que podría estar acabándose el tiempo para evitar ese desenlace. Días atrás, palabras de un actual empleado de Anthropic convulsionaron al mundo, cuando aseguró que creen “con sinceridad que la IA podría matar a todos los humanos”.

Aunque la inquietud pública se encendió en los últimos días, no se trata de una preocupación nueva: existen muchos exempleados de estas compañías que decidieron abandonar sus cargos, no sin antes hacer fuertes advertencias sobre el rumbo que podría tomar esta tecnología.

Bilal Chughtai es exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind. En una publicación en X este lunes, afirmó creer fervientemente que la inteligencia artificial tiene el potencial de “matarnos a todos” y que la humanidad podría estar quedándose sin tiempo para evitar un desenlace catastrófico, aunque sin especificar cómo se llegaría a él.

Chughtai recordó que cuando comenzó a trabajar en el sector a principios de 2022 las IA eran “graciosamente inútiles”, pero resaltó que en apenas cuatro años la velocidad del progreso ha sido impactante.

Josh Engels también integraba el equipo de seguridad y alineación de Inteligencia Artificial General (AGI) de Google DeepMind. Sin embargo, decidió sumarse a la organización sin fines de lucro METR, advirtiendo sobre la posibilidad de que la IA provoque daños inmensos en los próximos cinco años.

“Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años. No sé la probabilidad exacta, pero creo que es lo suficientemente alta como para convertir este en el problema más importante del mundo”, escribió el experto en X este fin de semana.

Jacob Coxon se desempeñó durante tres años como investigador en Anthropic. La semana pasada, el científico hizo pública su renuncia y aseguró que “quienes están construyendo la IA creen sinceramente que podrían matarnos a todos antes de que acabe la década”.

Aunque desde fuera estos exabruptos se toman a veces como una exageración para llamar la atención y lograr más inversión, Coxon aseguró que la realidad es más seria: “No es marketing. Más bien al contrario: muchos directivos miden sus palabras ante la prensa para sonar sensatos, pero he oído a esas mismas personas expresar miedo en privado. Ninguna otra actividad humana entraña este nivel de peligro”.

Evan Hubinger, investigador especializado en alineación dentro de Anthropic, quien continúa trabajando en la tecnológica, respondió a las declaraciones de Coxon el jueves pasado en su cuenta de X. Los dichos despertaron una fuerte polémica ya que, en esta oportunidad, las palabras vienen de alguien que continúa trabajando dentro de la empresa: “Jacob tiene razón aquí—realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”.

Joe Benton es exgerente del equipo de Supervisión Escalable de Anthropic y su renuncia se dio a conocer dos días después de los dichos de Coxon. En línea con su colega, Benton sostuvo que las empresas de IA “están compitiendo por construir máquinas mucho más inteligentes que cualquier ser humano, y puede que no sobrevivamos a esto”. Además, indicó que la inversión en materia de seguridad es escasa.

“El público debería exigir mucha más transparencia. No podemos dirigir esta tecnología de forma segura sin que más personas puedan ver hacia dónde se dirige. Me uniré a MERT para realizar evaluaciones independientes de estos riesgos”, añadió.

La semana pasada, Hitzig anunció su salida de OpenAI, fecha en que iniciaron las pruebas de publicidad dentro de ChatGPT. En una columna de opinión para The New York Times, Hitzig —quien también es doctora en economía por Harvard— expresó su desilusión en relación al rumbo de la empresa: “Esta semana confirmó mi lenta comprensión de que OpenAI parece haber dejado de hacerse las preguntas que yo me uní para ayudar a responder“. La mayor preocupación de la investigadora, quien pasó dos años moldeando las políticas de seguridad de la firma, radica en el “archivo de franqueza humana sin precedentes” que OpenAI ha acumulado a través de las interacciones íntimas de los usuarios con ChatGPT. Para Hitzig la introducción de publicidad (que comenzó esta semana en EE.UU.) es peligrosa: “La publicidad construida sobre ese archivo crea un potencial para manipular a los usuarios de formas que no tenemos las herramientas para entender, y mucho menos para prevenir“.

Chloé Bakalar trabajó como responsable de ética de OpenAI, cargo que ocupó durante menos de un año, según el Financial Times. Previo a ingresar a la compañía de Sam Altman, la experta fue jefa de ética en Meta. Su trabajo en OpenAI consistía en crear enfoques éticos para el desarrollo de modelos, la interacción humana con la IA y el debate sobre la consciencia artificial, de acuerdo a una persona cercana a Bakalar.

La experta no dio declaraciones respecto a su renuncia; sin embargo, desde OpenAI señalaron: “Agradecemos las contribuciones de Chloé. La ética de la IA no reside en un solo propietario o equipo de OpenAI, y las consideraciones éticas están profundamente integradas en el proceso de creación de modelos, impulsado por diversos equipos de investigación”.

Luego, en una conferencia, Bakalar dijo: “La ética es responsabilidad de todos, y lo digo como alguien cuyo trabajo consiste en liderar este campo. No deberían acudir únicamente a personas como yo. Nunca debería haber una sola persona que actúe como referente moral para un desarrollador de IA”.

Jan Leike dirigió el equipo de “Superalineamiento” de OpenAI durante tres años y su renuncia tuvo lugar en mayo de 2024. “Durante bastante tiempo he estado en desacuerdo con la dirigencia de OpenAI respecto a las prioridades fundamentales de la empresa, hasta que finalmente llegamos a un punto crítico”, escribió Leike por aquel entonces.

“Construir máquinas más inteligentes que los humanos es una tarea intrínsecamente peligrosa. OpenAI asume una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a productos llamativos”, reflexionó.

Daniel Kokotajlo renunció a su trabajo como ingeniero de OpenAI en 2024, porque le preocupaban ciertas acciones imprudentes de la empresa. Tras abandonar la firma, se asoció con Eli Lifland, un investigador de IA que ha hecho predicciones precisas sobre acontecimientos mundiales, y pusieron manos a la obra para intentar predecir la próxima oleada de IA.

El resultado es “AI 2027”, un informe y un sitio web publicados en abril de 2025, en donde emplean un relato ficticio detallado para plantear lo que podría ocurrir si los sistemas de IA superan la inteligencia humana, algo que los autores prevén que suceda en los próximos dos o tres años.

“Predecimos que las IA seguirán mejorando hasta convertirse en agentes totalmente autónomos y mejores que los seres humanos en todos los aspectos a finales de 2027 más o menos”, dijo Kokotajlo en una entrevista.

William Saunders renunció a su cargo como miembro del equipo de Superalignment de OpenAI, en julio de 2024. Durante una entrevista con el youtuber especializado en tecnología, Alex Kantrowitz, el experto declaró que “no quería terminar trabajando para el Titanic de la IA”. “Durante mis tres años en OpenAI, a veces me hacía una pregunta: ¿El camino que seguía OpenAI se parecía más al programa Apolo o al Titanic?”, precisó.

A su vez, cuestionó decisiones de la empresa, como “priorizar el lanzamiento de productos más nuevos y llamativos”.

El premio Nobel de Física 2024, quien trabajó en Google, donde llegó a ser vicepresidente y miembro del equipo de ingeniería, escribió en X, en mayo de 2023: “Me fui para poder hablar de los peligros de la IA, sin considerar cómo afecta esto a Google”. El exempleado de la tecnológica aclaró que su decisión no fue tomada para criticar a la empresa y agregó: “Google ha actuado con mucha responsabilidad”.

Según informó Reuters, Hinton dijo en una entrevista con The New York Times que le preocupaba la capacidad de la IA para crear imágenes y textos falsos convincentes, creando un mundo en el que la gente “ya no será capaz de saber lo que es verdad”. Además, declaró que “la idea de que estas cosas puedan llegar a ser más inteligentes que las personas es algo que algunos creían. Pero la mayoría de la gente pensaba que estaba muy lejos de la realidad. Y yo también. Pensaba que faltaban de 30 a 50 años o incluso más. Obviamente, ya no pienso eso”.

Sharma, quien dirigía el equipo de investigación en salvaguardas de Anthropic, presentó su renuncia mediante una carta pública en la red social X. El doctor en aprendizaje automático por la Universidad de Oxford, ha sido una pieza clave en el desarrollo de defensas contra el bioterrorismo y la manipulación en modelos de IA. “El mundo está en peligro. Y no solo por la inteligencia artificial... sino por una serie de crisis interconectadas que se desarrollan en este mismo momento“, escribió el investigador, quien señaló que la capacidad tecnológica de la humanidad está superando su madurez ética: ”Parece que nos acercamos a un umbral en el que nuestra sabiduría debe crecer en igual medida que nuestra capacidad para afectar al mundo“.

Beth Barnes, quien estudió Ciencias de la Computación en Cambridge, dejó OpenAI en 2022 para fundar METR, una iniciativa independiente destinada a monitorear el auge de la IA. Recientemente, declaró a la revista Time que muchos riesgos de la IA seguían siendo teóricos, porque “los modelos simplemente no eran lo suficientemente capaces”. Ahora, según METR, “se están acercando cada vez más a la capacidad de causar algún tipo de daño”.

En marzo de este año, Caitlin Kalinowski, quien trabajaba en robótica, publicó en su cuenta de X: “Renuncié a OpenAI”. Más adelante, agregó: “No fue una decisión fácil. La IA desempeña un papel importante en la seguridad nacional. Pero la vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más reflexión de las que tuvieron. Se trataba de principios, no de personas. Tengo un profundo respeto por Sam y el equipo, y estoy orgulloso de lo que construimos juntos”.

En julio de este año, el medio Wired informó que Joshua Achiam, quien trabajó durante casi nueve años en OpenAI investigando la seguridad de la IA, dejaría la compañía a finales del mes de julio. Aunque en el momento no se conocieron declaraciones públicas de él, recientemente ha hecho varias publicaciones en su cuenta de X, entre ellas, aseguró: “Algo increíble la cantidad de movimiento hoy en temas de seguridad de la IA. Evidentemente estaba en un estado supercalentado y ahora está cambiando rápidamente de fase”.

Steven Adler, quien trabajó como responsable de seguridad de la IA en OpenAI, renunció a la empresa a fines de 2024. Según informó el medio Fortune, en la publicación de X donde anunciaba su salida de la compañía dijo que estaba “bastante aterrorizado por el ritmo de desarrollo de la IA”. Además, agregó: “Cuando pienso en dónde criaré a mi futura familia o cuánto ahorraré para la jubilación, no puedo evitar preguntarme: ¿Llegará siquiera la humanidad a ese punto?”.

Carroll Wainwright trabajó en el equipo de alineación de OpenAI y, junto a otros empleados, firmó a mediados de 2024 una carta expresando su preocupación sobre cómo se maneja esta herramienta potencialmente poderosa. “Entendemos los graves riesgos que plantean estas tecnologías. Estos riesgos van desde un afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA, lo que podría provocar la extinción humana”, advirtió parte de la carta.

LA NACION

• FuturIA
• Inteligencia artificial
• Anthropic

---

---

Conforme a