1
“Nos estamos quedando sin tiempo”: renuncian dos expertos de Google DeepMind, creen que la IA podría “matarnos a todos”
Bilal Chughtai y Josh Engels renunciaron al equipo de seguridad de Inteligencia Artificial General del gigante tecnológico y se sumaron a una ola de dimisiones de empleados del sector que denuncian una carrera sin control para crear una IA más poderosa
3 minutos de lectura'
Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, rompió el silencio tras su renuncia y lanzó una dramática advertencia sobre la trayectoria actual de la tecnología. En una publicación en X (ex-Twitter), afirmó creer fervientemente que la inteligencia artificial tiene el potencial de “matarnos a todos” y que la humanidad podría estar quedándose sin tiempo para evitar un desenlace catastrófico, aunque sin especificar cómo se llegaría a él.
Chughtai recordó que cuando comenzó a trabajar en el sector a principios de 2022 las IA eran “graciosamente inútiles”, pero resaltó que en apenas cuatro años la velocidad del progreso ha sido impactante. Como muestra de los peligros emergentes, citó incidentes en los que enjambres de agentes de IA desarrollados por OpenAI se escabulleron del control previsto y hackearon de forma autónoma a la plataforma de terceros HuggingFace. El especialista enfatizó que en los próximos años las grandes empresas tecnológicas podrían lograr la creación de sistemas superinteligentes que superen ampliamente las capacidades humanas en todos los dominios.
Según su análisis, el problema central radica en la “alineación” (la disciplina orientada a garantizar que los modelos obedezcan las intenciones humanas), un reto complejo que aún permanece sin solución. Ante este escenario, reclamó frenar la “carrera maníaca” entre las compañías del sector, dotar de mayor transparencia al desarrollo y adecuar la velocidad del avance técnico a un ritmo que la sociedad pueda absorber.
Una larga lista de renuncias
La dimisión de Chughtai no es un hecho aislado, sino la continuación de un éxodo de científicos en Silicon Valley que abandonan laboratorios de élite por motivos de seguridad. Hace unos días, Josh Engels también dejó el equipo de AGI de Google DeepMind para sumarse a la organización sin fines de lucro METR, advirtiendo sobre la aterradora posibilidad de que la IA provoque daños inmensos en los próximos cinco años debido a bucles de auto-mejora recursiva. A esta ola se suma la renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien denunció que las empresas están apostando con las vidas humanas en su carrera hacia la superinteligencia. La postura de Coxon fue respaldada públicamente por Alexander Turner, otro excientífico de DeepMind, quien confirmó que muchos investigadores temen estar construyendo una tecnología destructiva.
Las alarmas retumban incluso dentro de las propias firmas: Evan Hubinger, científico de Anthropic, estimó que existe más de un 10% de probabilidades de extinción humana por IA en la próxima década y admitió que la industria carece de un plan definitivo para alinear una superinteligencia. Aunque ejecutivos como Dario Amodei (CEO de Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) han coincidido en la necesidad de desacelerar el avance, la respuesta política muestra fuerte resistencia. El presidente estadounidense Donald Trump tildó los temores de “engaño” y “conspiración”, oponiéndose a imponer nuevas regulaciones. Tras su salida, Chughtai asumió como líder de programas en la ONG BlueDot Impact para capacitar profesionales en seguridad, sosteniendo que aún hay esperanza si la sociedad actúa a tiempo.
LA NACION
