1
Un exinvestigador de Google se suma a las advertencias sobre la IA: “Podríamos estar quedándonos sin tiempo”
La alarma pública sobre el posible peligro que representa la tecnología sigue creciendo, con varios expertos e importantes empresarios pidiendo la desaceleración de su desarrollo
4 minutos de lectura'
LA NACION
LONDRES.– Un exempleado de Google DeepMind se convirtió el lunes en el último investigador en inteligencia artificial (IA) en advertir que la tecnología podría “matar a todos los seres humanos” y afirmó que podría estar acabándose el tiempo para evitar ese desenlace.
La alarma pública sobre el posible peligro que representa la IA crece después de que el investigador de Anthropic Jacob Coxon dijera la semana pasada que había renunciado, en parte, porque “las personas que desarrollan IA creen sinceramente que podría matarnos a todos antes de que termine la década”.
El científico de Anthropic Evan Hubinger respondió entonces a los comentarios de Coxon y dijo que tenía razón, y que consideraba que había más de un 10% de probabilidades de que la IA pudiera matar a todos los seres humanos durante la próxima década.
“Recientemente renuncié a Google DeepMind, donde trabajaba en investigación sobre seguridad y alineación de la inteligencia artificial general (AGI)”, escribió Bilal Chughtai en X. “Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar ese desenlace”.
Chughtai, quien fue coautor de trabajos de investigación durante su paso por Google DeepMind, se desempeñó allí como ingeniero de investigación y dejó la compañía en julio de 2026, según su perfil de LinkedIn.
Google no respondió a una solicitud de comentarios fuera del horario laboral habitual.
El debate por la desaceleración
Tras las recientes preocupaciones, el CEO de Anthropic, Dario Amodei, pidió durante el fin de semana que se desacelerara el ritmo de desarrollo de la IA avanzada, una postura que recibió el inusual respaldo de Elon Musk, de SpaceXAI, y del CEO de OpenAI, Sam Altman.
En un ensayo publicado en X, Amodei escribió que, en un plazo de seis a 12 meses, los agentes de inteligencia artificial “podrían ser capaces de tomar el control de toda internet y causar potencialmente cientos de miles de millones de dólares en daños”.
Según el CEO, los modelos más avanzados de Anthropic ya empezaron a desarrollar la siguiente generación de inteligencia artificial, en un proceso conocido como “automejora recursiva”. Esto aumenta el riesgo de que la tecnología se convierta en una amenaza cibernética autónoma e incluso provoque “graves alteraciones económicas”.
“Una carrera hacia el abismo, impulsada por incentivos comerciales, puede agudizar estos riesgos”, dijo Amodei. Como una posible solución, propuso contratar “evaluadores” externos que “verifiquen el cumplimiento de las prácticas y los compromisos de seguridad”.
La empresa Anthropic, con sede en San Francisco, publicó el jueves un informe de inteligencia sobre amenazas en el que detalló cómo distintos actores habían utilizado sus modelos de IA Claude para actividades que van desde el desarrollo de armas y operaciones cibernéticas hasta tareas de vigilancia y fraude.
El lunes, el propio Altman volvió a encender las alarmas cuando anunció que OpenAI no saldría a bolsa este año debido a preocupaciones relacionadas con la seguridad. El CEO advirtió sobre dos escenarios en los que el avance de la inteligencia artificial podría “salir muy mal” y aseguró que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro.
En su mensaje en X, Chughtai también dijo que era posible desarrollar la IA de manera segura, pero que para ello sería necesario coordinar esfuerzos “para evitar esta carrera desenfrenada entre las empresas de IA”.
“Necesitamos llevar el desarrollo de la IA a un ritmo que la sociedad pueda manejar, de modo que los riesgos emergentes puedan abordarse antes de que se produzcan daños extremos”, agregó el experto.
El presidente norteamericano, Donald Trump, sin embargo, desestimó las advertencias y afirmó en las redes sociales que el llamado de la industria de la IA a favor de una regulación es una “farsa”.
Tras las recientes advertencias de los expertos y empresarios, el republicano denunció el lunes una “conspiración enfermiza” en los intentos de limitar la tecnología y se posicionó como “salvaguarda”.
“Existe una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡Quien gane la carrera de la IA, ganará!“, escribió el magnate en su red social Truth Social.
Agencia Reuters
LA NACION
Más leídas de El Mundo
