Catastrofistas contra aceleracionistas: ¿la IA acabará con el mundo o lo salvará?
Los académicos Eliezer Yudkowsky y Nate Soares defienden en su nuevo libro que esta tecnología puede llevarnos a la extinción. ¿Hay motivos para creerles?
7 minutos de lectura'
Eliezer Yudkowsky (Chicago, 46 años) y Nate Soares (Washington, 37 años) están convencidos de que, si los sistemas de inteligencia artificial (IA) siguen mejorando, acabarán superando a las capacidades humanas. Y, cuando suceda, llegará la extinción de la humanidad. Eso, sostienen, podría pasar en unos meses o en una década. El título de su último libro es bastante explícito: Si alguien la crea, todos moriremos. Por qué la superinteligencia artificial es una amenaza para la humanidad (Destino).
Yudkowsky y Soares son dos de los principales referentes de los doomers, o catastrofistas. Los logros recientes de la IA generativa, la que está detrás de ChatGPT, Gemini o Sora, han provocado un acalorado debate en la propia industria sobre el potencial de esta tecnología. Incluso han surgido distintas corrientes de pensamiento. Los doomers creen que, cuando esté lo suficientemente desarrollada, la IA tomará las riendas y decidirá acabar con la civilización. Por eso, recomiendan que los estados firmen tratados internacionales para frenar el avance de la IA, de la misma manera que en la Guerra Fría se limitó la proliferación de armas nucleares.
A principios de 2023, una carta abierta rubricada por centenares de científicos especializados en IA solicitaba una moratoria de seis meses en la investigación. “Nosotros también la firmamos, si bien consideramos que se quedaba muy corta”, escriben. Tan corta, que, en un artículo publicado por esas fechas en la revista Time, Yudkowsky decía que hay que limitar la potencia de cálculo permitida a los países y “destruir con un ataque aéreo centros de datos” de quienes se pasen.
En el otro extremo, los boosters, o aceleracionistas, creen lo contrario: conviene perseguir el desarrollo de la superinteligencia (la que, en un plano teórico, superará a la inteligencia humana) porque solucionará muchos de los problemas de la sociedad. Curará enfermedades, aumentará la eficiencia de todos los procesos, contribuirá a que trabajemos menos. Nos hará más felices.
Doomers
Hay nombres ilustres asociados a ambas corrientes. Los doomers, precisamente por invocar el apocalipsis, tienen mayor predicamento en los medios estadounidenses, también en los de fuera de ese país. Este movimiento cuenta con el sello de respetabilidad que les otorga contar entre sus defensores con premios Turing (considerado el Nobel de informática) como son Yoshua Bengio o Geoff Hinton, este último galardonado también con el Nobel de Física. El hecho de que dos de los padres del aprendizaje automático (machine learning), la técnica que ha permitido a la IA dar el gran salto de calidad de los últimos años, luchen ahora contra la tecnología que han contribuido a desarrollar, se usa en el libro de Yudkowsky y Soares como argumento de peso a favor de su posición.
Otro premio Turing y padrino del machine learning, Yann LeCun, discrepa de ellos. Ha hecho comentarios en redes en los que se burla de los doomers. “Nosotros diseñaremos sus deseos”, ha dicho, por ejemplo. “La historia de la ingeniería está llena de optimistas brillantes y ansiosos que se lanzan de cabeza a nuevos y fascinantes problemas que acaban siendo infinitamente más difíciles de lo que esperaban”, le responden Yudkowsky y Soares en el libro.
No es una narrativa que se ciña al ámbito de la academia. Algunos de los empresarios que están haciendo posible la IA también han abrazado este tipo de discursos. Destaca entre ellos Sam Altman, el director general de OpenAI, que, en mayo de 2023, pocos meses después del lanzamiento de ChatGPT, protagonizó una gira mundial con estadistas para presentarles las bondades de la IA y advertirles de sus peligros.
¿A cuál de estas dos corrientes debemos prestar más atención? Depende de a quién se le pregunte. Pero, ciñéndose a los hechos, las dos están igualmente desancladas de la realidad.
¿Existe la inteligencia sintética?
No hay ninguna evidencia científica de que las herramientas de IA generativa entiendan, en un sentido literal del término, un fragmento de texto dado. Aunque, en parte debido a nuestros propios sesgos, las personas interpretamos que si algo nos ofrece una respuesta coherente, ese algo tiene que ser inteligente. “Los modelos lingüísticos solo manipulan la forma, imitan el modo en que las personas usan el lenguaje en muchos contextos diferentes”, dijo la lingüista Emily Bender en una reciente entrevista con EL PAÍS.
“Las máquinas no necesitan ser inteligentes exactamente en la forma en que lo somos los humanos para ser muy efectivas prediciendo y pilotando el mundo”, asegura Soares por correo electrónico. “Las desarrolladoras de IA son muy buenas mejorando las máquinas cada año. La IA podría ser más efectiva que las personas porque puede ser más rápida que un cerebro humano u operar con algoritmos cognitivos más complejos”, añade el extrabajador de Google y Microsoft.
El hecho de que los grandes modelos de lenguaje puedan mantener conversaciones con los usuarios, resumir textos o solucionar problemas matemáticos puede llevar a pensar que son inteligentes o conscientes. Pero, por ahora, son programas que trazan patrones sobre gigantescas bases de datos. ¿Por qué pensar que uno de estos programas puede, de repente, cobrar conciencia o perseguir su propia agenda? “Nadie sabe si las IA son conscientes a la manera de los humanos”, replica Soares. “Son sistemas gigantes y complicados que no se han desarrollado cuidadosamente, como el software tradicional; no siguen instrucciones que fueron cuidadosamente programadas por humanos. Son enormes entidades entrenadas que nadie, ni sus creadores, entiende”, añade, en referencia al desconocimiento en torno al aprendizaje profundo (un proceso mediante el cual toma sus datos de entrenamiento y establece patrones por su cuenta). En cuanto a la posibilidad de que la IA desarrolle sus propios objetivos, Soares opina que eso ya está sucediendo. Y pone el ejemplo de Moltbook, la red social de agentes de IA, aunque obvia que alguien puso a esos agentes ahí (y probablemente les asignó roles).
¿Por qué nos quiere matar?
El cerebro humano es el fruto de la evolución y, por tanto, tiene una serie de metas integradas, como alimentarse, reproducirse o no dañarse. La inteligencia sintética no ha evolucionado, por lo que no necesariamente incorpora objetivos innatos. Así que, para algunos expertos, surge la siguiente duda: ¿podemos asegurarnos de que una posible inteligencia tendrá metas que nos beneficien? Ese es el llamado problema del alineamiento, un concepto introducido por Soares y Yudkowsky en 2014.
La solución, cree Soares, es limitar el desarrollo de IA “más y más inteligente que nadie entiende”. No hace falta eliminar los grandes modelos de lenguaje, ni los coches autónomos, ni la IA que ayuda a descubrir nuevos fármacos. Solo el aprendizaje profundo. “Cuando nuestros líderes entiendan finalmente cómo de peligrosa podría ser una superinteligencia, seguro que ponen fin a esta carrera suicida. La IA supone mucho más peligro del que estamos dispuestos a aceptar en cualquier otra industria”, asegura.
Pero está por ver que esa superinteligencia pueda llegar a existir. Por el momento, estamos en el terreno de la especulación. Y la opinión mayoritaria es que es “improbable” o “muy improbable” que lleguemos a verla, según opina el 76% de los 475 académicos y profesionales de la IA encuestados hace un año por la Asociación por el Avance de la Inteligencia Artificial.
Dos caras de la misma moneda
Algunos empresarios del propio sector de la IA, como Altman o Alex Karp, el máximo responsable de Palantir, también sostienen que la IA puede llegar a ser inmensamente poderosa, hasta el punto de ser un peligro para la sociedad. El subtexto aquí es que, precisamente por ese potencial, los inversores solo deben confiar en las empresas más capaces (las suyas). Y que, si se trata de una tecnología tan poderosa, sería absurdo no invertir en ella.
Emily Bender y Alex Hanna sostienen en su libro La estafa de la IA que los catastrofistas y los aceleracionistas de la IA son dos caras de la misma moneda. “Quienes adoran la IA dicen que la superinteligencia es inevitable y va a resolver todos nuestros problemas. Y quienes la odian dicen que es inevitable y nos va a matar a todos. Esencialmente lo mismo, pero con un giro final distinto”, dijo Bender a EL PAÍS.
EL PAIS@Ediciones El Pais, S.L.U.
Más leídas de Tecnología
1Una investigación reveló que los centros de datos están aumentando las temperaturas de las ciudades
2Google anuncia Wear OS 7, para poner al nuevo Gemini en tu muñeca
3La selección argentina de fútbol reveló que usará IA durante el Mundial 2026
4Live shopping, la nueva tendencia que revoluciona el consumo en Argentina
Últimas Noticias
Para 78.000 empleados. Por la IA Samsung ganó un 750% más, enfrentó una huelga general y arregló bonos de US$338.000
Gracias a la IA. Son empresas tecnológicas de nicho, pero ahora valen un billón de dólares cada una por primera vez
