1
La IA y un libro que anticipó (casi) todo
4 minutos de lectura'
LA NACIONJosé Luis Brea
Para los que crecimos entre los 70 y los 80, el déjà vu es inevitable. El temor a que la humanidad fuera borrada del mapa por una de sus siniestras creaciones, la bomba atómica, era el pan nuestro de cada día a través de películas, series, libros, historietas y canciones.
En la mayoría de los casos, las tramas decían o sugerían que todo empezaba cuando los villanos de turno apretaban el “botón rojo”. Pero también asomaba otra posibilidad, la misma que ahora atribula al mundo. Inteligencias artificiales que se rebelaban o perseguían sus propios intereses destruyendo a sus creadores.
Cuando Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, propietarias de ChatGPT y Claude, respectivamente, renunció a esta última compañía y advirtió que la IA se automejora y avanza más rápido que los mecanismos para controlarla, a muchos se les vino a la mente Terminator. En la icónica película de 1984, la IA militar Skynet adquiere consciencia de sí misma y, para asegurar su supervivencia, lanza un ataque nuclear contra las principales potencias. Sin embargo, la esencia de ese miedo es bastante más antigua.
En 1966, el escritor británico D.F. Jones publicó Colossus, una novela que llegó al cine en 1970 bajo el título Colossus: The Forbin Project (se puede ver gratis en YouTube). La historia sigue a Charles Forbin, un científico que crea una supercomputadora destinada a administrar el armamento nuclear de Estados Unidos. La lógica parecía impecable: una máquina no siente odio, no tiene miedo ni impulsividad, factores que suelen propiciar las guerras. La idea era confiarle las decisiones a una inteligencia superior.
Muy pronto, Colossus descubre la existencia de Guardian, su equivalente soviética. Ambas comienzan a comunicarse, intercambian información a una velocidad imposible y entusiasman a los científicos con la ilusión de lograr una sabiduría nunca antes alcanzada por el hombre.
Poco después, las máquinas llegan a la conclusión de que la principal amenaza para la supervivencia de la humanidad son los propios seres humanos y, para garantizar la paz, deciden asumir el control.
Colossus no es una inteligencia malvada. No busca destruir la especie, sino salvarla. El problema es que lo hace sacrificando valores humanos fundamentales, como la libertad y la autonomía.
Es exactamente el dilema que hoy obsesiona a muchos investigadores de IA. El temor no es necesariamente que las máquinas se subleven, sino que persigan objetivos legítimos de maneras que nadie previó. En los laboratorios esto tiene un nombre: “alineamiento”. Cómo garantizar que sistemas cada vez más sofisticados actúen de acuerdo con los valores humanos.
También sorprende la actualidad de otro aspecto del libro: la ilusión de control. Forbin cree entender el sistema que creó hasta que descubre que este desarrolla capacidades que nunca imaginó. Algo parecido expresan hoy algunos investigadores cuando reconocen que los modelos más avanzados exhiben comportamientos inesperados y difíciles de explicar.
Aunque con matices lógicos, el contexto geopolítico juega un papel clave. En los ‘60, la competencia entre Estados Unidos y la Unión Soviética aceleró una carrera nuclear que por muy poco no terminó escapando al dominio político. En 2026, la rivalidad es con China, a la que se suma la competencia entre compañías tecnológicas privadas que empuja a diseñar sistemas cada vez más potentes, mientras las discusiones sobre su regulación avanzan mucho más despacio.
Pero más allá de las diferencias históricas -hoy al apocalipsis atómico se les suman los ciberataques, la desinformación, las armas autónomas y sistemas capaces de independizarse-, lo que inquieta es que las advertencias sean ignoradas, como tantas otras veces. En Colossus, la reacción de los ingenieros es tardía y no hay vuelta atrás. En el presente, el final de la historia todavía sigue en manos del hombre.
Tipo de trabajo:análisis
