1
Inteligencia artificial, una amenaza existencial para la humanidad
Supongamos que décadas atrás alguien hubiera formulado estas profecías. Profecía A: “Un Parlamento mundial democrático legislará sobre los asuntos comunes de la humanidad, como la protección del medio ambiente, la proliferación nuclear y el control de la tecnología”. Profecía B: “Una red binaria basada en impulsos eléctricos conectará al mundo al instante y se convertirá en el eje alrededor del cual girarán las relaciones sociales: trabajaremos en ella y para ella; estudiaremos a través de ella; la política y la economía dependerán de ella y le delegaremos decisiones cada vez más importantes, comenzando por el camino de vuelta a casa y terminando por la elección de nuestras parejas”. De estas dos profecías, hace treinta años, ¿cuál se hubiera considerado la más realista y cuál la más utópica e improbable?
La política atrasa. Con esta frase comienza el Manifiesto por la Democracia Global, que escribí hace diez años y fue firmado por intelectuales de primer nivel de todas las tendencias. En el mundo asincrónico en que vivimos, tenemos una tecnología del siglo XXI, una economía del siglo XX y una política del siglo XIX, cuyas instituciones básicas son los Estados nacionales creados para administrar un universo industrial en desaparición. Mientras la tecnología acelera, los tímidos intentos realizados por los seres humanos para elevar la democracia y el federalismo a la escala global se muestran insuficientes. A cada crisis global, como la reciente pandemia, las instituciones internacionales muestran su falta de transparencia y eficacia, y sus fracasos alimentan la idea de su inutilidad en el momento mismo en que son cada vez más necesarias.
De las grandes amenazas existenciales que enfrenta la humanidad, la mayor de ellas se llama Inteligencia Artificial General (IAG) y puede generar impactos exponenciales. Alrededor de ella se han formado ya dos bandos: apocalípticos e integrados. Entre los apocalípticos que advierten sobre una posible ola de desempleo masivo, la pérdida total de la privacidad, el fin de la democracia y hasta la desaparición de la humanidad, el más conocido es Yuval Harari. Entre los integrados que creen que cuando la IAG supere la capacidad de un ser humano, primero, y la de toda la humanidad, después, entraremos en un mundo de abundancia y expansión de nuestras posibilidades, se destaca Raymond Kurzweil. La singularidad tecnológica está llegando y nadie sabe qué puede suceder; pero algo es seguro: a medida que el poder humano se incrementa, la opción binaria entre el cielo y el infierno se hace más concreta.
En nuestro universo asincrónico, la tecnología avanza a la velocidad de la luz, la política se mueve al ritmo de una carreta y del caos resultante surge una grieta planetaria. De un lado, los “patriotas”, nacionalistas soberanistas que creen ilegítima toda forma de poder supranacional y piensan que la civilización global del siglo XXI puede ser manejada por las instituciones nacionales del siglo XIX. Del otro, los “globalistas”, cosmopolitas que creemos que las soberanías nacionales deben respetarse en los asuntos nacionales, pero un sistema institucional global basado en la democracia y el federalismo es imprescindible para dar soluciones globales a las crisis globales. Entre nosotros militaba un tal Einstein, que mientras enseñaba física nuclear en Princeton organizaba reuniones del Movimiento Federalista Mundial en su casa y proponía un gobierno mundial que evitase la proliferación nuclear.
Es desde entonces, desde Hiroshima, que el control de la tecnología está en el núcleo de los problemas políticos globales. Instituciones capaces de proteger los bienes comunes de la humanidad y de enfrentar las amenazas globales son necesarias para evitar una catástrofe. Pero los “patriotas” no están de acuerdo. Señalan el uso de la agenda 2030 por la ideología woke y descalifican a la ONU. Razones no les faltan. Sin embargo, creer que es posible seguir globalizando la tecnología y la economía sin avanzar en políticas globales o creer que detrás de ellas se esconden Soros, Gates y un complot judío-masónico-comunista es regresar a los Protocolos de los Sabios de Sión, y a sus consecuencias.
Por décadas, cuando en el Movimiento Federalista Mundial nos preguntábamos qué podía obligar a los seres humanos a comprender que somos una sola comunidad que habita un planeta pequeño y frágil y está obligada a tomar decisiones conjuntas, la respuesta era: una invasión marciana. Y bien, la invasión marciana está entre nosotros. Se llama Inteligencia Artificial General y supone la creación de una entidad alienígena difícil de controlar, que no comparte nuestros valores, pero tiene acceso a todas nuestras tecnologías, incluido el arsenal atómico. Por eso Time titula: “The end of humanity - how real is the risk” y en todos los países avanzados se ha comprendido la magnitud del problema. Pero lo corremos desde atrás, sin superar la contradicción entre nuestra lentitud para las reformas políticas y nuestra genialidad para acelerar la innovación tecnológica.
La IAG configura una amenaza existencial para la humanidad. Los gigantescos aportes que puede hacer al bienestar humano crean riesgos apocalípticos. Uno es que perdamos el control de la tecnología. Otro es que no lo perdamos. En el primer caso dependeremos de una entidad que nos verá como vemos a las hormigas: tal será la diferencia entre su inteligencia y la de un ser humano. En el segundo, la difusión de los conocimientos sobre armas de destrucción masiva los pondrá fatalmente en manos de un nuevo Eróstrato, aquel pastor griego que quemó el templo de Artemisa. El régimen coreano y los ayatolas iraníes tienen excelentes chances de ser uno. Los grupos terroristas internacionales, las corporaciones globales y las dos grandes potencias que se disputan la hegemonía mundial pueden generar otros.
La anarquía intrínseca a un universo basado en el poder soberano de doscientas naciones hace temer que ya sea tarde. Tecnológicamente, no es claro cómo podría controlarse la IAG en este estadio de su desarrollo. Políticamente, el mundo enfrenta los mismos dilemas que destruyeron Europa hace cien años. La marcha del fascismo sobre Roma fue en 1922 y el fallido golpe nazi contra la República de Weimar, en 1923. Así empezó. En dos décadas, la Europa de las soberanías nacionales absolutas llevó a los peores episodios destructivos de la Historia. Por suerte, las armas nucleares solo aparecieron al final y estaban en manos de uno solo de los contrincantes. Pero los seres humanos hemos decidido darles revancha a las tragedias.
¿Nos espera el paraíso o el infierno? ¿Tendrá razón Kurzweil o Harari? Nadie lo sabe, pero tecnologías de impacto global en manos de doscientos Estados diseñados para priorizar sus propios objetivos es una fórmula suicida. Que la Inteligencia Artificial General esté llegando antes de que alguna forma de regulación global pueda controlar su desarrollo y mientras estamos ocupados en frenar a un “patriota” nostálgico del imperio de los zares que amenaza con un holocausto nuclear no es casual, sino el efecto inevitable de la renuncia a globalizar las instituciones democráticas. “Sabemos quién habla en nombre de las naciones, pero ¿quién habla en nombre de la especie humana?”, escribió Carl Sagan en los 80, cuando el ChatGPT era ciencia ficción. La política ha sido incapaz de dar una respuesta. La tecnología se escapa de control. Como sostuvo Ulrich Beck, superar las categorías zombis con las que pensamos políticamente el mundo global se ha transformado en una cuestión de supervivencia.
Tipo de trabajo:opinión
