1
Yuval Noah Harari, sobre los peligros económicos y políticos de la IA
El historiador y pensador israelí alertó que la inteligencia artificial reconfigurará la confianza global y podría derivar en un “despotismo tecnológico”; propuso regulaciones urgentes para evitarlo
5 minutos de lectura'
Yuval Noah Harari se describe a sí mismo como un historiador que no estudia el pasado, sino el cambio. Su primer gran éxito editorial, Sapiens, aplicó esa lente al amplio abanico de la historia humana. El segundo, Homo Deus, analizó el rol de la religión en la construcción del futuro de la humanidad. Su trabajo más reciente, Nexus, examinó cómo el control de la información ha cambiado el curso de la historia y cómo la inteligencia artificial (IA) podría moldear el futuro.
En una entrevista para el programa Insider de The Economist, Harari advirtió que el mayor impacto de la IA podría ser la forma en que reconfigura la confianza, “el activo más importante del mundo”. Gran parte de la modernidad está sustentada por sistemas que permiten que la confianza funcione a escalas inimaginables en el mundo prehistórico. El dinero es una “forma muy creativa e imaginativa de construir confianza entre extraños”: la gente entrega con gusto bienes valiosos a cambio de nada más que la promesa de que otra persona hará lo mismo a su vez. “Los banqueros, si son buenos y hacen su trabajo, construyen confianza”, señaló.
Entregar el control del sistema financiero a una IA potente parece casi inevitable, consideró Harari. Los sistemas de IA pronto serán capaces de comprender la totalidad de la economía global con un nivel de detalle mucho mayor del que un humano jamás podría alcanzar. Por lo tanto, previó que la presión para que los humanos depositen más confianza en las IA aumentará en los próximos años. En ese sentido, apuntó al auge de las criptomonedas, o “dinero de IA”, como lo definió. Evaluó que muchas personas tienen más fe en el algoritmo de Bitcoin que incluso en esos buenos banqueros. A medida que la gente la pierda en los medios de comunicación, consumen con gusto contenidos seleccionados por algoritmos en plataformas digitales (como TikTok o Instagram).
La paradoja radica en que la creciente confianza de las personas en sus interacciones individuales con las IA podría llevar, con el tiempo, a la desconfianza hacia el propio sistema tecnológico financiero, al que esas interacciones conducen en última instancia. Esto se debe a que los seres humanos no tendrán forma de deducir cómo y por qué la IA toma sus decisiones. “El sistema financiero humano controla la vida de vacas y gallinas, pero las vacas y gallinas no tienen idea de que las finanzas siquiera existen”, señaló y agregó que “es muy probable que esa sea nuestra posición dentro de diez años”.
Incluso dejando de lado los riesgos existenciales que la inteligencia artificial puede plantear —los cuales Harari consideró reales—, un mundo en el que los humanos lleguen a confiar en ella hasta tal punto sería peligroso. Por ejemplo, solo hace falta imaginar un colapso financiero en un sistema tecnológico financiero: si sus causas van más allá de la comprensión humana, será imposible articular una respuesta política, al menos por parte de los tomadores de decisiones humanos.
La preocupación más profunda de Harari es que un exceso de confianza en la IA pueda conducir a un “despotismo tecnológico”. Stalin podía dar un discurso por radio y obligar a todos los ciudadanos soviéticos a escucharlo. Pero para tener un control real sobre la población, necesitaba que todos confiaran verdaderamente en él, en lugar de simplemente fingirlo. Y eso habría requerido millones de relaciones personales, algo que ni siquiera el dictador laborioso pudo lograr. “La IA hace posible, por primera vez en la historia, producir intimidad en masa”, observó Harari. Muchas personas ya afirman tener amigos de inteligencia artificial e incluso compañeros románticos. “Se puede tener a millones de IA trabajando como parte de una red al servicio de alguien, o al suyo propio... y luego usar ese poder de intimidad para convencer [a las personas] de cualquier intereses políticos o comerciales que deseen”, determinó.
“La única manera de contener los daños potenciales es a través de la regulación”, opinó Harari. Propuso prohibir que adquiera personería jurídica ―una medida similar a la que en la Argentina se pretende adoptar al permitir que los bots dirijan empresas― y prohibir que suplante a los seres humanos ―incluidos los deepfakes, que han llegado a ser tan convincentes que a él mismo le tomó unos 90 segundos enteros darse cuenta de que un video de una de sus conferencias que había recibido recientemente no era real―.
Dada la velocidad vertiginosa de los avances de la IA, consideró que los legisladores —especialmente en Estados Unidos, donde se está produciendo la mayoría de estos avances y cuyo gobierno sigue siendo democráticamente responsable— deben actuar ahora. Y los votantes también deberían hacerlo. Si fuera por Harari, las elecciones de medio término de noviembre girarían por completo en torno a la IA.
