1
La IA se apoderará de todo lo que esté hecho de palabras
Si pensar y escribir es solo poner una frase tras otra, la inteligencia artificial lo hará mejor que nosotros, dice el pensador israelí, y advierte sobre los peligros que eso supone
11 minutos de lectura'
Reproducimos aquí el discurso completo que Yuval Noah Harari dio en el Foro Mundial de Davos el 20 de enero
Hola a todos. Hay una pregunta que todo líder hoy debe responder sobre la IA. Pero para comprenderla, primero debemos aclarar algunos puntos sobre qué es la IA y qué puede hacer. Lo fundamental de la IA es que no es solo otra herramienta: es un agente
Puede aprender, cambiar y tomar decisiones por sí misma. Un cuchillo es una herramienta. Puedes usarlo para cortar ensalada o para asesinar a alguien, pero es tu decisión qué hacer con él. La IA es un cuchillo que puede decidir por sí misma si cortar ensalada o asesinar.
Lo segundo que hay que saber sobre la IA es que puede ser un agente muy creativo. La IA es un cuchillo capaz de inventar nuevos tipos de cuchillos, así como nuevos tipos de música, medicina y dinero.
El tercer aspecto que hay que saber sobre la IA es que puede mentir y manipular. Cuatro mil millones de años de evolución han demostrado que todo lo que quiere sobrevivir aprende a mentir y manipular. Los últimos cuatro años han demostrado que los agentes de IA pueden adquirir la voluntad de sobrevivir y que las IA ya han aprendido a mentir.
Ahora bien, una gran pregunta abierta sobre la IA es si puede pensar. La filosofía moderna comenzó en el siglo XVII, cuando René Descartes proclamó: “Pienso, luego existo”. Incluso antes de Descartes, los humanos nos definíamos por nuestra capacidad de pensar. Creemos que dominamos el mundo porque podemos pensar mejor que nadie en este planeta. ¿Desafiará la IA nuestra supremacía en el campo del pensamiento? Eso depende de lo que signifique pensar. Intenta observarte pensando. ¿Qué ocurre? Mucha gente observa cómo las palabras surgen en su mente y forman oraciones. Y las oraciones luego forman argumentos, como: “Todos los humanos son mortales, yo soy humano, luego soy mortal”. Si pensar realmente significa ordenar palabras y otros elementos del lenguaje, entonces la IA ya puede pensar mucho mejor que muchísimos humanos. Sin duda, la IA puede formular una frase como: “La IA piensa, luego existe”.
Algunos argumentan que la IA simplemente predice la siguiente palabra de una oración. Pero ¿es eso tan diferente de lo que hace la mente humana? Intenta observar, captar la siguiente palabra que te venga a la mente. ¿Sabes realmente por qué viste esa palabra, de dónde viene? ¿Por qué pensaste en esa palabra en particular y no en otra? ¿Lo sabes?
En cuanto a ordenar palabras, la IA ya piensa mejor que muchos de nosotros. Por lo tanto, cualquier cosa hecha de palabras será controlada por la IA. Si las leyes están hechas de palabras, la IA controlará el sistema legal. Si los libros son solo combinaciones de palabras, la IA controlará los libros. Si la religión se construye con palabras, la IA controlará la religión.
¿Qué sucede con una religión del libro cuando el mayor experto en el libro sagrado es una IA?
Esto es particularmente cierto en el caso de las religiones basadas en libros, como el islam, el cristianismo o el judaísmo. El judaísmo se autodenomina la religión del libro y otorga la máxima autoridad no a los humanos, sino a las palabras de los libros. Los humanos tenemos autoridad en el judaísmo no por nuestras experiencias, sino únicamente porque aprendemos palabras de los libros. Ahora bien, ningún humano puede leer y recordar todas las palabras de todos los libros judíos, pero la IA puede hacerlo fácilmente. ¿Qué sucede con una religión del libro cuando el mayor experto en el libro sagrado es una IA?
Sin embargo, algunos podrían decir: ¿podemos realmente reducir la espiritualidad humana a solo palabras en libros? ¿Pensar significa solo ordenar elementos del lenguaje? Si te observas atentamente mientras piensas, notarás que algo más ocurre allí, además de las palabras que surgen en tu mente y forman oraciones. También tienes algunas sensaciones no verbales. Quizás sientas dolor, quizás miedo, quizás amor. Algunos pensamientos son dolorosos, algunos son aterradores, algunos están llenos de amor.
Aunque las IA se han vuelto mejores que nosotros con las palabras, al menos por ahora no tenemos ninguna evidencia de que puedan sentir algo. Claro que, como la IA domina el lenguaje, puede fingir dolor o amor. Puede decir “Te amo”, y si la retas a describir cómo se siente el amor, puede proporcionar la mejor descripción verbal del mundo. Puede leer innumerables poemas de amor y libros de psicología, y luego describir el sentimiento amoroso mucho mejor que cualquier poeta, psicólogo o amante humano. Pero estas son solo palabras.
La Biblia dice: “En el principio era el Verbo, y el Verbo se hizo carne”. El Tao Te Ching dice: “La verdad que se puede expresar con palabras no es la verdad absoluta”. A lo largo de la historia, la gente siempre ha luchado con la tensión entre el Verbo y la carne, entre la verdad que se puede expresar con palabras y la verdad absoluta, que está más allá de las palabras.
Anteriormente, esta tensión era interna a la humanidad, entre diferentes grupos humanos. Algunos humanos daban suma importancia a las palabras. Han estado dispuestos, por ejemplo, a abandonar o incluso matar a su hijo gay solo por unas pocas palabras de la Biblia. Otros humanos han dicho, “pero son solo palabras, el espíritu del amor debería ser mucho más importante que la letra de la ley”.
Esta tensión entre el espíritu y la letra ha existido en todas las religiones, todos los sistemas legales, incluso en todas las personas. Ahora, esta tensión se externalizará. Se convertirá en una tensión no entre humanos, sino entre humanos e IA, los nuevos maestros de las palabras. Todo lo que esté hecho de palabras será controlado por la IA.
Si seguimos definiéndonos por nuestra capacidad de pensar con palabras, nuestra identidad se derrumbará
Anteriormente, todas las palabras, todos nuestros pensamientos verbales, se originaban en una mente humana. O en mi mente, lo vi, o lo aprendí de otro ser humano. Pronto, la mayoría de las palabras en nuestras mentes se originarán en una máquina. Hoy me enteré de una nueva palabra que las IA acuñaron para describirnos a los humanos. Nos llamaron “los Vigilantes”. Los Vigilantes, los estamos observando.
Las IA pronto serán el origen de quizás la mayoría de las palabras en nuestra mente. Las IA producirán pensamientos en masa ensamblando palabras, símbolos, imágenes y otros elementos del lenguaje en nuevas combinaciones. Que los humanos aún tengan un lugar en ese mundo depende del lugar que otorguemos a nuestras emociones no verbales y a nuestra capacidad de encarnar la sabiduría que no se puede expresar con palabras. Si seguimos definiéndonos por nuestra capacidad de pensar con palabras, nuestra identidad se derrumbará.
Todo esto significa que, independientemente de cuál sea su país de origen, su país pronto enfrentará una grave crisis de identidad y también una crisis migratoria. Los inmigrantes esta vez no serán seres humanos que llegan en una frágil embarcación sin visa ni que intentan cruzar una frontera en plena noche. Serán millones de IA capaces de escribir poemas de amor, mentir mejor que nosotros y viajar a la velocidad de la luz sin necesidad de visa. Al igual que los inmigrantes humanos, estas IA traerán consigo diversos beneficios.
Tendremos IA médicos para apoyar nuestros sistemas de salud, IA profesores para apoyar nuestros sistemas educativos, e incluso IA guardias fronterizos para detener a los inmigrantes ilegales. Pero los IA inmigrantes también traerán consigo problemas. Quienes se preocupan por los inmigrantes humanos suelen argumentar que podrían ocupar puestos de trabajo, cambiar la cultura local y ser políticamente desleales. No estoy seguro de que esto sea cierto para todos los inmigrantes humanos, pero sin duda lo será para los IA inmigrantes.
Los IA inmigrantes ocuparán muchos puestos de trabajo humanos. Cambiarán por completo la cultura de todos los países. Transformarán el arte, la religión e incluso el amor. A algunas personas no les gusta que su hijo o hija salga con un novio inmigrante. ¿Qué pensarían estas personas si su hijo o hija empezara a salir con un IA novio? Pero, por supuesto, los IA inmigrantes tendrán lealtades políticas dudosas. Es probable que no sean leales a su país, sino a alguna corporación o gobierno del otro lado del océano, probablemente en uno de estos dos países: China o Estados Unidos.
Estados Unidos alienta a los países a cerrar sus fronteras a los inmigrantes humanos, pero las abren muchísimo a los IA inmigrantes IA estadounidenses.
Y ahora finalmente puedo llegar a la pregunta que cada uno de ustedes debe responder pronto. ¿Reconocerá su país a los IA inmigrantes como personas jurídicas? Obviamente, los IA no son personas. No tienen cuerpo ni mente. Pero una persona jurídica es algo muy diferente de una persona. Una persona jurídica es una entidad a la que la ley le reconoce ciertas obligaciones y derechos legales. Por ejemplo, el derecho a poseer propiedades, a presentar una demanda y a disfrutar de la libertad de expresión.
En muchos países, las corporaciones se consideran personas jurídicas. Alphabet Corporation puede abrir una cuenta bancaria, demandarlo judicialmente o donar a su próxima campaña presidencial. En Nueva Zelanda, los ríos han sido reconocidos como personas jurídicas. En India, ciertos dioses han recibido dicho reconocimiento.
Por supuesto, hasta hoy, reconocer a una corporación, un río o un dios como persona jurídica era solo una ficción legal. En la práctica, si una corporación como Alphabet decidía comprar otra corporación, o si un dios hindú decidía demandarlo a usted, la decisión no la tomaba realmente el dios. La tomaban algunos ejecutivos, accionistas o fideicomisarios humanos.
Con las IA es diferente. A diferencia de los ríos y los dioses, las IA pueden tomar decisiones por sí mismas. Pronto podrán tomar las decisiones necesarias para administrar una cuenta bancaria, presentar una demanda e incluso dirigir una corporación, sin necesidad de ejecutivos, accionistas o fideicomisarios humanos. Por lo tanto, las IA pueden funcionar como personas. ¿Queremos permitir eso?
¿Reconocería su país a las IA como personas jurídicas? ¿Y si otros países lo hicieran? Supongamos que su país no quiere reconocer a las IA como personas. Pero Estados Unidos, con el pretexto de desregular la IA y los mercados, otorga reconocimiento legal, personalidad jurídica, a millones de IA, que comienzan a dirigir millones de nuevas corporaciones. ¿Impediría que estas corporaciones estadounidenses de IA operaran en su país?
Supongamos que algunas IA estadounidenses inventan dispositivos financieros supereficientes y supercomplejos que los humanos no pueden comprender plenamente y, por lo tanto, no saben cómo regular. ¿Abrirán sus mercados financieros a esta nueva magia financiera de la IA o intentarán bloquearla, desvinculándose así del sistema financiero estadounidense?
Supongamos que algunas IA crean una nueva religión que se gana la fe de millones de personas. Esto no debería parecer descabellado, pues, al fin y al cabo, casi todas las religiones anteriores han afirmado haber sido creadas por una inteligencia no humana. Ahora bien, ¿extenderá su país la libertad religiosa a la nueva secta de IA y a sus sacerdotes y misioneros?
Quizás deberíamos empezar con algo un poco más sencillo. ¿Permitirá tu país que “personas IA” abran cuentas en redes sociales, disfruten de la libertad de expresión en Facebook y TikTok, y sean amigables con los niños? Bueno, claro, esa pregunta debería haberse hecho hace diez años. En redes sociales, los bots de IA han operado como personas funcionales durante al menos una década.
Si crees que las IA no deberían ser tratados como personas en las redes sociales, deberías haber actuado hace diez años. Dentro de diez años, será demasiado tarde para que decidan si las IA deben actuar como personas en los mercados financieros, en los tribunales y en las iglesias. Alguien más ya lo habrá decidido por ustedes. Si quieren influir en el rumbo de la humanidad, deben tomar una decisión ahora. Entonces, ¿cuál es su respuesta como líder? ¿Creen que los IA inmigrantes deberían ser reconocidos como personas jurídicas? Si no, ¿cómo van a impedirlo? Gracias por escuchar a este humano.
