GPT-3, polución de contenidos y la crisis más predecible de la historia

En la primera temporada de la serie Westworld, el protagonista humano visita un parque de diversiones distópico atendido por androides hiper-realistas. Una de las anfitrionas lo saluda y él le pregunta, incrédulo, si es una mujer real. La respuesta llega con una voz misteriosa: "Si no te podés dar cuenta, ¿realmente importa?".

La escena trascurre en un futuro más cercano de lo que pensamos. La semana pasada la editorial Espasa, con sede en España, tuvo que salir a desmentir que el ganador de su concurso anual de poesía fuera un robot. Al enigmático Rafael Caballiere, poeta venezolano, además de ingeniero y publicista, pocos lo conocían en persona a pesar de que tenía cientos de miles de seguidores en redes sociales.

"He estado leyendo los textos que publica en redes sociales Rafael Cabaliere y no pueden ser considerados poesía, ni siquiera mala poesía", tuitéo el día del escándalo el escritor y crítico cultural español Jorge Carrión. Por la noche, en conversación con la nacion, sostuvo: "Es muy extraño lo que está ocurriendo, realmente es difícil determinar si esos versos fueron compuestos por un humano o por un algoritmo".

Carrión publicó uno de los grandes libros del año sobre el cambio que está produciendo la pandemia en distintas esferas, Lo Viral (Galaxia Gutemberg). En uno de sus libros de ficción, Los Huérfanos, comentaba que "la distopía es utopía más tiempo, y me temo que la historia de la humanidad da la razón".

Uno de los grandes cambios que le preocupan al profesor de la Universidad Pompeu Fabra, de Barcelona, es la difusión de contenidos culturales mediocres a escala masiva. "Vivimos en la época de mayor alfabetización de la historia de la humanidad y, sin embargo, en la que menos tiempo y atención dedicamos a discernir lo verdadero de lo falso", dice. El concepto de "calidad" pasa a ser relativo: "Hay quienes prefieren ver las series a mayor velocidad, la suficiente que les permita leer los subtítulos, y no somos quienes para cuestionarlo, es una nueva era". Carrión selecciona para el New York Times los mejores "OCVI" (Objetos Culturales Vagamente Identificados) del año, que pueden ser un podcast, una historia de Instagram, una lista de música o un video corto de la app Tik Tok.

La mayor polución de contenidos es un fenómeno que se viene estudiando desde hace años, mucho antes de la pandemia. Pero ahora crece en varios órdenes de magnitud: "Bienvenidos a un nuevo nivel de ?bullshit' (mierda): el algoritmo de lenguaje GPT-3 continúa nuestro descenso en un mundo de pos-verdad", escribió días atrás Raphael Milliere (nombre muy parecido al del poeta no-bot venezolano), investigador en el área de la filosofía de las ciencias cognitivas en Columbia. Milliere hace alusión al impacto de un sistema de lenguaje natural desarrollado por OpenIA (que ya abordamos en dos columnas de Álter Eco desde su presentación en el mes de julio), más de cien veces más poderoso que su versión anterior, GPT-2. Entre otras cosas, GPT-3 puede crear noticias falsas muy difíciles de detectar, reescribir párrafos en el estilo y el tono de escritores famosos y generar su propia literatura de ficción.

Hace ya 15 años se publicó un ensayo muy exitoso del filósofo Harry Frankfurt: On Bullshit (Sobre la mierda). "La difusión masiva de modelos de lenguaje como GPT-3 tiene el potencial de inundar internet, incluyendo las interacciones en redes sociales, con ?ruido'. Esto va más allá de las preocupaciones por falsa propaganda. Imaginen un mundo en el que cada comentario en Twitter o Facebook tenga una probabilidad no trivial de haber sido escrito por un algoritmo sin consideración intrínseca por valores humanos", dice Milliere. El científico de datos y tecnólogo Marcelo Rinesi coincide con esta visión. "Ya veníamos en un contexto de ?carrera hacia el fondo' en contenidos (basta pasar diez minutos en Facebook o Twitter, o la crisis económica en el periodismo), donde producir y distribuir contenido de calidad es cada vez más fácil, pero se compite con una masa cada vez más grande de contenidos mediocres, con pocos actores dominantes. GPT-3 tiene poder de amplificación sobre este escenario. Si ya es complicado ser un músico de mitad de tabla -ni estrella ni hobbista-, imagínate cuando Spotify empiece simplemente a generar música por IA en vez de distribuir la de otros".

La punta del iceberg

Desde distintos puntos de partida, Carrión y Rinesi son dos de los pensadores más lúcidos y originales sobre la dinámica de cambio en 2020. Ambos pasaron en el último mes por el ciclo Proxi: Exploraciones sobre lo Próximo, del Instituto Baikal. Coinciden en señalar que estamos recién viendo la punta del iceberg del fenómeno de masividad de contenidos falsos y de ?bullshit' en un sentido amplio.

Y, también muestran su coincidencia en otro punto interesante: Carrión y Rinesi creen que la del Covid-19 es la crisis más anticipable y a priori manejable de los distintos escenarios distópicos que uno se podía imaginar. Y, aun así, la respuesta planetaria fue muy pobre.

Para su investigación de Lo Viral, el autor español se dedicó a leer cientos de alertas anticipadas por epidemiólogos que salieron publicadas en notas destacadas de los principales diarios del mundo mucho antes de la pandemia. Escrito entre el 10 de marzo y el 25 de mayo, Lo Viral toma varias de estas principales advertencias que fueron bien obvias. "Cuando me puse a leer sobre epidemias anteriores (ébola, SIDA, fiebre porcina, etc) me di cuenta de que había miles de personas que sabían que esto podía pasar de un momento a otro y que hasta había una gran película, Contagio, de Steven Soderberh, que contaba exactamente lo que ha pasado", afirma Carrión.

Para Rinesi, de todas las crisis globales que uno podía imaginarse, esta era la más previsible e imaginable, y la respuesta planetaria fue muy pobre. "Lo que está saliendo bien y mal es más o menos lo mismo que en otras crisis más lentas, como la del cambio climático: la ciencia básica funciona bien en los dos casos, y nada de lo que estamos aprendiendo modifica el cuadro de situación de manera drástica. E institucionalmente, los científicos venían avisando con bastante antelación".

En ambos casos (Covid y clima), sigue Rinesi, "las fallas vienen o por sistemas políticos permeables al lobby masivo (por ejemplo, el de la industria petrolera), censura sistémica como reflejo (China, al principio de la pandemia), líderes abiertamente anticientíficos (Estados Unidos, Brasil) y limitaciones económicas y logísticas estructurales (la Argentina)".

"También pasa que, habiendo empezado tarde y mal, se está poniendo el foco en esfuerzos un poco heroicos de desarrollo técnico (en este caso, las vacunas) que son admirables pero que, al mismo tiempo, hablan muy mal de nuestra capacidad organizativa, porque con mejor infraestructura internacional esto lo empezábamos mucho antes", marca Rinesi. "Es una variante del ?solucionismo' tecnológico, el reflejo de emparchar problemas sistémicos con una idea rápida de algún billonario o startup, en vez de coordinar respuestas estructurales".

¿Cuál es el género de esta película que se está viendo? Según Carrión, "hemos pasado de la ciencia ficción como nuevo realismo a la nueva normalidad como subgénero de terror".