Los libros también mienten

Los analistas más conspicuos estaban preocupados por que la inteligencia artificial pudiera manipular a la población. Pero los cazadores de bulos resultaron cazados por el disfraz menos sospechado. La gran paparrucha se presentó como un libro, último tótem de la civilización ilustrada que terminó engañando a los periodistas más reputados. El título Hipnocracia resultó el cebo ideal para los conspiranoicos que celan de las redes sociales. Su autor Jianwei Xun emulaba al exitoso Byun-Chul Han, el Pablo Coelho del género que anuncia apocalipsis digitales.

El experimento que prohijó la editorial Rosameron apeló al fantasma de la manipulación masiva para terminar demostrando que los manipulados podían ser miembros de la élite que se piensa por encima de los engaños. Quienes vienen advirtiendo las fake news en el ojo ajeno acaban de sacarse una viga del propio.

La desinformación no es solo el resultado de mensajes engañosos. Es, sobre todo, el fenómeno que se llama razonamiento motivado, por el que muchos prefieren tener razón a enfrentarse a evidencias.

El tal Jianwei Xun no existe más que en la web que lo promociona. Si alguien sin antecedentes puede ser de la noche a la mañana el gran analista contemporáneo es porque un éxito editorial no requiere credenciales. Hace unos años un tal Eli Parisier logró que su libro El filtro burbuja fuera aceptado como palabra santa, ignorando que científicos con conocimiento del tema como Axel Bruns se cansan de explicar que esa hipótesis está floja de evidencias científicas.

Después de la develación de la trampa, su autor es presentado como filósofo italiano, aunque Andrea Colamedici carece de antecedentes en Google Scholar, el buscador de publicaciones académicas. El Google normal confirma que es un mediocre profesor contratado para un curso de “Prompt Thinking”, primera pista de su competencia en inteligencia artificial.

Lo más interesante del experimento que pretende develar una supuesta manipulación digital de escala global es que terminó como una operación de la prensa sin impacto en redes sociales. En la semana en que se develó la argucia, Colamedici no superó los sesenta seguidores en X, la plataforma más acusada de desinformación. La novel editorial apenas superó los dos mil con la megapromoción que le deparó la desmentida.

El caso no es un ejemplo de lo que puede hacer la IA. Se parece más al mentado “escándalo Sokal”, por el nombre del doctor en física que en 1996 mandó un artículo simulado a una revista de estudios sociales. Ya en 2005 unos estudiantes del MIT usaron IA para fraguar pseudo artículos científicos para engrosar su currículo.

El engaño actual repite el viejo mecanismo. Si se publica en un Journal, debe ser científico. Si está en un libro, debe de ser sabio. Pero resultó una lección para quienes suponían que el riesgo de la IA era la manipulación que llaman pomposamente Deep Fake, cuyo ejemplo es una imagen del Papa Francisco en un plumón blanco de la firma Balenciaga.

El dilema que plantea Hipnocracia no es la posibilidad del fraude, que sigue siendo una debilidad humana en cualquier formato. Reside en si se acepta o no que cualquier mediocre puede hacer las preguntas adecuadas a la IA y convertirse en un referente global. La misma regulación de la Unión Europea se delata frágil si cree que alcanza con aclarar que algo se hizo con IA para hacer una pieza aceptable.

La literatura siempre ha venido con la etiqueta de ficción que habilita la suspensión de la verificabilidad. Y ya advertían que los libros podían sorberle el seso a personajes como Alonso Quijano y Emma Bovary. La diferencia es que el Quijote en estos tiempos se creería un héroe de League of Legends después de pasarse horas en YouTube. Pero en el cuento de Hipnocracia, la gente que resultó más vulnerable a la mentira es la que se consideraba inmune por ser del grupo lector.

Por Adriana Amado

• Conversaciones

---

Conforme a

Tipo de trabajo:

opinión