No alcanza con entender cómo funciona la tecnología

Suele divertirme mucho recordar cuando, hace cinco o seis años, señores en escenarios nos contaban que en cuatro años todo el mundo tendría una impresora 3D en su casa. También nos hablaban de las virtudes de aprender a programar, vaticinando que era más importante que aprender idiomas. Era difícil no dejarse cautivar por ese optimismo e ingenuidad. Recuerdo con mucho cariño el góspel de que la tecnología nos iba a salvar a todos.

Afortunadamente algunas de esas exageradas afirmaciones fueron olvidadas, y hoy ya casi no se menciona a las impresoras 3D como algo que debemos tener en casa. En cambio, a paso glacial se puso cada vez mayor énfasis en la urgencia de aumentar la diversidad e inclusión en el mundo de la tecnología y esto dio lugar a grandes iniciativas. No tendremos impresoras 3D pero, poco a poco, tenemos una industria que busca ser más saludable.

Un 2019 sin inocencia tecnológica

A fuerza de cataclismos el discurso sobre la tecnología ha tenido que cambiar. De la aldea global con la que Facebook nos supo bendecir pasamos a los temores de haber perdido nuestras democracias en manos de algoritmos misteriosos. Incluso cuando navegamos entre miedos infundados y peligros desconocidos, que la tecnología pueda discutirse cada vez más en torno a los problemas que genera y no solo a las soluciones que provee es, cuando menos, refrescante.

La crítica a la tecnología es tan vieja como la tecnología misma, pero ahora al menos parece haberse puesto de moda. Desde el aumento de la desigualdad económica, el colapso de ciertos consensos alrededor del mundo, hasta el cambio climático y las divisiones sociales, la tecnología supo inmiscuirse en todo lo que hoy pasa, y esto avivó el interés por esclarecer cómo nos afecta.

Aprovechando el verano para ponerme al día con lecturas postergadas por el trajín de el-resto-del-año, retomé New Dark Age (2018) del artista y escritor James Bridle. Este autor se hizo popular al mostrar cómo podía usar círculos de sal para atrapar a vehículos autónomos y el año pasado por denunciar que "algo andaba mal en internet" y mostrar la abundancia de versiones macabras de dibujos infantiles que circulaban en YouTube sin que nadie sospechara.

En New Dark Age se expanden algunas de las ideas germinales presentes en la obra de Bridle. Lo que procura, en resumen, es adelantarse a las consecuencias de la "revolución tecnológica" a partir de los efectos inesperados que se observan en tiempos recientes. Bridle parece tomar la posta de Evgeny Morozov en To Save Everything, Click Here (2013), aunque con bastante menos cinismo, dando letra por un par de años a cuanto tecnopesimista decida leerlo.

Crítica a la tecnología

El libro comienza con una afirmación obvia: se volvió imposible ignorar la necesidad de pensar acerca de la tecnología de manera diferente, de incorporar la crítica como un elemento indispensable en el discurso tecnológico y, sobre todo, de procurar participar de forma significativa en cómo se da forma y se implementa la tecnología en los espacios que habitamos. En respuesta a estas urgencias se acentúa la importancia de entender cómo funcionan los sistemas tecnológicos, cómo se conectan entre sí, cómo interactúan y cómo su potencial puede ser aprovechado o abusado.

Sin embargo, para Bridle entender cómo funcionan las cosas no es suficiente. En cambio, es imprescindible poder desentramar sus complejas relaciones, y para ello se necesita una genuina alfabetización tecnológica que vaya más allá de la comprensión del funcionamiento de un sistema y alcance también su contexto, su historia y sus consecuencias. Recién con este entendimiento es que se hace violentamente obvio que ningún sistema, ninguna solución en particular, puede atacar todo problema. La alfabetización tecnológica es sin más un ejemplo de pensamiento sistémico.

Todo esto supone, naturalmente, una preocupación por la educación. En respuesta a un débil entendimiento de cómo funciona la tecnología suelen proponerse todo tipo de iniciativas, generalmente enfocadas en la enseñanza de la programación. Este tipo de propuestas ya no son en absoluto novedosas y han sido adoptadas por políticos, educadores e incluso la prensa, por lo general en torno a discursos utilitaristas y pro-mercado. "La economía de la información necesita más programadores y los jóvenes van a necesitar trabajos en el futuro", resume Bridle.

Estudiar sistemas (y entenderlos)

Nadie discute realmente la importancia de la enseñanza de programación, pero quedarse solo con eso es más bien corto de vista. En palabras de Bridle: "Es necesario poder pensar acerca de las historias de los sistemas y de sus consecuencias también. ¿Cómo fueron hechos estos sistemas, quién los diseñó y para qué? ¿Cuáles de estas intenciones recién hoy estamos pudiendo desentrañar?"

Otro peligro de la miopía detrás de entender a la tecnología en términos puramente funcionales es la caída en lo que muchas veces se llama "solucionismo", aunque Bridle prefiere el término "pensamiento computacional": la creencia en que todo problema puede abordarse desde lo digital. Razonar así marca una forma de entender al mundo que cala tan profundo que nos hace prácticamente imposible concebir la realidad en términos que excedan a la computación o lo que puede resolverse con ella.

En resumidas cuentas, "si la filosofía es aquella fracción del pensamiento humano que lidia con aquello que no puede ser explicado por la ciencia", explica Bridle, "entonces la alfabetización sistémica es la forma de pensar que lidia con un mundo que no es computable, aunque reconoce que está irreversiblemente moldeada por la computación".

Aunque todavía queda un argumento más, esta vez en dirección contraria: deberíamos poder contar con que los sistemas tecnológicos con los que interactuamos son seguros incluso si no sabemos programar. En este punto la forma en que Bridle explica su perspectiva es particularmente torpe (casi rozando lo falaz al afirmar que "uno no debería necesitar ser plomero para saber que sus cañerías no van a matarlo"), pero el núcleo de su desarrollo es sólido: si la tecnología que usamos nos pone en peligro, difícilmente haya una cantidad de conocimiento sobre programación que nos pueda salvar en el largo plazo.

Suele costar horrores pensar en cómo la tecnología con la que interactuamos hoy podrá tener consecuencias a futuro, y más aún nos cuesta pensar acerca de tecnología que todavía no existe. A fin de cuentas lo que Bridle propone es un acercamiento para entender a la tecnología y convivir con ella incluso cuando los límites de este entendimiento sean poco claros e incluso desalentadores. "Lo que necesitamos son nuevas metáforas", nuevas formas de hablar acerca de una realidad cuyas dimensiones políticas, sociales, culturales y tecnológicas están irreversiblemente entretejidas.

Si siempre estuvimos conectados, de una forma u otra, lo que ahora cambia es que estas conexiones pueden hacerse visibles, registrarse, estudiarse, manipularse. Nuestro concepto de "agencia" (la capacidad de actuar en el mundo) colapsó y debemos incorporar formas de pensar acerca de agentes no humanos. Quizá uno de nuestros mayores errores sea pensarnos como opuestos a los sistemas tecnológicos, como si la tecnología y nosotros estuviéramos enfrentados. Esta "nueva era oscura" que atravesamos implica actuar sin poder entender del todo, pero eso no es excusa para no trabajar en nuevas formas de pensar al mundo y pensarnos a nosotros en él.

"Tenemos mucho que aprender acerca de no saber. La incertidumbre puede ser productiva, incluso sublime". De la intensidad de su escritura se desprende una alegre paradoja: para ser un pesimista, Bridle es terriblemente optimista.