Atlas de la inteligencia artificial: Kate Crawford y el libro que busca redefinir el alcance de los algoritmos

En una de las escenas centrales de Avengers: Era de Ultron (2015), luego de una larga serie de arduos esfuerzos, vemos cómo “despierta la consciencia” de Ultron, una inteligencia artificial creada por Tony Stark.

—¿Dónde está mi…? ¿Dónde está tu cuerpo? —pregunta Ultron.

—Soy un programa. No tengo forma física — le responde J.A.R.V.I.S., el mayordomo digital de Stark.

—Se siente extraño… Se siente incorrecto.

Quizá una de las mayores proezas recientes de la industria de la tecnología sea el haber logrado hacernos olvidar la materialidad de la información. Gracias a las conexiones de alta velocidad y la aparente infinitud de la “nube”, en nuestros teléfonos ya casi no guardamos fotos y videos, y lo que sea que precisemos lo conseguimos en cuestión de segundos: una respuesta, un episodio de una serie, una película, una canción. Todo está en la nube, y en nuestras palmas tenemos las llaves del cielo.

“Internet no es un gran camión, [Internet] es una serie de tubos”, sintetizó Ted Stevens, el ex senador de Alaska, durante una exposición en contra de la neutralidad de la red en Estados Unidos. Las parodias y burlas no se hicieron esperar. Stevens era un blanco fácil: una persona mayor que demostraba tener un pobrísimo entendimiento acerca de cómo funciona Internet.

Internet es mucho más que una “serie de tubos” y el reducir su maravillosa complejidad a una expresión tan burda no sonó como otra cosa que un insulto. Y sin embargo, y en un sentido lo suficientemente interesante, Internet es, entre otras cosas, una serie de tubos.

Tubos y nubes

Es precisamente a esta fisicalidad que el periodista Andrew Blum dedicó las páginas de Tubes (2012): “He confirmado con mis propios ojos que Internet es muchas cosas, en muchos lugares. Pero, ciertamente, en casi todas partes es, de hecho, una serie de tubos. Hay tubos debajo del océano que conectan Londres y Nueva York. Tubos que conectan Google y Facebook. Hay edificios llenos de tubos y cientos de miles de millas de carreteras y vías de ferrocarril, junto a las cuales hay tubos enterrados. Todo lo que hacés en línea viaja a través de un tubo”.

Stevens falleció trágicamente en un accidente aéreo en 2010, pero ciertamente hubiera sabido apreciar la ironía.

Hace diez años todavía nos preocupaba la capacidad de nuestras laptops y teléfonos, y cada tanto hacía falta detenerse a explicar de qué se hablaba cuando alguien mencionaba a la mítica nube. Todavía el consumo de audio y video se repartía entre lo local y el streaming, y las personas aún compraban DVDs.

El fin de la posesión

Pero con sigilo y delicadeza la “nube” fue ganando terreno sobre nuestras vidas digitales. Hoy las laptops tienen almacenamiento incluso de menos capacidad que hace diez años, aunque mucho más veloces, y las personas regalan sus colecciones de discos y películas porque en muchos casos ya ni siquiera tenemos aparatos para reproducirlos en casa. Vivimos el “fin de la posesión”, como argumentaban hace algunos años Aaron Perzanowski y ‎Jason Schultz en The End of Ownership (2016).

Este desacople entre las capacidades de nuestros dispositivos y la “nube” de la que se sirven es indispensable para gran parte de sus méritos. Podemos acceder a (casi) infinitos contenidos en segundos y tenemos la tranquilidad de que incluso si perdiéramos el acceso a ellos nada habría de qué preocuparse. La parte inteligente de nuestros teléfonos está, en realidad, en otro lado, y nuestra información —nos gusta creer— está resguardada por los dueños de la nube, y es esto mismo lo que hace posible el bajo costo de los asistentes digitales como Google Home o Amazon Alexa: su “inteligencia” está en otra parte.

Es esa “otra parte” donde nuestros comentarios sobre la tecnología suelen estar en deuda. Tanto nos dejamos maravillar por lo que sucede en la palma de nuestras manos que rara vez nos detenemos a pensar en todo lo que debe ocurrir por detrás para que la magia suceda. Y es así como se nos escapa que además del mago hay un hombre moviendo palancas y tocando botones detrás de una cortina.

La primera vez que vi a un mago hacer desaparecer la Estatua de la Libertad debo haber pasado una semana tratando de entender lo que había visto. Por aquel entonces en la televisión pasaban casi media docena de programas de magia e ilusionismo, lo que seguramente explica por qué tantas personas que crecimos en los años 90 tenemos un kit de magia tirado en algún altillo.

No pasó tanto tiempo hasta que la moda pegó un vuelco y en cambio se multiplicaron los programas dedicados a explicar la magia —o arruinarla, según a quién le preguntemos. Algo parecido está pasando en el campo de la inteligencia artificial: el optimismo desenfrenado pasó a ser visto como ingenuo y aunque a veces solo sea por buenos modales ya nadie se anima a hablar del tema sin apurarse a meter la palabra “ética” en algún lado.

Y sin embargo las discusiones en torno a la inteligencia artificial generalmente discurren obsesivamente acerca de los mismos temas: sesgos algorítmicos, diversidad e inclusión, privacidad, y un largo etcétera. Lo que queda afuera, nuevamente, es la materialidad de la inteligencia artificial.

El atlas de la inteligencia artificial

Cuando Kate Crawford estuvo en Argentina a fines de 2018, invitada en el marco de la iniciativa Argentina 2030, escucharla hablar se sentía en parte como mirar esos programas donde se explicaban los trucos. Compartimos un desayuno con varias de las personas que en nuestro país se hacían sus mismas preguntas acerca del impacto que tiene la inteligencia artificial.

Crawford es la cofundadora del AI Now Institute e investigadora hace muchos años del impacto de la inteligencia artificial. En aquella conversación con recurrencia aparecían los temas que fueron volcados en The Atlas of AI (2021, “El atlas de la Inteligencia Artificial”), el libro que acaba de publicar acerca de todo eso que frecuentemente queda afuera de la discusión. En pocas palabras, su libro se propone ampliar la ya agotada discusión acerca de la ética de la inteligencia artificial hacia el análisis y crítica de las relaciones de poder que se codifican en torno a ella.

Un atlas es una colección sistemática de mapas de todo tipo, que no solo aborda la geografía física de un territorio sino también sus características socioeconómicas, religiosas y políticas. Y es de esta manera que puede leerse The Atlas of AI, cuyos “mapas” van desde los debates en torno a los datos y su clasificación, el lugar que ocupan los derechos laborales frente a la automatización y el rol que frente a esta encuentran los Estados, hasta un esforzado mapeo de las relaciones de poder imbricadas en cada punto de la cadena de valor de la inteligencia artificial.

“Muchos de los libros que se han escrito sobre la inteligencia artificial en realidad solo hablan de ciertos logros técnicos muy limitados”, cuenta Crawford. “Yo quería hacer algo muy diferente: he querido entender cómo se crea la inteligencia artificial en el sentido más amplio. Esto significa analizar los recursos naturales que la impulsan, la energía que consume, el trabajo oculto de la cadena de suministro y la gran cantidad de datos que se extraen de cada plataforma y dispositivo que usamos todos los días”.

Notablemente, su análisis parte desde la forma en que clasificamos al mundo y no se agota en los dispositivos que aprovechan esa información sino que cierra con la pregunta acerca de qué pasa con nuestros aparatos una vez que se vuelven obsoletos y pasamos a llamarlos basura, un recorrido que Crawford exploró en la instalación artística The Anatomy of AI (2018, “La anatomía de la Inteligencia Artificial”).

The Atlas of AI es en gran parte un libro acerca de viajes, tanto literales como metafóricos, y cada capítulo procura detenerse en las enormes consecuencias de las contingencias más minúsculas que hacen a la historia del desarrollo de la inteligencia artificial.

Al ir apenas un poco más allá de las estrechas discusiones del campo se abren asuntos como el impacto ambiental de la inteligencia artificial, el costo humano de las minas de donde se extraen ciertos materiales como el coltán, y se desgranan en pocas palabras algunas de las afirmaciones que fuimos olvidando cuestionar en el camino, como que la inteligencia artificial supone de hecho “inteligencia”.

Qué significa que algo sea “inteligente”

Muchas de las cosas que dice Crawford ya las hemos leído en otros lados. Algunos de los argumentos incluso tienen literalmente siglos. Pero ese es precisamente el punto: al sacarnos de encima el estupor de la novedad lo que encontramos de fondo son las mismas preguntas de siempre acerca de qué significa que algo sea inteligente—y qué significa que sea humano o artificial.

“Quería abrir las puertas a la idea de que la IA que no es ni artificial ni inteligente. Es lo opuesto a lo artificial”, sostiene Crawford. “Proviene de las partes más materiales de la corteza terrestre y del trabajo humano, y de todos los artefactos que producimos, decimos y fotografiamos todos los días. Tampoco es inteligente. Creo que existe este gran pecado original en este campo, donde la gente asumió que las computadoras eran de alguna manera como los cerebros humanos y si las entrenábamos como si fueran niños, poco a poco se convertirían en seres sobrenaturales”.

Esta última afirmación acerca del carácter ni artificial ni inteligente de la IA seguramente sirva para llamar la atención, pero amerita un despliegue mayor al que permiten un par de párrafos. Y es una que espero no sea tomada muy en serio. Con lo que cuesta no coincidir es quizá con la acotación que le sigue: “Nos hemos creído esta idea de la inteligencia cuando, en realidad, solo estamos viendo formas de análisis estadístico a escala que tienen tantos problemas como los datos que reciben”.

La forma en que enmarcamos nuestras discusiones nunca es inocua. Tanto hablar de “tubos” como hablar de la “nube” dejan marcas que se fosilizan en los argumentos hasta que olvidamos que son las metáforas que usamos las que también moldean la forma en que nos acercamos al mundo.

Al reducir nuestras discusiones acerca de inteligencia artificial a sus características abstractas, incluso cuando lo hacemos para acercarnos a sus consecuencias sociales, políticas y filosóficas más bien concretas, estamos reforzando una concepción que olvida la materialidad de la información y de cómo esta es procesada y presentada en favor de una inmaterialidad propia de un cuento de hadas, en el que lo “virtual” tiene una existencia independiente en la “nube”, quizá a un par de cuadras de donde Platón supo concebir a sus formas.

“Hemos pasado demasiado tiempo dedicándonos a las soluciones tecnológicas limitadas para los sistemas de inteligencia artificial y siempre centrándolo todo en las respuestas técnicas. Ahora tenemos que lidiar con la huella medioambiental de los sistemas y con las formas muy reales de la explotación laboral que ocurren en la creación de estos sistemas”.

La forma en que discutimos acerca de inteligencia artificial es también una elección política y tiene ramificaciones. El mapa no es el territorio pero bien que define la forma en que concebimos al mundo. Y al adoptar el propio marco conceptual con el que las soluciones tecnológicas son propuestas en primer lugar generalmente caemos en contrapuntos entre respuestas técnicas a problemas de la más diversa naturaleza, dejando afuera dimensiones teóricas igualmente ricas.

Hablar de la ética de la inteligencia artificial no fue inútil, ni siquiera inocuo. Abrió un incómodo desgarro en un discurso que probablemente con buenas intenciones no supo volver sobre sus propios supuestos para encontrar aquellos puntos flacos donde la inabarcable complejidad de lo humano supero nuestras notables pero indefectiblemente falibles soluciones técnicas.

Seguir evitando la discusión acerca de las relaciones de poder codificadas en la tecnología ya no se siente bien.

Se siente extraño… Se siente incorrecto.