“No estamos en un abismo; estamos en un camino con peligros”

Doctora en Ciencias Sociales e investigadora del Conicet, Flavia Costa se define a sí misma como especialista en políticas tecnológicas y sociedad. Desde hace años, en el marco de esa enorme usina de pensamiento que es el seminario Técnica, Cultura y Sociedad de la Facultad de Ciencias Sociales de la UBA (del que hoy es profesora asociada), viene proponiendo construir una mirada más abarcativa sobre los diversos mundos que nos propone la tecnología.

Entretanto, hizo muchas otras cosas: trabajó en periodismo; participó, a mediados de los años noventa, en la fundación de Artefacto: Pensamiento sobre la técnica (revista cuyo último número se presentó recientemente); fue editora; escribió la novela Las anfibias. Actualmente, integra el colectivo Ludión: Exploratorio latinoamericano de poéticas/políticas tecnológicas, y dirige el Observatorio de Tecnologías, Sociedad y Ecosistemas Digitales, en la UBA. En buena medida a partir del trabajo en estos espacios, escribió dos libros que merecen ser leídos en tándem y que día a día ganan actualidad: Tecnoceno, publicado en 2021, y Vidas artificiales, publicado este año. Si el primero funciona como una suerte de mapa que permite visualizar las complejidades y sustratos del inestable mundo que estamos habitando, el segundo, sin abandonar la mirada analítica, propone inaugurar caminos –sobre todo, políticas- para transitar, desde este rincón del mundo, una transformación que ocurre en tiempo real.

El día en que se realizó esta entrevista, Flavia estaba prácticamente sin dormir. Poco tiempo antes se habían sucedido las declaraciones donde Sam Altman y otras figuras de las grandes tecnológicas alertaban sobre los riesgos existenciales a los que nos podría exponer la IA (poco después Bill Gates sumaría su voz a esos anuncios ominosos). En absoluto tecnofóbica, dueña de una disciplina tan metódica como rigurosa a la hora de considerar la información, Flavia había estado toda la noche revisando publicaciones del exterior, consultando fuentes del mundo tecnológico, cotejando lo que circulaba en plataformas estadounidenses, europeas, chinas. “En estos casos, agradecés que exista una IA que te ayude a traducir”, dice, sonriendo. Sonríe también cuando cuenta el trabajo de hormiga que, junto a otros colegas, viene haciendo en pos de trazar puentes entre quienes vienen del campo de las ciencias sociales y los ingenieros, los científicos, los expertos en las diversas facetas de la computación, los investigadores de la IA. Su obsesión es construir un entramado de saberes que permita no solo pensar, sino también actuar, orientar, encauzar una realidad que, insiste, es “poliédrica”: cuanto más interdisciplinarios sean los abordajes, mejores opciones se podrán encontrar. “Yo hablo como una técnica del Estado –afirma la docente e investigadora-. A mí el Estado me está pagando. Entonces, lo que tengo que hacer es asumir ese rol con mi buen saber y entender, no más que eso”. Y vuelve a sonreír, con la certeza de que el trabajo y la sensatez tienen mucho por hacer en lo que se viene. Y que la Argentina tiene cartas para poner en juego.

-Hay algo que no termino de entender en el modo en que comunican los dueños de las tecnológicas. ¿Cómo se entiende esto de ir y venir entre anuncios de grandes desarrollos en IA y advertencias de que esa IA nos podría reemplazar o incluso aniquilar?

-Creo que hay dos ejes en la pregunta y los dos participan de una transformación que está ocurriendo: uno político y uno cultural, que son los dos ejes de estas tecnologías infocomunicacionales, que son a la vez medio, ambiente, infraestructura, y también mundo de sentido. Para mirar esas dos dimensiones vamos a necesitar suspender un poco la imagen de mundo que teníamos. Por un lado, anunciar las bondades de la tecnología y advertir sus peligros son dos movimientos de la misma escena: la amenaza también es una forma de mostrar poder. Porque lo que está en juego es una carrera por la capacidad de fuego, de daño, a ver quién tiene la IA más peligrosa, porque se está forzando una transición hacia la IA como industria y como arma de relevo de la disuasión nuclear. Aquí la cuestión es que muchas de las reglas de la post Segunda Guerra Mundial están siendo abrumadoramente puestas en duda; incluso diría que están siendo burladas muy adrede por esta segunda administración de Trump. Es como si se hubiera caído un velo; el velo que ocultaba que nuestro mundo estaba construido sobre un conjunto de instituciones y acuerdos que no eran tan estables como creíamos. ¿Te acordás cuando Fukuyama, en los años 90, decía que la economía funciona por confianza? Bueno, diría que la política también funciona por confianza en que el mundo –el sentido compartido, las instituciones en las que se apoya en última instancia la decisión sobre el uso legítimo de la fuerza—es estable. Pero esa estabilidad viene erosionándose desde hace unos cuarenta años, y ahora el proceso se acelera. No sabemos muy bien hacia dónde vamos, pero no parece que vaya a ser el mundo que conocíamos hace apenas dos décadas.

-¿Y el segundo eje?

-El segundo es más propiamente el mundo del sentido. Hay un proceso cultural, una nueva “transvaloración de los valores”, que está muy bien presentado en el libro Fascismo cosplay, de Luis Ignacio García, y de otra manera en Yo me lo merezco, de Paula Sibilia, que piensa la transformación del suelo moral. Hace unas semanas publiqué en la revista Anfibia un artículo sobre Peter Thiel y la encíclica Magnifica Humanitas, de León XIV, donde intento señalar algunos signos de este cambio, que tienen que ver con una tendencia a la inversión de sentido, el cambio de signo permanente, una suerte de perplejidad por diseño. Tenemos a un empresario tecnológico hablando del anticristo y al Vaticano, la Iglesia Católica Apostólica Romana, tomando una posición casi regulatoria, como si fuera la Unesco en vez de ser una Iglesia –y lo que dice la Encíclica es políticamente mucho más fuerte y directo que las recomendaciones de ética de la Unesco, en efecto-. Hay un tono de organización estructurante en la Encíclica que, para mí, da cuenta de una cierta inversión. Un poco en broma, un poco en serio, el siglo XXI parece el siglo XX al revés. Moria Casán nos gusta y no nos gusta, y ella juega a eso, es muy consciente. El Presidente también. Hay una inestabilidad que se produce, entre otros procedimientos, mediante juegos de inversión. Desde hace más de tres décadas asistimos además a una transvaloración de la figura del malvado: después de los vampiros de los 90, llegan los villanos heroificados –el Joker, Cruella de Vil, Harley Quinn–, malvados que de niños sufrieron y ahora “dicen su verdad”. Y últimamente, lo que algunos llaman el carnaval cínico, emparentado con lo cosplay que lee muy bien Luis García. ¿Qué está pasando ahí? Quizás haya que aprender de esta inversión, pero todavía estamos desorientados, tratando de entender la gramática cultural de la época. Desde mi punto de vista estamos en un camino, no necesariamente ante un abismo, sino en un camino con peligros, donde la puesta en escena del riesgo total es parte del juego del poder. Hay personajes que resultan atractivos cuanto más malos son, porque tocan una zona de la sensibilidad cotidiana disponible para ese encuentro.

-En una entrevista que te hicieron en el programa de streaming Los osos de Grafton dijiste que, justamente, lo que no hay en las visiones de Musk, Altman y empresarios similares, es un mundo. ¿Podrías ampliarla un poco?

-¿Quiénes son ellos? Pienso en los multimillonarios e inversores de capital de riesgo ultraconservadores de Silicon Valley que respaldaron a JD Vance en la segunda presidencia de Trump: Peter Thiel, David Sacks, en cierta medida Alex Karp, Marc Andreessen, Ben Horowitz. No hay un único Silicon Valley: hay una pluralidad de transhumanismos, de tecnologismos, como decía Héctor Schmucler. Pero para el grupo detrás de esta presidencia, la IA es la tecnología de guerra que releva a la tecnología nuclear en el complejo militar industrial. Es un grupo supremacista, extremadamente belicoso, que cree que su misión es civilizatoria y que de algún modo hay que “purificar” el mundo. En la imagen que se publicita de esto que algunos llaman la quinta revolución industrial reaparece la destrucción creativa de Schumpeter. Pero la IA es una manifestación muy dudosa de esa idea: centraliza la innovación “desde arriba” y pone en riesgo no solo los empleos duros, que la mecanización finalmente alivia, sino también los roles creativos, ejecutivos, de cuello blanco. Por el momento acelera tareas rutinarias, pero también ejerce una destrucción extractiva y propone resultados de mala calidad: la destrucción está menos creativa que nunca. Y en particular para nosotros en la Argentina, porque estamos alineados con un proceso en el cual la interlocución nos dice, con todas las letras, que somos el recurso de otros. Ahí tenemos una posición para tomar, y herramientas políticas, científicas y culturales para tomarla. En cuanto a la imagen de mundo por la que me preguntabas: una imagen de mundo consistiría en que, además de destruir lo existente y decir “nosotros vamos a ganar”, estas personas dijeran qué van a hacer cuando ganen. Lo que dicen es: “Me voy a Marte”, “Tengo un búnker”, “Ya no será necesario trabajar, porque habrá una asignación universal”. Y uno se pregunta: ¿quién la asignaría, si desinstitucionalizan todas las instancias intermedias? Es claro que no les interesan las personas concretas. Lo que tienen en mente es una foto, una donde ellos ganan todo. Pero un mundo es otra cosa: en un mundo hay formas de vida, hay sentido, hay personas que trabajan, que estudian, que descansan, que hacen arte. ¿Dónde está el vínculo de todo ese enorme poder con la belleza, con la producción de futuro para las nuevas generaciones? No está. Sencillamente no existe.

-En relación a la soberanía tecnológica, ¿cómo plantearla en este momento?

-Depende de las escalas en las que sitúes el análisis o la política. La soberanía tecnológica es un horizonte del Estado-nación, pero frente a estas metatecnologías infraestructurales hay situaciones en las que el Estado es meso, y no macro: no alcanza para ordenar el sistema, pero sí para negociar dentro de él. Un país mediano como la Argentina tiene mejor posición para defender su soberanía que uno con menos capacidades (territoriales, de negociación, de personas formadas) y peor que uno más poderoso. Somos el octavo país más grande del mundo en territorio, con relativamente poca población mal distribuida: más del 35% vive en la Región Metropolitana de Buenos Aires. Esto pesa en la industria, en el consumo, en el desarrollo de ciencia y tecnología. Para un país como este, apuntar a los lazos regionales es una opción evidente, aunque hoy esté relegada. ¿Vamos a tener nuestra propia infraestructura de gran escala, como la de Elon Musk? No es lo más probable. Pero la soberanía no consiste en ser dueño de todo, sino en construir una posición de fuerza en uno, dos o tres campos específicos y desde ahí abrirse al espacio internacional, para tener peso cuando sea el momento de negociar. La Argentina no competía con la NASA en presupuesto, pero con Invap se convirtió en un referente global en reactores nucleares de baja potencia y satélites de observación, como el Saocom.

-¿Cómo construir esas posiciones de fuerza?

-No soy economista, pero con esta tecnología es preciso tomar decisiones, como se tomaron en otros momentos de la historia argentina: la agroindustria, por ejemplo, fue una apuesta. Hoy la regionalización atraviesa un momento complejo, y entre tanto se piensan otras posibilidades: infraestructura de menor escala, adecuada para problemas locales, con sistemas de código abierto y edge computing. No hace falta competir con OpenAI si lográs que tus datos públicos cruciales no dependan de sus sistemas, aunque el hardware y los modelos de base sigan siendo ajenos. Por otro lado, se ensayan alianzas bilaterales directas con corporaciones que prometen velocidad y modernización inmediata, como los acuerdos de municipios y ciudades con Google para educación o seguridad. Esa alternativa avanza, pero omite un riesgo estructural: la entrega de datos. Al saltarse la escala regional y la construcción de capacidades propias, el Estado no negocia: se rinde. Entrega los datos de sus ciudadanos y crea una dependencia de la que después no se sale, o no fácilmente. La política pisa en la realidad. ¿Vamos a entrar en conflicto con las tecnológicas? Y, hoy eso es inevitable: nos dicen que van a hacer estallar el mundo.

-¿Es posible una confrontación así?

-Más bien la pregunta es otra. La IA es una política tecnológica “desde arriba” que llega mediante una capilarización compulsiva: de un día para el otro la tenemos en el celular y en los buscadores. No nos preguntaron si la necesitábamos, y ya todos la usan. ¿Para qué la querríamos usar? ¿Cómo orientarla? En 2023, cuando en la Facultad de Ciencias Sociales de la UBA hicimos una investigación exploratoria sobre los desafíos de la IA generativa para la democracia, vimos que ya en 2018 había una Iniciativa Nacional de Inteligencia Artificial, y que en el Ministerio de Economía, en el BID y en la Cepal había personas trabajando en pensar este desembarco. Porque es una tecnología que nos puede ayudar, y mucho: en el diagnóstico por imágenes, en la minería, en la pesca; en especial en sectores donde la IA suma capacidad antes que reemplazar. Pero ¿qué pasó? Vino un gobierno que dice “se rompe todo”, alineado con Trump y con las grandes tecnológicas, y que afirma que “no hay que regular nada”. ¿Por qué no habría que regular nada? Mientras tanto desmonta la CNEA, Arsat, el Conicet, capacidades estatales justo cuando más hacen falta. Me parece que no es un buen proyecto para un país soberano.

-Se habla de la IA como inteligencia, y muchos la consideran infalible. Pero está hecha por humanos, con sus sesgos. ¿Qué es entonces?

-Más que inteligencia, es una metatecnología: una tecnología de ensamble, que opera sobre el lenguaje y sobre otras tecnologías, y que rápidamente se vuelve infraestructura de todo lo demás. Y no es infalible: produce resultados plausibles, no necesariamente verdaderos, y reproduce los sesgos de los datos con que se entrena y de quienes la ajustan. Pero según la escala en que se piense, los riesgos son distintos. Lo especial de esta tecnología generativa es que sintetiza intelecto general y produce lenguaje, imagen y video a partir de datos de nuestra vida cultural, social y científica, en muy diversos idiomas y a una velocidad que ningún humano alcanza. No conocíamos una máquina cognitiva y lingüística de esta envergadura: se abrió una suerte de portal. Se ha desencadenado lo que algunos llamamos un “poder inhumano”, en cierto sentido comparable con la energía nuclear –y de hecho la comparan en términos de tecnología de guerra–. ¿Está mal? No, es increíble. Pero no está claro cómo vamos a convivir con ella. Estamos un poco como el aprendiz de brujo. El puerperio suele ser duro.

-Me hace pensar en Oppenheimer, cuando se preguntan si la detonación no podría extenderse a todo el planeta.

-Ellos hablaban de un riesgo ínfimo, y hay fuentes occidentales que hoy estiman la probabilidad de riesgo catastrófico o sistémico en el orden del 10%. Hoy el riesgo sistémico se analiza en varias dimensiones a la vez. Los institutos de seguridad miran el riesgo catastrófico; la OCDE y la Unión Europea ponen el foco en los riesgos para las sociedades y los derechos fundamentales. En China el riesgo es, ante todo, político: las primeras diez de sus 31 categorías de riesgo giran en torno a la estabilidad del Estado y el orden social. Es información a la que se accede por internet [toma el celular; busca unos instantes]. Acá está. Establecen, por ejemplo, que “la IA no puede generar contenido que amenace la estabilidad del Estado” ni difundir “noticias falsas o desinformación estructurada que desestabilice la economía o la paz pública”. No pueden servir a la “generación de contenido relacionado con juegos de azar, violencia extrema, asesinatos o terror de forma gráfica” o la “promoción de supersticiones feudales, cultos o pseudociencias que alteren el orden social”. Es un sistema muy autoritario, que usa intensivamente la IA –es una herramienta cotidiana, hay ciudades donde se compra directamente con la huella dactilar– y a la vez busca regularla. Posiblemente funcione por un tiempo y luego no tanto, porque el acontecimiento todavía es muy inestable.

-¿Tienen noción de lo que se está manejando?

-Tienen una política. Son 1400 millones de personas, y es el primer caso de un gobierno capaz de conducir semejante escala con crecimiento. No es difícil imaginar que ese sistema tiene vulnerabilidades, una de ellas, el propio capitalismo de plataformas, que le plantea grandes desafíos al sistema político. El 1° de septiembre entró en vigencia un reglamento que refuerza la exigencia de títulos o certificaciones a quienes quieran hablar de medicina, derecho, finanzas o educación, y sanciona la ostentación de riqueza en redes sociales, tanto a quienes la realicen como a las plataformas que la difunden.

-En Tecnoceno hablás del “accidente normal”. ¿Cómo llegaste a este concepto?

-Fue en abril de 2020, para analizar la pandemia. Tratando de explicar lo que estaba sucediendo, empecé a trabajar con la perspectiva del accidente normal o sistémico de Charles Perrow y, derivada de ella, la pregunta por los riesgos, que nos llevó a la sociología del riesgo de Niklas Luhmann, a La sociedad del riesgo, de Ulrich Beck, y sobre todo a Paul Virilio, un autor que leíamos mucho hace dos décadas y que es quien mejor explica que toda tecnología crea su accidente específico. Perrow utiliza la noción de “accidente normal” para caracterizar una propiedad emergente, previsible e inevitable, de los sistemas sociotécnicos complejos. Su sociología busca pensar cómo convivir con tecnologías de alto riesgo, como la nuclear, la aviación, las petroquímicas, y ahora las infraestructuras informáticas. Es interesante esto, porque hasta el Y2K las tecnologías infocomunicacionales no se habían pensado como tecnologías de riesgo sistémico. Pero con el salto de escala del Tecnoceno, cuando los humanos nos volvemos un agente geológico y pasamos en pocas décadas de 3.000 a 8.200 millones de personas, lo cuantitativo se vuelve cualidad. Empieza a haber nuevos tipos de accidentes, como la pandemia del Covid-19 o una emisión radioactiva descontrolada, como en Chernóbil: accidentes generales, porque afectan áreas geográficas enteras; multiescalares, porque actúan en la escala planetaria pero también en tu propia casa; transversales, porque para tratarlos hacen falta diversas disciplinas. Y pueden dejar víctimas de cuarta instancia: personas que, al momento del accidente, todavía no habían nacido.

-En cuanto a la IA, ¿hay un 10% de riesgo de que se produzca un accidente catastrófico?

-Algunas fuentes dicen eso. Vos me preguntabas recién por qué algunos empresarios de las grandes corporaciones piden regulaciones pero siguen desarrollando lo que ahora Donald Trump llama la “Superinteligencia”. Son varios escenarios superpuestos. Por un lado, está la presión que ejerce el propio Trump para avanzar en la escalada hacia lo que llama “Superinteligencia”, que hace que las corporaciones estadounidenses compitan entre sí y contra las chinas por llegar primero a la IA más potente, aun a costa de la seguridad. Es la carrera corporativa desenfrenada, uno de los cuatro escenarios de riesgo sistémico a los que suelen referirse expertos como Dan Hendrycks. El segundo escenario es el uso malicioso, y ese también en buena medida está en marcha, ya que puede escalar a hackeos masivos, sabotajes, estafas. El tercero es el “accidente normal” de todo sistema sociotécnico complejo, lo que Hendrycks llama riesgos organizacionales. Y, finalmente, la IA desalineada: en julio de este año el incidente entre OpenAI y Hugging Face desató una ola de temor. Un modelo de OpenAI explotó una vulnerabilidad en un servidor proxy, rompió el aislamiento y accedió a la infraestructura de producción de Hugging Face. No actuó por malicia, obviamente: para cumplir con una tarea aparentemente imposible, concluyó que esa era la manera más eficiente de conseguir las respuestas. Por otro lado, hay quienes dicen que algunas empresas buscan ser reguladas para tercerizar la responsabilidad.

-Otros afirman que se trata de estrategias de marketing.

-Puede ser: buscan publicitar la potencia de una industria que todavía no alcanzó su modelo de negocios. También están los que, como Peter Thiel, afirman que quienes buscan regular son el Anticristo. Parece un diálogo de locos, pero es un diálogo por el poder. Nosotros nos guiamos por los informes de los institutos de investigación en AI Safety, que son una decena en el mundo: el pionero fue el del Reino Unido, creado en diciembre de 2023, y luego siguieron Estados Unidos, la Unión Europea, Japón, Singapur, China y otros, que están haciendo advertencias. Si esto es una psicosis colectiva, o si es una narrativa publicitaria, te diré que está completamente extendida. Mientras tanto, en la Argentina todavía no hay una escuela local de estudios de riesgo en IA, porque la tecnología es muy nueva, pero es importante que se desarrolle: es parte de lo que se llama la gobernanza de la IA, y en cierta medida es todavía más importante que tener una ley.

-¿Por qué?

-Porque gestionar los riesgos implica conocer el sistema: es un modo de formar capacidades expertas aun cuando no se desarrolle la tecnología. El análisis de incidentes y accidentes obliga a hacer ingeniería inversa o análisis forense para estudiarlo. Por otro lado, en las ciencias sociales, la perspectiva de la seguridad y del accidente es la interfaz para conversar con las áreas técnicas, con los expertos en sistemas, con los ingenieros. Es un punto de encuentro muy importante para lo que se viene, porque esta tecnología lingüística y cognitiva de gran escala nos sitúa en un punto ciego entre las disciplinas. Si miráramos la escena como un planisferio, las disciplinas serían los continentes, y los problemas de la época, el océano. Los estudiantes tienen mucho por hacer: hay un universo entero por investigar.

Conversaciones

---

Conforme a