“Es un escándalo”: la disruptiva mirada sobre la IA de la investigadora argentina reconocida por la revista Time

En un mundo obnubilado por la revolución que está generando la inteligencia artificial, existen algunas voces que se alejan de este ruido y sostienen una mirada crítica frente a esta tecnología. Una de esas personas es Milagros Miceli, la argentina incluida en la lista de las 100 personas más influyentes en inteligencia artificial que elaboró la revista Time.

Miceli, quien es socióloga de la Comunicación y doctora en Ingeniera Informática, se volcó desde hace unos años al estudio de la vida laboral de los trabajadores de datos de IA. Desde su lugar de investigadora, busca visibilizar a las personas que crean los datos de entrenamiento para los modelos de aprendizaje automático, que trabajan en condiciones precarizadas, a menudo en situaciones angustiosas y de explotación, y con un salario mínimo.

Esta realidad inquietaba a la socióloga, quien decidió fundar la Investigación de Trabajadores de Datos (Data Workers Inquiry, DWI, en inglés), un proyecto académico que permitía a estos trabajadores publicar investigaciones propias y sobre ellos mismos. En palabras de Miceli: “Diseñé DWI como un espacio para que los trabajadores de datos identificaran a las empresas que los explotaban y contaran sus historias colectivas en sus propios términos”.

En un momento en que la inteligencia artificial acelera su expansión y redefine industrias, Miceli conversa con LA NACION y detalla su mirada sobre los dilemas más apremiantes que rodean a esta tecnología.

-Muchos hablan de que se estaría viviendo una burbuja de la IA, un hype que no se acompaña del otro lado con resultados tangibles, tal como ocurrió en otros momentos de la historia, como la fiebre de las puntocom en los 2000. ¿Cuál es tu opinión en este tema?

-La IA vive de la burbuja y, como cualquier burbuja económica, mientras uno pueda seguir haciéndole creer a los inversores que esa promesa tiene futuro, la burbuja sigue creciendo. Hoy, la promesa se vincula con la posibilidad de crear una inteligencia artificial general que, a diferencia de la IA generativa que vemos hoy o de la agéntica que, poco a poco empieza a circular más, pensará y actuará por sí misma; se trata de un ente totalmente autónomo, que funcionaría sin la intervención humana, sin la necesidad de órdenes o prompts de una persona.

Ahora, desde el punto de vista científico, esto es falaz, muchos expertos y colegas aseguran que no es posible. Del otro lado, las empresas siguen sosteniendo que esto va a suceder: las predicciones hablaban de que en 2023 era inminente y no sucedió; luego se refirieron a 2024, pero tampoco ocurrió y, así, sucesivamente. Obviamente, es innegable que aparecieron tecnologías y productos que han sido adoptados por la gente, que fueron muy bien recibidos por el público y que vienen a llenar, quizás, una necesidad latente. Pero es una fracción, es necesario separar la paja del trigo, porque no es todo lo mismo, y hay mucha promesa y humo en algunas cosas.

-¿Qué buscan lograr con la creación de una IA general, también llamada “superinteligencia”?

-El discurso de los gigantes tecnológicos habla de crear un mundo donde las personas no tengamos que hacer nada, para dedicarnos al arte y al ocio, y así desarrollar nuestro potencial. Esto sería posible porque las tareas “triviales” de la vida las podría resolver esta IA totalmente autónomamente.

En mi opinión, los cinco gigantes tecnológicos detrás de esto (Meta, OpenAI, el imperio Elon Musk, Anthropic y Google) están compitiendo por quién será el primero en lograr desarrollar esto y quién se llevará los laureles. Es similar a la carrera de los 60, en la que competían por quién llegaría primero a la luna, solo que esa competencia era entre naciones y acá es entre cinco personas.

Más allá de que conozco de cerca a las personas que han trabajado para empresas de este tipo, que han sufrido mucho y que la IA les ha destruido la vida, basta leer también los reportes de lo que gasta energéticamente y el daño ambiental que le hacen cada uno. Creo que se ha extendido un uso muy banal de la IA, aunque entiendo que quizás ciertos usos son justificados, como el caso de gente que no habla otros idiomas y necesita comunicarse con alguien.

-Durante el último Foro Económico Mundial, también llamado Foro de Davos, varios políticos argentinos se refirieron a la regulación de la IA en nuestro país. Milei habló de su visión no intervencionista; el ministro de Desregulación y Transformación Federico Sturzenegger participó de un panel en el que aseguró que su “única tarea es que no aparezca ninguna ley de inteligencia artificial”. ¿Considerás que es necesario regular esta tecnología? ¿En qué problemas o excesos -si fuera el caso- se podría caer si no se regula?

-Me parece un escándalo la mirada de estos políticos; en cualquier país serio esto sería imposible. Dicho esto, creo que es importante decir y recalcar que es necesaria la regulación. Hay, por ejemplo, una connivencia entre la política y esta tecnología que hace que dejar esto sin regular sea peligrosísimo. Uno de estos casos fue el de la campaña de Trump, que contó con el cofundador de OpenAI -Greg Brockman- como aportante de US$25 millones para su Comité de Acción Política; también el hecho de que el presidente de Estados Unidos esté invadiendo lugares estratégicos buscando minerales y materia prima para alimentar esa industria habla de esto.

Por otro lado, va en contra de lo que está sucediendo en el resto del planeta: en el primer mundo se están regulando estas cosas, como fue el caso del Acta de la Inteligencia Artificial hace un año y medio en Europa, además de otras regulaciones, por lo que creo que estamos atrasadísimos en la discusión. Aunque tengo críticas en relación a la ley que salió en Europa, el hecho de que haya una regulación, me parece fantástico, porque considero que es necesario.

También hay otros peligros de la IA; existen estudios que hablan sobre la delegación de facultades que hacemos en esta tecnología, que lleva a que la gente deje de pensar y no desarrolle el pensamiento crítico, porque toma como verdad cualquier cosa que le diga la inteligencia artificial generativa. La tecnología, así, se vuelve adictiva, porque están diseñadas para que así lo sea, para que confíes en ellas, para que te adulen constantemente.

- Siguen saliendo estudios que hablan de que la IA todavía no genera resultados financieros en las organizaciones. El más renombrado el año pasado fue uno del MIT, que hablaba de que la IA no está generando retorno de inversión en el 95% de las organizaciones. En enero pasado circuló otro estudio de una de las big four (PWC) que entrevistó directores ejecutivos y encontró que más de la mitad de los CEO afirman que aún no están obteniendo un retorno financiero de las inversiones que hicieron en IA. ¿Qué considerás que hace falta para que la transformación en empresas sea real y alcance a todas las organizaciones?

-Creo que hace falta mucho de lo que se conoce como “la pregunta cero”, que implica cuestionarse: “¿necesitamos inteligencia artificial para resolver este problema?”. Ocurre mucho que la gente viene a venderte la vacuna para el problema que ellos mismos te generaron; en el caso de la IA, suele hablarse, por ejemplo, de que esta tecnología hará que crezca un montón la contaminación medioambiental y, al mismo tiempo, nos dicen que no nos preocupemos, porque con la inteligencia artificial solucionarán la crisis ambiental.

Hoy, se ve mucho la tendencia de incorporar IA para no quedarse afuera. Pero, al mismo tiempo, no se percibe un retorno de la inversión o que los procesos funcionen de forma más eficiente. ¿Por qué? Porque hay lugares donde no se puede reemplazar al ser humano o donde no es necesario reemplazarlo.

Entonces, creo que primero es clave preguntarse si tengo realmente un problema; luego de plantearse esto, pensar: ¿es un problema que la inteligencia artificial me va a solucionar o me estoy subiendo un poco al hype, porque todos la usan y yo también la quiero tener?

-¿Cómo dirías que la inteligencia artificial está transformando el mundo del trabajo?

-Creo que parte del hype de la IA tiene que ver con mantener una imagen de que esta tecnología potencialmente puede robarte el trabajo o de que puede llegar a pensar mejor que vos. Pero hay mucho de mentira en esto. Muchas veces, cuando se le dice al trabajador despedido que lo reemplazará una IA, en realidad su trabajo está siendo sustituido por empleados precarizados en otro lugar del mundo.

Hace poco participé de una huelga de trabajadores de TikTok en Berlín, que también les habían explicado que los cientos de empleados despedidos serían reemplazados por IA. ¿Qué descubrimos? Es verdad que una parte de ese trabajo se había automatizado, pero todavía esa automatización requería de recurso humano. La cuestión es que, ahora, ese trabajo se iba a hacer por una empresa tercerizadora ubicada en otro país, con trabajadores en condiciones precarizadas, a los que se les iba a pagar menos que en Alemania. Con esto, no quiero decir que cuando ChatGPT te contesta siempre hay alguien atrás, pero tus datos, historial e interacciones pueden ser luego revisados por personas, que estudian cómo seguir mejorando la herramienta.

No creo que la IA pueda reemplazar el trabajo humano, sí ciertas tareas en específico y también sí puede desplazar al ser humano a lugares mucho más ocultos, donde la precarización es más posible y donde se nota menos. Nos vendían que eran tecnologías totalmente autónomas y resulta que cuando se los aprieta un poquito a los CEO, confiesan que sus herramientas se sostienen con trabajadores remotos en India, en Bangladesh. De hecho, según estimaciones del Banco Mundial, hay entre 150 y 430 millones de trabajadores de datos que están detrás de la IA en todo el mundo.

Además del corrimiento a la precarización, la IA termina sirviendo para que las instituciones demanden más trabajo. En mi caso como investigadora, que el mundo académico exija mayor cantidad de papers por año, porque como contamos con ChatGPT que puede hacerlo más rápido.

-¿Notaste algún cambio en los trabajadores de datos, desde que estudiás y te dedicás a visibilizar el tema?

-He notado cambios: desde trabajadores que se han organizado y han creado sindicatos y consejos de empresas en los que han podido luchar por obtener ciertas mejoras en sus condiciones laborales; también hemos podido participar en conversaciones importantes e influir en legislaciones. Es lindo ver los frutos de lo que uno hace, porque ningún título honorífico, premio al mejor paper o cantidad de libros publicados es mejor que esto.

Queremos visibilizar esto, ¿por qué ocultarlo? ¿por qué precarizar a los trabajadores? ¿por qué no ofrecerles un reconocimiento por el trabajo? ¿por qué venderle al usuario de las inteligencias artificiales que esto está totalmente automatizado y que nadie tiene acceso a sus datos, cuando sabemos fehacientemente que hay trabajadores en Kenia leyendo sus mensajes privados? Saquémonos las caretas, hablemos bien, digamos la verdad.

En ese sentido, estando en la Argentina, pienso que me encuentro en tierra fértil, porque esta realidad es muy nueva en este país. Pero se trata de un tema que vengo investigando hace 10 años y que, de hecho, en países europeos o en Estados Unidos ya están cansados de escucharme.

-¿Considerás que las inteligencias artificiales tienen sesgos?

- Es imposible crear una IA sin sesgos. Cuando se clasifican los datos, que son la materia prima de estas tecnologías, siempre hay algo que se incluye y otras cosas que quedan afuera. Son decisiones de las empresas y que no se toman inocentemente. Siempre hay un recorte y ese recorte, como te digo, es bien intencional y consciente. Por lo que, si es imposible crear un conjunto de datos sin sesgos, es imposible crear una IA sin sesgos también.

-¿Usás inteligencia artificial en tu vida?

-Es una pregunta difícil porque, donde puedo, elijo no usarla. El problema es que, hoy, muchísimas herramientas funcionan con IA: desde los sistemas de validación de identidad para entrar a algunos edificios, a los aeropuertos y más artefactos de la vida suelen contar con inteligencia artificial, por lo que, indirectamente, uno la está usando. Pero siempre que puedo evitarlo lo hago: no uso el buscador de Google que brinda respuestas con IA y tampoco utilizo inteligencia artificial generativa.

-¿Cúál es la presión de alrededor al mantener una mirada tan crítica con la inteligencia artificial?

- Me resisto a pensar que la IA lo invadirá todo y que es una realidad inevitable. Continuamente me llegan mensajes cada vez que publico algo en redes, cuestionándome acerca de por qué animo a la gente a no subirse a este tren. Creo que tenemos que atrevernos a dudar, a confiar en nuestras capacidades y convencernos de que somos mejores que la IA, que además está comprobado que se equivoca. No juzgo a quienes elijen usarla, pero yo elijo no usarla.

Por María Josefina Lanzi

• FuturIA
• Inteligencia artificial
• Argentina

---

---

Conforme a

Experimento. Engañan fácilmente a Gemini y ChatGPT para que den información falsa en sus resultados

Predicciones de la IA. Cuáles son los tres signos con “más suerte” en marzo

Ciego y excéntrico. La IA eligió al mejor músico de la historia y la respuesta no es lo que muchos imaginan