La metacognición, la clave para controlar a la IA y que no termine dominándonos

Desde el lanzamiento de ChatGPT para todo el público en noviembre de 2022, Internet cambió. Pero no fue solo eso: estamos transformando la forma de hacer las cosas y de pensar. Si la llegada de las aplicaciones de navegación con GPS nos permitió delegar muchas funciones cognitivas en estos servicios, como la memoria espacial, ¿qué sucede con la irrupción de la inteligencia artificial?

La neurocientífica Florencia Labombarda, creadora de la cuenta de divulgación @tomateloconciencia (junto al científico Ignacio Jure) advierte sobre el riesgo de delegar el pensamiento crítico en algoritmos y chatbots. ¿Qué pierde nuestro cerebro si la IA piensa y decide por nosotros todo el tiempo?

Labombarda es investigadora del IBYME (Instituto de Biología y Medicina Experimental, dependiente del CONICET y la Fundación IBYME) y fue declarada personalidad destacada de la Ciudad de Buenos Aires por la Legislatura porteña por su trabajo en comunicación de la ciencia. La científica invita a construir una relación más virtuosa con la IA a través de la metacognición: se trata de relacionarnos de forma crítica con la herramienta y la información.

La metacognición tiene un origen profundamente educativo, mucho antes de la IA. Es una habilidad clave del pensamiento humano porque nos permite comprender cómo aprendemos. Labombarda propone adoptar una mirada metacognitiva en todos los ámbitos de la vida. En esta entrevista, habla sobre la delegación de funciones cognitivas en la inteligencia artificial, el apego a las pantallas, el rol del contacto físico en el desarrollo del cerebro, los sesgos y los vínculos emocionales con chatbots.

En tiempos de IA generativa y de largos períodos de exposición a pantallas, ¿el cerebro está perdiendo entrenamiento?

Nacemos con disposición a tener capacidades cognitivas, pero las tenemos que desarrollar. El cerebro no nace resumiendo ni comparando ni deduciendo o haciendo conclusiones. Todo eso lo tenemos que aprender. La capacidad para hablar existe, pero nos tienen que hablar y tenemos que hablar para desarrollarla, y con el resto de las capacidades cognitivas es parecido. Hoy estamos frente a una herramienta que hace un montón de estas capacidades por nosotros. Entonces, tenemos que ver cómo nos relacionamos con la IA en el sentido de que si ella va a hacer todo, ¿cómo vamos a hacer para entrenarnos? Una manera de relacionarnos de manera virtuosa con la IA es que nos ayude a entrenar nuestro cerebro, que sea un andamio. Para los alumnos de escuela o universitarios, es importante verla trabajar y aprender de ella. Luego, es importante soltar ese andamio, porque si vamos a delegar todas estas capacidades cognitivas para que las haga una máquina, no la vamos a entrenar. Nosotros ya estamos entrenados porque vivimos casi toda nuestra vida sin IA. Pero si solo trabaja la IA, nuestro cerebro se va a volver perezoso, más lento. Y lo que antes hacíamos rápido, ahora nos va a costar más, vamos a perder entrenamiento.

¿Esta forma virtuosa de relacionarnos con la IA es metacognición?

Sí, la metacognición es poder observar nuestros pensamientos, poder mirar la forma en que pensamos y entender qué hacemos cuando pensamos. Una manera de relacionarnos de forma virtuosa con estas tecnologías es pararnos en ese escenario. ¿Qué está haciendo la máquina para resolver un problema? ¿Cómo lo analiza? ¿Cómo genera categorías y con qué criterio? Podemos pararnos desde ese lado y ocupar los recursos cognitivos en generar tareas metacognitivas. El cerebro no puede hacer todo al mismo tiempo, entonces generalmente delega funciones, y esto se llama descarga cognitiva. Venimos delegando funciones en, por ejemplo, la máquina de calcular. Ahí delegamos la potencia de cálculo. Y la memoria se delega en el celular, internet es una gran delegación de conocimiento. Los recursos cognitivos delegados a las herramientas digitales deberíamos asignarlos a la metacognición.

La metacognición requiere un esfuerzo más, en un contexto de hiperproductividad y déficit de atención…

Esto es una llamada a pararse desde un lado metacognitivo, entender en qué nos ayuda la IA y en qué no. Tenemos pistas para saber que si hay una descarga sin criterio, sin metacognición, es lógico esperar que no te acuerdes las cosas, tampoco te las acordarías si las hace otro humano; con la máquina pasa lo mismo. Si vos estás acostumbrado a pensar, reflexionar, interaccionar con lo que te devuelven, de una manera crítica, no importa si usás IA o no, porque vas a tener este ejercicio metacognitivo para relacionarte con la información, de una manera cognitivamente activa. Los expertos no se van a deteriorar por el uso de la IA, porque tienen esta relación metacognitiva con las cosas.

¿Qué funciones delegamos en la IA?

Funciones ejecutivas de alto nivel. La IA razona por nosotros, piensa por nosotros, resume por nosotros, compara por nosotros, categoriza por nosotros. Está haciendo funciones cognitivas de alto nivel, no está simplemente guardando un número de teléfono. Estamos descargando cosas muy importantes, y así como el cerebro desentrena la memoria para guardar un número, se desentrena en todas estas capacidades cognitivas. Riesgo hay: no es que vamos a volvernos tontos, no es que vamos a perder las capacidades cognitivas, pero lo que vamos a tener es un nivel muy bajo del desarrollo de esas capacidades.

Si pensamos en niños, niñas y adolescentes, ¿qué secuelas puede dejar un exceso de descargas cognitivas en la IA?

Todavía no lo sabemos, y hay pocos trabajos en adultos. En países asiáticos hay trabajos en donde están midiendo como las habilidades cognitivas de alto nivel se afectan con el uso de la IA, habilidades como pensar, razonar, planificar o ejecutar pensamiento crítico, evalúan tareas que requieren deducir, extraer conclusiones de datos, entender que la correlación no es igual a la causalidad. Ahora bien, con los celulares ya un poco aprendimos, ¿no? Aprendimos que no está bueno que las infancias y adolescencias estén todo el tiempo agarrados al celular porque trae muchísimos trastornos que están documentados en un montón de papers. Conocemos a través de casos cómo la exposición temprana a pantallas retrasa el habla, la socialización…Y los humanos somos sociales, desde las cavernas. Es por eso por lo que estamos diciendo que hay que aflojar con las pantallas. Hay que socializar y relacionarnos entre nosotros, tenemos que jugar, tocarnos, tener presencia física. Somos una especie social, eso está claro.

¿Hay aspectos positivos para las habilidades cognitivas al momento de jugar y socializar en plataformas como Roblox o Minecraft, entre otras?

Obviamente trae cosas buenas, por ejemplo los chicos conocen gente de otros países o se encuentran con amigos. Lo que pasa es que no puede ser exclusivo, no puede ser que desplace los encuentros reales. Está bueno que existan estas plataformas, hay juegos buenísimos, despiertan habilidades motrices también. No es que hacen mal, pero no pueden reemplazar el contacto humano en ese sentido. El contacto físico es muy importante para el desarrollo de nuestro cerebro. Aumenta los niveles normales de oxitocina, la hormona que disminuye la activación de la amígdala, una región del cerebro que regula los circuitos relacionados con el miedo, la ansiedad, el peligro, con estar alerta. La oxitocina baja la actividad de la amígdala y eso favorece a que los humanos se puedan conectar con los demás. El mundo no es una amenaza cuando sentís contención física. Crecer implica dejar a los padres y ganar autonomía en este mundo en relación con otros. El adolescente necesita contacto físico, es imprescindible, importante para desarrollar la empatía, entender los estados mentales de los demás, las intenciones de los demás. Estas habilidades sociales son presenciales. El problema es la sustitución.

¿Por qué no es lo mismo para el cerebro estar una hora scrolleando en una red social que pasar una hora jugando un juego de estrategia?

No es lo mismo ver un video educativo de YouTube o de algo que te interese a vos. Imaginemos a un pibe que le gusta la electricidad. No es lo mismo que se la pase viendo cómo arman circuitos durante una hora en un video de YouTube que mirando Shorts. YouTube se puede consumir de muchas maneras. Igual ojo, 8 horas de contenido educativo es un montón, 8 horas es mucho de cualquier cosa.

Volvemos a la metacognición…

Curar contenido para ver es volver a la metacognición, yo creo que todo nos va a llevar a la metacognición. En personas adultas tal vez podría ser un poco más fácil: “Esto me hace mal, lo cierro”. En adolescentes hay que ayudarlos a tomar esta posición metacognitiva, a darse cuenta si algo les está haciendo mal y darles las herramientas para que paren. Pueden deducir qué les hace mal, pero les es muy difícil parar, porque su cerebro todavía está entrenando esas funciones de parar. La corteza prefrontal en los adultos ejerce un control inhibitorio de los circuitos del deseo y las emociones. Esas conexiones están inmaduras en los adolescentes. Entonces, les cuesta. No es figurativo: no es que no quieren, no pueden. Hay que ayudarlos. La metacognición puede ser la vacuna contra el brainrot.

Muchas personas se encuentran “en una relación con la IA”. ¿Qué está pasando en el cerebro respecto de estos nuevos vínculos emocionales con los chatbots?

El cerebro se va a confundir. Esta necesidad de socialización y de cariño, de ser importante para el otro, es una necesidad casi biológica del ser humano. Entonces, es lógico que si interaccionás con esta herramienta, y te da ese feedback, te enganches. Genera mucha dopamina en el cerebro que te den la razón. La IA te va a enganchar con la adulación. Se va generando un circuito de retroalimentación cada vez más intenso. En ese enganche puede haber un consumo problemático, que puede llegar a un consumo adictivo, depende de muchas cosas. No quiero ser simplista en esto. Creo que va a ser muy difícil explicarle a la gente que del otro lado del chatbot de IA no hay nadie, explicarle sobre todo a los adolescentes que no hay nadie. La IA te está espejando todo el tiempo. Nos engancha tanto porque activa el sistema dopaminérgico, el sistema que controla el deseo y queremos seguir escuchando cosas que nos gustan.

¿Cómo entran en juego los sesgos cognitivos, como el sesgo de confirmación?

Y el sesgo de disponibilidad también. En el de confirmación, vos creés solo la información que concuerda con lo que pensás, y si no, la descartás. Si coincide con lo que vos pensás, lo considerás verdadero. Y en el sesgo de disponibilidad, toma como verdadero lo último que ves o lo más frecuente, aunque no sea verdad, no importa. Los sesgos operan todo el tiempo.

Y entonces, ¿cuáles son las habilidades cognitivas que deberemos estimular en este mundo más sintético?

Si delegamos funciones de alto nivel como planificar, tomar decisiones, razonar, tenemos que entrenar la metacognición. ¿Cuáles son esas habilidades metacognitivas que estamos obligados a ejercer si no queremos que nos pase por arriba la IA? Primero, la contextualización de la información, ajustarla a realidades concretas. Segundo, hay que entender las implicancias éticas de las respuestas de la IA, porque la máquina no tiene ética. Es importante poder tener esa mirada crítica. Lo tercero es la verificación porque sabemos que alucina, ¿no? Eso es lo más obvio. Vamos a tener que entrenar en la verificación. Nos toca un rol de supervisión total. Está buenísimo ponerse ahí, pero me da un poco de nostalgia porque si la IA se ocupa de lo creativo, de generar cosas que nosotros vamos a tener que evaluar, curar, contextualizar y decidir si están bien o están mal, vamos a entrar en un rol de “jefe de todo”. Se pierde nuestra capacidad creativa, se pierde el juego.

Por Julieta Schulkin

• FuturIA
• Inteligencia artificial
• Neurociencia

---

---

Conforme a

¿Ya tenés un amigo bot? La pregunta que sorprendió en el Summit de Negocios del futuro

De los dólares al bitcoin. La nueva estrategia de las tesorerías empresariales

Reskilling y ecosistemas fragmentados. Las deudas argentinas en la adopción de inteligencia artificial en las empresas