1
Punya Mishra, experto en tecnología: “La IA no distingue entre verdad y falsedad, y eso no va a cambiar”
El docente e investigador indio presentó este año una de las investigaciones más profundas sobre los impactos del uso de la inteligencia artificial en la educación; durante una entrevista con LA NACION, explicó por qué la considera un verdadero riesgo
8 minutos de lectura'
LA NACIONEvangelina Himitian
“Aunque la inteligencia artificial ofrece beneficios prácticos como traductores o tutores de aprendizaje, los riesgos existenciales superan ampliamente sus ventajas debido a la incapacidad de la tecnología para distinguir matices, interpretar la verdad o experimentar empatía genuina”. Quien habla es Punya Mishra, director de la cátedra Innovative Learning Futures, dependiente del Mary Lou Fulton College de la Arizona State University y profesor asociado a Broking Institution, quien este año presentó una de las investigaciones más profundas sobre los impactos del uso de la IA generativa en la educación. Las conclusiones fueron, como recuerda hoy Mishra, que los riesgos son mucho mayores que los beneficios.
El especialista visitó la Argentina para formar parte del panel de expertos del Congreso Nacional de Educación, organizado por la provincia de San Luis junto con la Fundación Varkey. Durante el encuentro, Mishra dialogó con LA NACION sobre los impactos y las advertencias sobre el uso de la IA que rigen por estos días.
“Hay algo que es muy problemático en el uso de la IA en el aprendizaje, y es el hecho de que la IA no distingue entre verdad y falsedad. Muchos dicen: ‘Hay que chequear los datos para detectar las alucinaciones’. Creen que, con los nuevos avances, estas van a desaparecer. Pero no es así, porque las alucinaciones son producto de su naturaleza predictiva, de la forma en que propiamente funcionan los sistemas”, detalla. Y suma: “No alcanza con chequear. Se puede chequear un dato, pero no una interpretación”.
Podría parecer que Mishra, de origen indio y radicado en los Estados Unidos, vive en una especie de cueva sin Wi-Fi. Pero nada más lejos. De hecho, la IA es parte de su vida. Le sirvió, hace algún tiempo, para desarrollar un programa que tiene instalado en su computadora para comprender y poder leer por sí solo los poemas que escribió su madre. Como están escritos en la lengua materna, nunca había podido leerlos. Pero ahora, gracias a la ayuda de la IA, puede leerlos y compartirlos.
“Claro que uso IA. Pero nunca la usaría para escribir algo que realmente me importa. Una buena práctica es pedirle que desarrolle un texto y pedirle a otra IA que polemice con el resultado. Y después, volver a la primera y así, para realmente darnos cuenta de si hay algo que tiene sentido, y es porque todas estuvieron de acuerdo en eso”, apunta.
―¿Qué tan preocupados deberíamos estar por la irrupción de la inteligencia artificial en la escuela?
―Muy preocupados. Pero no se limita a lo que pasa en el aula. En realidad, el mayor impacto de la IA ocurre fuera de la escuela. Las herramientas de inteligencia artificial están integradas en tu reloj, en tu computadora, en las redes sociales. Está en todos lados. Por lo tanto, el desafío no es solo regular el aula. Nos quedamos cortos.
Esta situación requerirá educar a los padres, educar a la comunidad y a los propios estudiantes sobre lo que les está haciendo y cómo les está afectando. Que puedan ver que existe una tensión evidente entre los intereses comerciales de las empresas tecnológicas, que buscarán recuperar todo ese dinero que invirtieron, y lo que buscamos nosotros como educadores, padres y ciudadanos.
―En un futuro cercano, ¿la IA podría reemplazar a los profesores?
―Bueno, hay personas que quieren que eso suceda. Hoy, frente a la escasez global de docentes, se habla mucho de tutores virtuales. Hay sectores que impulsan esa idea bajo el argumento de que la IA ofrece un “tutor infinitamente paciente”, pero debemos resistir a esa presión. En la práctica, se observa que solo un 5% de los estudiantes utiliza estas herramientas de tutoría digital, porque los alumnos perciben que no hay una persona real a la que le importe lo que ellos aprendan. Ese es el gran motor del aprendizaje y es de humano a humano; no se produce de máquina a humano.
Cuando un profesor está sentado con un niño y le explica la misma idea una y otra vez, buscan ejemplos juntos y practican hasta que le sale. Entonces, el estudiante ve que allí hay alguien que está invirtiendo tiempo y esfuerzo en él, en su aprendizaje. Es la única manera de transmitir que eso importa. La atención de docente lo motiva y se vuelve recíproca. En cambio, la IA puede explicarlo mil veces, no le imprime sentido de relevancia al alumno, porque su tiempo no vale. Por eso digo que la IA es un tutor infinitamente paciente, pero es infinitamente descuidado.
―Solo ofrece información, sin poder transmitir un sentido o relevancia.
―La IA no ha experimentado el mundo: no tiene cuerpo, jamás tuvo dolor de cabeza ni le rompieron el corazón. Aunque puede generar textos con apariencia profunda o conmovedora, no posee una base para distinguir entre lo correcto y lo incorrecto. Muchos dicen: ‘Hay que chequear los datos para detectar las alucinaciones’. Creen que, con los nuevos avances, estas van a desaparecer. Pero no es así, porque las alucinaciones son producto de su naturaleza predictiva, de la forma en que propiamente funcionan los sistemas.
La IA es una tecnología probabilística. Usa una secuencia de palabras e intenta calcula la probabilidad de cuál sería la siguiente palabra lógica. Pero no comprende el mundo real. Nunca se tropezó y se raspó un codo, ni le preocupan las cosas que a nosotros sí. Puede escribir poesía, pero no surge de un sentimiento sino de un cálculo. La IA no tiene ningún sentido de lo que es el mundo y solo tiene palabras.
―¿No alcanza con verificar los datos?
―Creo que nos han llevado por este camino diciendo: “Oh, alucinó, podemos minimizarlo”. Y podemos verificarlo con las fuentes. Verificar un dato es relativamente sencillo. Pero ¿cómo se supone que un estudiante juzgue o verifique una interpretación? ¿Cómo verificas los matices? El impacto en la educación es enorme. Tuve que hablar en una conferencia de periodismo y me preguntaron cuál es el mayor cambio que la IA va a traer en la actividad. Dije: “Vas a pasar mucho tiempo verificando todo dos veces”. Va a ser el 90% de tu trabajo.
―¿Por qué tendemos a creer que las respuestas que nos ofrece son correctas y reales?
―Los seres humanos tenemos un sesgo cognitivo llamado “sesgo de fluidez”: confiamos de manera acrítica en respuestas redactadas con seguridad y elocuencia. Los políticos sacan provecho de eso. Si alguien habla con fluidez y confianza, nuestro cerebro interpreta que sabe mucho. Porque, por lo general, las personas que hablan con confianza sobre un tema han pasado tiempo aprendiendo sobre ese tema. La IA es una tecnología que es muy segura de sí misma y siempre es fluida. No hay errores flagrantes. Y por eso lo aceptaremos.
―Usted suele definir a los modelos de IA como un “pasante inteligente, borracho y complaciente”. ¿Por qué?
―Es una metáfora para entender su utilidad y sus límites. La IA es como un asistente sumamente capaz que ayuda a realizar tareas rápidamente, pero que ocasionalmente “bebe” y confunde datos o inventa fuentes, obligándote a verificar todo lo que entrega.
Al mismo tiempo, es un pasante que busca complacerte todo el tiempo y siempre coincide con tus opiniones, lo que puede debilitar el propio juicio crítico. Una estrategia práctica para contrarrestar esto es hacer competir a diferentes modelos entre sí, por ejemplo, pidiendo a ChatGPT que evalúe la respuesta de Claude, para contrastar sus resultados y encontrar puntos de acuerdo.
―La investigación de The Brookings Institution apuntó a que los riesgos actuales de la IA superan a sus beneficios en la educación. ¿Por qué?
―La IA ofrece beneficios instrumentales muy valiosos, como traducir textos para alumnos con diferentes lenguas maternas, adaptar niveles de lectura o contextualizar ejemplos locales. Sin embargo, los riesgos son existenciales e impactan la forma en que construimos conocimiento y relaciones humanas. La fricción social y el desacuerdo en la escuela son esenciales para aprender a convivir con opiniones diversas; en cambio, interactuar con un bot que siempre nos da la razón elimina esa experiencia formativa y genera dependencias emocionales ilusorias.
―Si la IA puede resumir, redactar y traducir, ¿cuál es la función central e insustituible del docente?
―La función primordial del profesor es despertar en el estudiante el deseo y el compromiso de aprender, aquello que podríamos definir como el “preocuparse” por el conocimiento. La IA no puede motivar a un niño a ver el mundo a través de la matemática o de la literatura. Una vez que a un estudiante le importa la calidad de su trabajo, la IA se convierte en un excelente complemento metodológico. Pero, si no existe esa motivación interna y esa mediación humana que da sentido, el alumno simplemente usará la tecnología para cumplir y entregar tareas sin realizar ningún proceso reflexivo.
