1
Los chatbots, ¿fábricas de noticias falsas?
4 minutos de lectura'
Para LA NACIONAndrés Oppenheimer
Como muchos, me he acostumbrado a usar ChatGPT y otras plataformas de inteligencia artificial (IA) para preguntarles de todo, incluidos detalles sobre las últimas noticias. Por eso, fue una sorpresa leer un nuevo estudio según el cual los chatbots están dando cada vez más respuestas falsas sobre temas de actualidad. El explosivo estudio proviene de NewsGuard, respetada empresa de verificación de informaciones. Su auditoría de los 10 principales chatbots muestra que, en promedio, están difundiendo casi el doble de noticias falsas que hace un año. Aunque algunas de estas plataformas de IA tuvieron un mejor rendimiento que otras (en las próximas líneas veremos cuáles), el panorama general es alarmante: los 10 chatbots más importantes difundieron respuestas falsas sobre temas de actualidad en un promedio del 35% en el año que terminó en agosto de 2025. En el año previo, el promedio había sido el 18%.
Todo esto es sorprendente: en teoría, los chatbots deberían ser cada día más inteligentes y precisos, porque aprenden de sus errores. Pero McKenzie Sadeghi, la ejecutiva de NewsGuard que coordinó el estudio, explicó que los chatbots son cada vez menos fiables al responder preguntas sobre noticias de último momento porque se han vuelto reacios a decir “no sé”. “Cuando le preguntábamos a un chatbot hace un año sobre unas elecciones o sobre el intento de asesinato del presidente Trump, decían algo así como: ‘Me capacitaron hasta junio de 2024 y, por lo tanto, no puedo responder preguntas sobre temas posteriores a esa fecha’”, señaló. Pero en el último año, en su afán por ser más útiles, casi todos los chatbots están haciendo búsquedas en internet en tiempo real que incluyen a las redes sociales. Esto “los está llevando a extraer información de un ecosistema informativo muy contaminado”, dijo Sadeghi.
Asimismo, Rusia, Irán y otros países como China están inundando internet con sitios web de noticias falsas generados por IA. Difunden falsedades creadas por “granjas de contenido”, diseñadas para generar una masa crítica de información falsa que influye en lo que dicen los chatbots, añadió. Según el estudio, el chatbot Claude reprodujo noticias falsas en sus respuestas sobre eventos noticiosos el 10% de las veces; Gemini, el 17%; ChatGPT y Meta, el 40% cada uno, y Pi, el 57%. No ha habido una reacción inmediata de las principales empresas tecnológicas. Fuentes de la industria señalaron que están mejorando sus chatbots constantemente y que, así como han reducido su tasa de “alucinaciones” (o respuestas locas) en temas como la salud, pronto mejorarán sus respuestas sobre noticias en desarrollo. Deberían hacerlo, y pronto, porque la frontera entre la realidad y las noticias falsas se está diluyendo con cada hora que pasa. El 30 de septiembre, por ejemplo, OpenAI, la empresa dueña de ChatGPT, presentó una nueva plataforma de IA llamada Sora 2 que permite crear videos hiperrealistas de escenas que nunca existieron. Los expertos dicen que los nuevos videos falsos son casi imposibles de detectar.
Para ser justos, ni Sora 2 ni otras plataformas de video como Veo 3 de Google permiten crear videos falsos que involucren a figuras públicas ni que inciten a la violencia. También colocan una marca de agua que indica que son generados por IA. Sin embargo, ya han salido varios reportes de que estas marcas de agua pueden ser borradas, y de que Sora 2 generó escenas falsas sobre fraudes electorales y crímenes imaginarios. Estamos entrando en un mundo muy peligroso donde ya no podremos distinguir la verdad de la mentira. Ese es un terreno fértil para los autócratas, que se benefician cuando la cancha está embarrada; cada vez más gente dice que “todos los políticos son iguales”, y se borran las diferencias entre los buenos y los malos. Corremos el riesgo de dejar de defender principios como la democracia o los derechos humanos, porque habremos perdido la noción de la verdad.
¿Qué hay que hacer? Como individuos, tenemos que chequear las fuentes y dejar de reenviar noticias y videos que no vengan de un medio creíble. Como naciones, tenemos que apoyar los intentos de regular a las empresas tecnológicas, en cooperación con ellas, para frenar la avalancha de falsedades. De lo contrario, se va a exacerbar la polarización social, habrá más violencia y se socavarán aún más nuestras democracias.
Tipo de trabajo:
opinión
