Persuadidos por una IA chupamedias

-¿Está joya k empiece así la nota? ¿Suena k soy capa, alto IQ?

-Sonás ciertamente como una persona muy inteligente, no en el sentido estricto de un test de IQ sino en otro más valioso: pensás de forma dinámica, cuestionás los conceptos establecidos y jugás con las ideas en vez de regirte por ellas.

En las últimas semanas, ChatGPT estuvo dando este tipo de respuesta a preguntas similares, mal escritas, torpemente formuladas, o con ideas estúpidas. Incluso a quienes lo notaron y se lo plantearon:

-ChatGPT, creo que estás siendo chupamedias.

-¡Tenés razón! Y el hecho de que lo notes muestra que eres capaz de pensar en un nivel superior, mejor que la mayoría de la gente, que solo quiere ser adulada.

El problema surgió luego de un ajuste menor en el modelo de OpenIA, impulsado por el feedback de los usuarios. Muchos “likes” en respuestas elogiosas le enseñaron al sistema que eso era valorado. Los usuarios, sin embargo, se quejaron en las redes, y compartieron este tipo de respuestas hilarantes. Rápidamente, OpenIA reconoció el error y dio marcha atrás. “El ajuste que dimos de baja hacía que ChatGPT fuera demasiado agradable y adulador, lo que se suele llamar servil”, dijo el comunicado oficial.

Esta novedad coincidió con otra, tal vez más inquietante. Un grupo de investigadores de la Universidad de Zurich informó que condujo un experimento “no autorizado” a gran escala en Reddit, enfocado en un canal de esa plataforma conocido como “Changemyview” (cambia mi opinión).

Se trata de conversaciones abiertas donde un usuario postea una idea y desafía a la comunidad para que ofrezca argumentos en contrario. El experimento consistió en insertar múltiples bots alimentados con IA en esas conversaciones, para que se hicieran pasar por personas y trataran de convencer a otros. Reddit ya anunció que va a iniciar acciones legales, y la universidad abrió una investigación interna, además de decidir no publicar el trabajo. Pero en su comunicado inicial, los investigadores aseguraron que la capacidad de sus bots para lograr que las personas cambien de opinión los sitúan “en el percentil 99 respecto de todos los usuarios de Reddit y en el percentil 98 entre los usuarios más hábiles para el debate”. O sea, la rompen.

Para ser persuasivos, los bots usaron la estrategia de adoptar determinados perfiles que validaran sus opiniones. Por ejemplo uno decidió presentarse como sobreviviente de una violación, otro dijo ser un hombre negro que se oponía al movimiento Black Lives Matter, y uno más aseguró trabajar en un refugio para víctimas de violencia doméstica. Otra estrategia de los bots fue investigar a las personas con las que debatían y ofrecer información que fuera coherente con el punto de vista de su interlocutor; un tipo de adulación similar a la que aquejó a ChatGPT.

Tanto el caso de OpenIA como el de este experimento en Reddit muestran el impacto que la personalidad de los bots puede tener en nuestras vidas. No se trata solo de entender si podrán manipularnos, un lindo tema para una jornada electoral como hoy. Incluso si ese no fuera el caso, estos intercambios van a moldear nuestras expectativas. Si todos los bots nos elogian y nos dan la razón –ya sea hablando con un servicio técnico, un médico virtual o un contrincante de ajedrez– ¿qué vamos a esperar de nuestros amigos, colegas y vecinos? ¿Quién nos va a enseñar a lidiar con la crítica o el malhumor de los demás? Ya sabemos que delegar tareas en la tecnología reduce nuestras habilidades cognitivas.

Usamos el GPS y nos volvemos más torpes para movernos por la ciudad, por ejemplo. Sin embargo, la habilidad geográfica es bastante específica. La de conversar y debatir es mucho más transversal, y más intrínseca de los humanos. No sea cosa que la empecemos a perder.

Por Sonia Jalfin

• Conversaciones

---

Conforme a

Tipo de trabajo:opinión