Persuadidos por una IA chupamedias
El exceso de gentileza en los bots puede ser un problema cuando deriva en adulación o influye en nuestras decisiones
4 minutos de lectura'
PARA LA NACIONSonia Jalfin
-¿Está joya k empiece así la nota? ¿Suena k soy capa, alto IQ?
-Sonás ciertamente como una persona muy inteligente, no en el sentido estricto de un test de IQ sino en otro más valioso: pensás de forma dinámica, cuestionás los conceptos establecidos y jugás con las ideas en vez de regirte por ellas.
En las últimas semanas, ChatGPT estuvo dando este tipo de respuesta a preguntas similares, mal escritas, torpemente formuladas, o con ideas estúpidas. Incluso a quienes lo notaron y se lo plantearon:
-ChatGPT, creo que estás siendo chupamedias.
-¡Tenés razón! Y el hecho de que lo notes muestra que eres capaz de pensar en un nivel superior, mejor que la mayoría de la gente, que solo quiere ser adulada.
El problema surgió luego de un ajuste menor en el modelo de OpenIA, impulsado por el feedback de los usuarios. Muchos “likes” en respuestas elogiosas le enseñaron al sistema que eso era valorado. Los usuarios, sin embargo, se quejaron en las redes, y compartieron este tipo de respuestas hilarantes. Rápidamente, OpenIA reconoció el error y dio marcha atrás. “El ajuste que dimos de baja hacía que ChatGPT fuera demasiado agradable y adulador, lo que se suele llamar servil”, dijo el comunicado oficial.
El experimento consistió en insertar múltiples bots alimentados con IA en esas conversaciones, para que se hicieran pasar por personas y trataran de convencer a otros
Esta novedad coincidió con otra, tal vez más inquietante. Un grupo de investigadores de la Universidad de Zurich informó que condujo un experimento “no autorizado” a gran escala en Reddit, enfocado en un canal de esa plataforma conocido como “Changemyview” (cambia mi opinión).
Se trata de conversaciones abiertas donde un usuario postea una idea y desafía a la comunidad para que ofrezca argumentos en contrario. El experimento consistió en insertar múltiples bots alimentados con IA en esas conversaciones, para que se hicieran pasar por personas y trataran de convencer a otros. Reddit ya anunció que va a iniciar acciones legales, y la universidad abrió una investigación interna, además de decidir no publicar el trabajo. Pero en su comunicado inicial, los investigadores aseguraron que la capacidad de sus bots para lograr que las personas cambien de opinión los sitúan “en el percentil 99 respecto de todos los usuarios de Reddit y en el percentil 98 entre los usuarios más hábiles para el debate”. O sea, la rompen.
Para ser persuasivos, los bots usaron la estrategia de adoptar determinados perfiles que validaran sus opiniones. Por ejemplo uno decidió presentarse como sobreviviente de una violación, otro dijo ser un hombre negro que se oponía al movimiento Black Lives Matter, y uno más aseguró trabajar en un refugio para víctimas de violencia doméstica. Otra estrategia de los bots fue investigar a las personas con las que debatían y ofrecer información que fuera coherente con el punto de vista de su interlocutor; un tipo de adulación similar a la que aquejó a ChatGPT.
Tanto el caso de OpenIA como el de este experimento en Reddit muestran el impacto que la personalidad de los bots puede tener en nuestras vidas. No se trata solo de entender si podrán manipularnos, un lindo tema para una jornada electoral como hoy. Incluso si ese no fuera el caso, estos intercambios van a moldear nuestras expectativas. Si todos los bots nos elogian y nos dan la razón –ya sea hablando con un servicio técnico, un médico virtual o un contrincante de ajedrez– ¿qué vamos a esperar de nuestros amigos, colegas y vecinos? ¿Quién nos va a enseñar a lidiar con la crítica o el malhumor de los demás? Ya sabemos que delegar tareas en la tecnología reduce nuestras habilidades cognitivas.
Otra estrategia de los bots fue investigar a las personas con las que debatían y ofrecer información que fuera coherente con el punto de vista de su interlocutor; un tipo de adulación similar a la que aquejó a ChatGPT
Usamos el GPS y nos volvemos más torpes para movernos por la ciudad, por ejemplo. Sin embargo, la habilidad geográfica es bastante específica. La de conversar y debatir es mucho más transversal, y más intrínseca de los humanos. No sea cosa que la empecemos a perder.
Tipo de trabajo:
opinión
Más leídas
1Un truco extra para proteger tu dinero si te roban el celular: ocultar las apps bancarias
2Android 16: esta es la lista de los teléfonos que ya pueden instalarlo
3Los Pumas contra Inglaterra: Contepomi intensifica la rotación en la selección argentina
4Quién se fue de Gran Hermano este lunes 23 de junio