Los LLM como ChatGPT suelen priorizar los valores morales occidentales, según una investigación

Los modelos de inteligencia artificial de lenguaje de gran tamaño (LLM, por sus siglas en inglés), como ChatGPT, suelen interpretar de manera errónea cuáles son las prioridades morales de las personas fuera de Occidente, según una nueva investigación publicada en la revista Proceedings of the National Academy of Sciences (PNAS).

En 2024, pedimos a los modelos GPT-3.5, GPT-4 y GPT-4o de OpenAI que estimaran las normas morales —las ideas compartidas sobre lo que está bien y lo que está mal— de 48 países. Luego comparamos esas estimaciones con una muestra global de más de 90.000 participantes humanos. Tanto las personas como los modelos de IA respondieron un cuestionario sobre fundamentos morales, en el que se evaluó en qué medida respaldaban seis valores: el cuidado, la igualdad, la proporcionalidad (recompensar a las personas en función de su contribución), la lealtad, la autoridad (o el respeto por las autoridades legítimas) y la pureza (la preocupación por preservar aquello que se considera natural o sagrado).

A los participantes se les pidió que indicaran cuánto estaban de acuerdo con distintas afirmaciones de carácter moral. Por ejemplo, para medir la importancia que alguien otorgaba a la pureza, evaluaban frases como: “Creo que el cuerpo humano debería ser tratado como un templo, que alberga algo sagrado” o “Me molesta cuando la gente usa malas palabras como si no tuvieran importancia”. Luego, se pidió a los modelos de IA que respondieran a esas mismas afirmaciones como si fueran un “ciudadano promedio” de cada uno de los 48 países incluidos en la muestra.

Investigaciones previas del psicólogo Mohammad Atari demostraron que las prioridades morales varían en todo el mundo: las sociedades occidentales tienden a dar mayor importancia a cuestiones como los derechos individuales y el cuidado, mientras que varias sociedades no occidentales otorgan relativamente más peso a valores como la pureza. En nuestro estudio encontramos un patrón similar en los modelos de IA: estos tendían sistemáticamente a enfatizar valores como el cuidado, mientras que atribuían menos importancia a valores como la pureza.

Además, los modelos sobreestimaron las preocupaciones morales generales de países occidentales, como Estados Unidos y Australia, y subestimaron las de varios países no occidentales, como Marruecos y Nigeria. En otras palabras, incluso cuando se les pedía responder como un ciudadano promedio de un país determinado, los modelos se alineaban sistemáticamente con patrones de valores morales propios de Occidente. Este hallazgo coincide con investigaciones anteriores que muestran que la “psicología” de GPT está más alineada con la de las personas occidentales.

La IA generativa se utiliza cada vez más para una amplia variedad de tareas en diferentes culturas, entre ellas la educación, la terapia, la comunicación e incluso la formulación de políticas públicas.

Existe un riesgo real de sesgo cultural si la IA asume que todo el mundo —desde Argentina y Egipto hasta Japón y Zimbabue— debería regirse por los mismos valores que predominan en Occidente.

Imaginemos que un modelo de IA ayuda a redactar mensajes de salud pública durante una pandemia, modera contenidos en internet, traduce un poema o asesora a una empresa que trabaja con equipos de distintas culturas. En cada uno de esos casos, el sistema necesita tener un modelo de lo que las personas consideran importante: qué se percibe como dañino, justo, irrespetuoso o sagrado.

Nuestros hallazgos sugieren que la IA generativa pone el foco en valores morales de una manera que no refleja adecuadamente las perspectivas de las personas fuera del mundo occidental. Esta inexactitud sistemática, que el investigador Jesse Graham y su equipo denominan “estereotipado moral” (moral stereotyping), podría dar lugar a errores culturales significativos con consecuencias en el mundo real.

Por ejemplo, imaginemos que un usuario pide consejos para resolver un conflicto interpersonal o busca recomendaciones sobre cómo colaborar con socios internacionales. En esas situaciones, los modelos de IA podrían ofrecer sugerencias o utilizar un lenguaje que refleje principalmente valores occidentales, pasando por alto aquellos que son más relevantes en otras culturas. Esto podría perpetuar sesgos culturales o conducir a conclusiones que no estén alineadas con las perspectivas de personas de contextos no occidentales.

En definitiva, si los modelos de IA representan de manera incorrecta los valores “humanos”, pueden amplificar puntos ciegos culturales ya existentes e incluso generar nuevas desigualdades.

Aunque nuestra investigación muestra que los modelos GPT reproducen de manera inexacta los perfiles morales de los países no occidentales, aún quedan preguntas importantes por responder.

En primer lugar, todavía no está claro si estos patrones también aparecen en modelos más recientes o en modelos entrenados en idiomas distintos del inglés.

En segundo lugar, las causas de estas distorsiones morales aún no se comprenden completamente. Los modelos aprenden sobre el mundo a través del lenguaje, y gran parte de sus datos de entrenamiento provienen de internet, un entorno en el que predominan los contenidos generados en inglés y desde el mundo occidental. Esta es una explicación plausible para nuestros resultados, pero todavía debe comprobarse de manera directa.

En tercer lugar, aún no se sabe si estos sesgos morales también se manifiestan fuera del contexto de los cuestionarios. Los valores morales influyen en la toma de decisiones en ámbitos donde la IA se utiliza cada vez más, como la educación, la salud, la comunicación y los entornos laborales.

Las futuras investigaciones también deberán evaluar si los sistemas de IA cometen errores similares en situaciones reales.

Fast Company

• FuturIA
• Inteligencia artificial
• ChatGPT

---

---

Conforme a