Por qué los chatbots de IA no pueden deshacerse de los estereotipos de género

Cuando el investigador de desinformación Wen-Ping Liu investigó los esfuerzos de China para influir en las recientes elecciones de Taiwán utilizando cuentas falsas en las redes sociales, algo inusual se destacaba en los perfiles más exitosos.

Eran mujeres, o al menos eso es lo que parecían ser. Los perfiles falsos que afirmaban ser mujeres obtuvieron más participación, más ojos y más influencia que las cuentas supuestamente masculinas.

“Fingir ser una mujer es la forma más fácil de conseguir credibilidad”, dijo Liu, investigador del Ministerio de Justicia de Taiwán.

Ya sean agencias de propaganda chinas o rusas, estafadores en línea o chatbots de IA, vale la pena ser mujer, lo que demuestra que, si bien la tecnología puede volverse cada vez más sofisticada, el cerebro humano sigue siendo sorprendentemente fácil de piratear gracias en parte a los antiguos estereotipos de género que han migrado del mundo real al virtual.

Durante mucho tiempo la gente ha asignado características humanas, como el género, a objetos inanimados (los barcos son un ejemplo), por lo que tiene sentido que los rasgos humanos hagan que los perfiles falsos de las redes sociales o los chatbots sean más atractivos. Sin embargo, las preguntas sobre cómo estas tecnologías pueden reflejar y reforzar los estereotipos de género están recibiendo atención a medida que ingresan al mercado más asistentes de voz y chatbots habilitados para inteligencia artificial, desdibujando aún más la línea entre el hombre (y la mujer) y la máquina.

“Quieres inyectar algo de emoción y calidez y una manera muy fácil de hacerlo es elegir el rostro y la voz de una mujer”, dijo Sylvie Borau, profesora de marketing e investigadora en línea en Toulouse, Francia, cuyo trabajo ha descubierto que los usuarios de Internet prefieren bots “femeninos” y los ven como más humanos que las versiones “masculinas”.

La gente tiende a ver a las mujeres como más cálidas, menos amenazantes y más agradables que los hombres, dijo Borau a The Associated Press. Mientras tanto, a menudo se percibe que los hombres son más competentes, aunque también más propensos a ser amenazantes u hostiles. Debido a esto, muchas personas pueden estar, consciente o inconscientemente, más dispuestas a interactuar con una cuenta falsa que se hace pasar por femenina.

Cuando el director ejecutivo de OpenAI, Sam Altman, estaba buscando una nueva voz para el programa ChatGPT AI, se acercó a Scarlett Johansson, y le dijo que los usuarios encontrarían su voz, que sirvió como asistente de voz del mismo nombre en la película “Her”, “reconfortante”. ” Johansson rechazó la solicitud de Altman y amenazó con demandar cuando la compañía adoptó lo que ella llamó una voz “inquietantemente similar”. OpenAI puso la nueva voz en espera.

Las fotografías de perfil femeninas, en particular aquellas que muestran mujeres con piel perfecta, labios exuberantes y ojos muy abiertos con atuendos reveladores, pueden ser otro atractivo en línea para muchos hombres.

Los usuarios también tratan a los bots de manera diferente según su sexo percibido: la investigación de Borau ha descubierto que los chatbots “femeninos” tienen muchas más probabilidades de recibir acoso sexual y amenazas que los bots “masculinos”.

Los perfiles femeninos en las redes sociales reciben en promedio más de tres veces más visitas en comparación con los de los hombres, según un análisis de más de 40.000 perfiles realizado para AP por Cyabra, una empresa tecnológica israelí que se especializa en la detección de bots. Cyabra descubrió que los perfiles femeninos que dicen ser más jóvenes obtienen la mayor cantidad de visitas.

“Crear una cuenta falsa y presentarla como una mujer ayudará a que la cuenta tenga más alcance en comparación con presentarla como un hombre”, según el informe de Cyabra.

Las campañas de influencia en línea montadas por naciones como China y Rusia han utilizado durante mucho tiempo a mujeres falsas para difundir propaganda y desinformación. Estas campañas a menudo explotan la opinión de la gente sobre las mujeres. Algunas parecen abuelas sabias y cariñosas que imparten sabiduría casera, mientras que otras imitan a mujeres jóvenes, convencionalmente atractivas, ansiosas por hablar de política con hombres mayores.

El mes pasado, investigadores de la firma NewsGuard descubrieron que se utilizaron cientos de cuentas falsas, algunas con imágenes de perfil generadas por IA, para criticar al presidente Joe Biden. Sucedió después de que algunos partidarios de Trump comenzaran a publicar una foto personal con el anuncio de que “no votarán por Joe Biden”.

Si bien muchas de las publicaciones eran auténticas, más de 700 procedían de cuentas falsas. La mayoría de los perfiles afirmaban ser mujeres jóvenes que vivían en estados como Illinois o Florida. Pero muchas de las cuentas usaban un lenguaje casi idéntico y tenían fotos de perfil generadas por IA o robadas a otros usuarios. Y aunque no pudieron decir con certeza quién operaba las cuentas falsas, encontraron docenas con vínculos a países como Rusia y China.

X eliminó las cuentas después de que NewsGuard se comunicara con la plataforma.

Un informe de la ONU sugirió que hay una razón aún más obvia por la que tantas cuentas falsas y chatbots son femeninos: fueron creados por hombres. El informe, titulado “¿Son sexistas los robots?”, analizó las disparidades de género en las industrias tecnológicas y concluyó que una mayor diversidad en la programación y el desarrollo de la IA podría conducir a menos estereotipos sexistas integrados en sus productos.

Para los programadores deseosos de hacer que sus chatbots sean lo más humanos posible, esto crea un dilema, dijo Borau: si seleccionan una persona femenina, ¿están fomentando puntos de vista sexistas sobre las mujeres de la vida real? “Es un círculo vicioso”, dijo Borau. “Humanizar la IA podría deshumanizar a las mujeres”.

Argentinos por el mundo. La región hipercompetitiva que se convirtió en el paraíso de los emprendedores

Amado y odiado por igual. El vanidoso ateniense con dos caras al que un día se le terminó la buena estrella

Tres claves para un buen CV. Tips fundamentales para mejorar las chances de conseguir trabajo

Conforme a los criterios de

Conocé más

“Tuve una sensación de hogar”. Nació en Miami, trabajó en todo el mundo y cuenta su gran objetivo desde un campo que tiene en Mendoza

Tormentas. Vienen más lluvias y en una región hay atención porque serían particularmente altas

Dólar. El Banco Central hizo la mayor compra del mes y los depósitos en dólares vuelven a crecer