1
Esa prejuiciosa inteligencia artificial
Una investigación del sitio de noticias Bloomberg analizó 3000 imágenes generadas por la inteligencia artificial para ver cómo mostraba a los diferentes países y culturas. Descubrieron que la IA se maneja con estereotipos. Para ella todos los hindúes son barbudos, arrugados y canosos. Todos los mexicanos llevan sombrero. Nigeria tiene más de 300 grupos étnicos diferentes, pero en sus ilustraciones reconoce solamente a uno.
“Esto es achatar las descripciones de ‘una persona india’ o ‘una nigeriana’ en estereotipos particulares que podrían verse desde una perspectiva negativa”, explica Amba Kak, director ejecutivo del instituto de estudios AI Now. La IA comparte nuestro sesgo ideológico, blanco y occidental.
Hay algo de maravilloso y algo de frustrante en sus elaboraciones. Nosotros somos sus dioses creadores: unos dioses atolondrados, incompletos, chambones. Ella trata de agradarnos; nunca va a lograrlo, porque lleva nuestro ADN ideológico. Cuando la vemos, vemos a una caricatura de nosotros mismos.ß
Algo más...
Otro experimento: BuzzFeed le pidió 195 imágenes de muñecas Barbie a la IA producidas con Midjourney, el generador de imágenes de IA. Una por país. Varias de las Barbies asiáticas eran de piel clara y otras, rubias. La Barbie alemana vestía ropa militar; la de Sudán del Sur llevaba un arma.ß
