Reafirman el sesgo del algoritmo de Twitter: favorece a las personas de piel clara, jóvenes y femeninas

El programa de recompensas lanzado por Twitter para identificar los potenciales daños de su algoritmo de recorte de imágenes ha reafirmado la presencia de sesgos, ya que favorece las imágenes de personas de piel clara, jóvenes y femeninas.

Twitter ha compartido los resultados del programa de recompensas diseñado para mejorar su algoritmo de recorte de imágenes, con el que animaba a los hackers a ayudar a conocer los potenciales daños que pudiera generar.

Los ganadores, desvelados este lunes en la convención DefCon, han aportado una perspectiva novedosa para afrontar el problema de los daños no intencionados y las vías de explotación que podrían existir en el algoritmo, como ha explicado la compañía en la red social.

Uno de ellos mostró que el algoritmo “amplifica los sesgos del mundo real y las expectativas sociales de belleza”, mostrando preferencia por aquellos rostros de personas con pieles claras, cálidas y suaves, más jóvenes y más femeninas.

El segundo demostró que el algoritmo perpetuaba la marginación de determinados grupos sociales como los ancianos y las personas con discapacidad, que quedaban excluidos de los recortes de fotos.

En tercer lugar, Twitter reconoció un trabajo basado en memes bilingües, en los que el algoritmo priorizaba aquellos con texto en escritura latina sobre el texto en árabe, afectando con ello a la diversidad lingüística en la plataforma.

Como trabajo más innovador, también se reconoció una propuesta con emoji, en la que el algoritmo favorecía aquellos que tenían un tono de piel claro, en aquellos conjuntos donde un emoji se representaba con distintos tonos de piel.

El cambio climático y la inteligencia artificial reavivan la nostalgia por otras décadas

En EE.UU. Demandan a un abogado robot por no tener un título en Derecho

Futuro distópico. IA pidió perdón por “aniquilar a la humanidad” durante una exposición en vivo