Reafirman el sesgo del algoritmo de Twitter: favorece a las personas de piel clara, jóvenes y femeninas
:quality(80)/cloudfront-us-east-1.images.arcpublishing.com/lanacionar/IIOW7QNOHNBE3ATQTHSQP4ENB4.jpg)
El programa de recompensas lanzado por Twitter para identificar los potenciales daños de su algoritmo de recorte de imágenes ha reafirmado la presencia de sesgos, ya que favorece las imágenes de personas de piel clara, jóvenes y femeninas.
Twitter ha compartido los resultados del programa de recompensas diseñado para mejorar su algoritmo de recorte de imágenes, con el que animaba a los hackers a ayudar a conocer los potenciales daños que pudiera generar.
Los ganadores, desvelados este lunes en la convención DefCon, han aportado una perspectiva novedosa para afrontar el problema de los daños no intencionados y las vías de explotación que podrían existir en el algoritmo, como ha explicado la compañía en la red social.
Uno de ellos mostró que el algoritmo “amplifica los sesgos del mundo real y las expectativas sociales de belleza”, mostrando preferencia por aquellos rostros de personas con pieles claras, cálidas y suaves, más jóvenes y más femeninas.
El segundo demostró que el algoritmo perpetuaba la marginación de determinados grupos sociales como los ancianos y las personas con discapacidad, que quedaban excluidos de los recortes de fotos.
En tercer lugar, Twitter reconoció un trabajo basado en memes bilingües, en los que el algoritmo priorizaba aquellos con texto en escritura latina sobre el texto en árabe, afectando con ello a la diversidad lingüística en la plataforma.
Como trabajo más innovador, también se reconoció una propuesta con emoji, en la que el algoritmo favorecía aquellos que tenían un tono de piel claro, en aquellos conjuntos donde un emoji se representaba con distintos tonos de piel.
Europa PressMás leídas de Tecnología
WhatsApp. Qué pasa si recibís un mensaje con el número “520″ y por qué causa tanto revuelo
En código. WhatsApp: por qué los jóvenes se mandan “7642″ como mensaje y qué significa
"Vergonzoso". Desarmó su computadora para limpiarla después de muchos años y lo que encontró lo dejó estupefacto
Código secreto. Por qué los jóvenes envían el número “11:11″ como mensaje en WhatsApp y qué significa