Tecno: Ante la dominación masculina, emerge la IA feminista
Nace una tendencia online en América Latina y Africa, "para transformar la sociedad"
Según estimaciones publicadas por el Foro Económico Mundial, las mujeres representan menos de un tercio de la fuerza laboral de IA a nivel mundial. Este fenómeno global está impulsando la construcción de alternativas tecnológicas como la Red Feminista de IA de América Latina y el Caribe.
La literatura tecnológica está repleta de ejemplos de sesgo de género. Los sistemas de reconocimiento de imágenes han tenido dificultades para identificar con precisión a las mujeres, en particular a las mujeres de color, lo que ha provocado identificaciones erróneas con graves consecuencias para las fuerzas del orden.
Los asistentes de voz han utilizado durante mucho tiempo solo voces femeninas, lo que refuerza el estereotipo de que las mujeres son aptas para puestos de servicio.
Al generar imágenes, las IA suelen asociar el término "CEO" con un hombre, mientras que la búsqueda de "asistente" devuelve imágenes femeninas. "La inteligencia artificial se nutre de datos que no son neutrales: reflejan sociedades marcadas por desigualdades históricas y relaciones de poder", explicó a ANSA Ivana Bartoletti, experta internacional en gobernanza de la IA y autora de un estudio del Consejo de Europa sobre IA y género.
"Si una empresa desea obtener resultados justos, debe analizar los conjuntos de datos, verificar su representatividad e intervenir activamente cuando no lo sean. La equidad no surge por sí sola: debe diseñarse", añade la experta. Para Bartoletti, el reciente caso de Grok —la IA de Elon Musk que ofrecía la capacidad de generar desnudos falsos de mujeres y menores, una función que posteriormente se suspendió— "muestra lo que ocurre cuando la seguridad y los derechos de las mujeres no se tienen en cuenta en el diseño de sistemas". "Si existen herramientas para desnudar a las mujeres, se utilizarán", explica. Los desnudos deepfake son una forma de humillación y control. El mensaje implícito es peligroso: estás en línea, así que te lo mereces.
Así es como muchas mujeres son silenciadas y abandonan el espacio digital. Es en este contexto que surgen alternativas tecnológicas para repensar la inteligencia artificial y convertirla en un espacio de lucha y poder compartido. Por ejemplo, en América Latina y el Caribe, nació la Red Feminista de IA, que apoya decenas de proyectos orientados a la transparencia y las políticas públicas.
Herramientas como AymurAI, Arvage AI y SofIA aplican la perspectiva de género al análisis jurídico y exponen los sesgos y la discriminación de los algoritmos.
El afrofeminismo también reivindica la inteligencia artificial como un espacio de autodeterminación con asistentes como AfroféminasGPT, capacitadas en el conocimiento y las voces negras. "Demuestran que podemos organizarnos para usar la IA en beneficio del bien común, compartir datos colectivamente y desarrollar soluciones centradas en necesidades reales", enfatiza Bartoletti.
"Pero el punto central sigue siendo el poder. La cuestión feminista en la IA es una cuestión de poder: Las mujeres deben tener más poder", insiste y detalla: "No en los márgenes, sino en la cúpula de las empresas y en los lugares donde se deciden las políticas tecnológicas. Necesitamos diversidad en los entornos de toma de decisiones, no solo entre quienes escriben código. La inteligencia artificial no es solo tecnología, es una elección sobre cómo queremos transformar la sociedad". (ANSA).
