1
Amazon deja de elegir empleados con un sistema de inteligencia artificial por discriminar las postulaciones de mujeres
1 minuto de lectura'
El uso de los robots, la automatización y la inteligencia artificial suele presentarse como una solución a muchos de los problemas y desafíos cotidianos. Sin embargo, estos proyectos son desarrollados por humanos y no están exentos de errores en su funcionamiento.
Eso fue lo que ocurrió en Amazon con el software de selección de personal, basado en técnicas de aprendizaje automático, cuyos resultados arrojaron que prefería a los candidatos varones por sobre las mujeres, de acuerdo a un reporte publicado por Reuters.
La iniciativa había sido desarrollada en 2014 para asistir al departamento de recursos humanos para procesar las solicitudes que recibía la compañía. A cada uno de los curriculums el sistema de inteligencia artificial le otorgaba una calificación de uno a cinco estrellas, y luego el reporte final pasaba a manos de los directores que definían la contratación.
A pesar de los intentos de la compañía por mantener un perfil neutral en el análisis automatizado, el sistema otorgaba una menor calificación a los CV que contenían la palabra mujer o cuya formación provenía de una escuela solo para mujeres.
Un año más tarde, Amazon detectó que el sistema no estaba siendo neutral respecto al género durante la selección de posibles candidatos para puestos técnicos como programadores o ingenieros. El problema estaba en la base utilizada para entrenar el software: se analizaron patrones de postulaciones realizadas a la compañía durante diez años, un estudio donde predominaba la presencia de los varones dentro de una industria tecnológica que cuenta con una mayor presencia de hombres por sobre las mujeres.
Según una fuente citada por el sitio The Verge, el programa de selección fue solo una prueba y no fue utilizado en grandes grupos de selección de empleados. A su vez, se mencionó que el cierre del programa se debió a diferentes razones, no solo por la discriminación por género.
