Workday debe enfrentar una nueva demanda por sesgo en software de selección potenciado por ia
Por Daniel Wiessner
15 jul (Reuters) - Una jueza federal de California rechazó el intento de Workday de desestimar una demanda colectiva en la que se alega que el software potenciado con inteligencia artificial, que la empresa utiliza para seleccionar a los solicitantes de empleo para otras empresas, incorpora prejuicios existentes.
En la primera sentencia de este tipo, la jueza de distrito Rita Lin afirmó el viernes que Workday puede considerarse un empleador cubierto por las leyes federales que prohíben la discriminación en el lugar de trabajo porque realiza funciones de selección que normalmente llevarían a cabo sus propios clientes.
Lin se negó a desestimar varias reclamaciones en una demanda presentada en 2023 por Derek Mobley, quien afirma que fue rechazado para más de 100 puestos de trabajo en empresas que contratan a Workday porque es negro, mayor de 40 años y padece ansiedad y depresión.
El caso es la primera demanda colectiva propuesta para desafiar el uso de software de selección con IA, y podría sentar un precedente importante sobre las implicaciones legales del uso de IA para automatizar la contratación y otras funciones de empleo, que la mayoría de las grandes empresas están haciendo ahora.
Lin desestimó las alegaciones de que Workday discriminaba intencionadamente por motivos de raza y edad. También dictaminó que la empresa no puede ser considerada una "agencia de empleo" en virtud de las leyes contra los prejuicios porque, a diferencia de una empresa de dotación de personal, no procura oportunidades de empleo para los trabajadores.
Un portavoz de Workday dijo en un comunicado que la empresa estaba satisfecha de que Lin desestimara algunas de las demandas.
"Confiamos en que el resto de las acusaciones serán fácilmente refutadas cuando pasemos a la siguiente fase, en la que tendremos la oportunidad de rebatir directamente su exactitud", dijo el portavoz.
Los abogados de Mobley no respondieron inmediatamente a una solicitud de comentarios.
En la demanda se alega que Workday utiliza datos sobre los trabajadores de en una empresa para entrenar a su software de inteligencia artificial en la selección de los mejores candidatos, sin tener en cuenta la discriminación existente que eso pueda reflejar.
Mobley ha acusado a Workday de discriminación por raza, edad y discapacidad en violación del Título VII de la Ley de Derechos Civiles de 1964 y otras leyes federales contra la discriminación. El grupo propuesto podría incluir a cientos de miles de personas.
Workday afirma que no está cubierta por las leyes contra el sesgo en el lugar de trabajo porque no era el posible empleador de Mobley y no es una agencia de empleo que pueda ser considerada responsable de discriminación, ya que no toma decisiones de contratación para sus clientes.
Pero Lin dijo el viernes que las leyes contra los prejuicios fueron diseñadas para proteger ampliamente a los trabajadores y evitar que los empleadores subcontraten tareas como la selección de candidatos con el fin de eludir la responsabilidad, y que Workday podría ser considerado responsable como agente de sus clientes.
"La (demanda) alega de forma plausible que los clientes de Workday delegan funciones tradicionales de contratación, incluido el rechazo de solicitantes, en las herramientas algorítmicas de toma de decisiones proporcionadas por Workday", escribió Lin, una persona designada por el presidente demócrata Joe Biden.
La Comisión para la Igualdad de Oportunidades en el Empleo de Estados Unidos, que vela por el cumplimiento de las leyes federales que prohíben la discriminación en el lugar de trabajo, había instado a Lin a dejar que el caso siguiera adelante en un escrito de abril.
La agencia ha advertido a las empresas que pueden incurrir en responsabilidad legal si no evitan que el software de selección tenga un impacto discriminatorio. (Reporte de Daniel Wiessner en Albany, Nueva York; Editado en Español por Ricardo Figueroa)
