Durante los últimos cuatro años, Erin Kistler ha solicitado miles de empleos en empresas como PayPal, Microsoft y Netflix, solo para que su currículum desaparezca sin dejar rastro. Como gerente de producto con casi 20 años de experiencia, Kistler cree que estaba calificada para cada puesto, pero nunca obtuvo una sola entrevista.
Ahora, Kistler está demandando a Eightfold AI, una empresa de Silicon Valley que fabrica software de contratación utilizado por cientos de empleadores, incluidos aquellos a los que ella solicitó. La demanda, presentada en enero ante un tribunal de California, es una de las primeras en argumentar que la selección automatizada actúa como un informe de consumo o perfil de solicitante no divulgado. Clasifica a los buscadores de empleo según sus probabilidades de éxito sin darles la oportunidad de ver o impugnar los resultados, según el equipo legal de Kistler.
Este caso es parte de una ola de nuevas disputas legales sobre cómo las empresas utilizan la IA en decisiones laborales. Los trabajadores también están demandando a Meta por un sistema interno de IA que, según dicen, los señaló para despidos porque tomaron licencia parental o médica. Otra demanda reciente afirma que IBM utilizó herramientas de IA que discriminaban a trabajadores mayores.
Cada vez más empresas estadounidenses recurren a la IA para tomar decisiones laborales de manera más rápida y eficiente, presentándola a menudo como una forma de ser objetivas. Pero los expertos que estudian este tipo de software dicen que también puede introducir o empeorar sesgos que podrían seguir a los candidatos de una empresa a otra. Los legisladores están empezando a prestar atención. Los resultados de estas batallas legales podrían moldear las futuras prácticas de contratación, su transparencia y cuánto poder tienen los candidatos en el proceso.
"En realidad no hay ninguna ley que exija un aviso o divulgación del uso de estos sistemas de contratación con IA", dijo Ifeoma Ajunwa, profesora de la Facultad de Derecho de la Universidad Emory y directora fundadora del programa de IA y Futuro del Trabajo. "Así que las empresas no necesariamente informan a los trabajadores cuando están siendo evaluados con IA".
El uso de la IA en la contratación está creciendo. El año pasado, el 90% de los empleadores utilizó alguna forma de automatización en su proceso de contratación, según un informe del Foro Económico Mundial. Estas herramientas van desde el filtrado simple—como eliminar candidatos que no tienen un título universitario de cuatro años u otro requisito—hasta usar IA para evaluar las habilidades de un solicitante o incluso realizar la entrevista telefónica inicial.
En el caso de Eightfold, la empresa se describe a sí misma como "la fuente de datos de talento más grande del mundo, que se actualiza sola". Actualiza constantemente una base de datos interna con información de currículums, perfiles de LinkedIn y cuentas de redes sociales de más de mil millones de trabajadores que han solicitado empleos a través de su plataforma. Usando estos datos, aplica IA para calificar a los solicitantes en una escala de 0 a 5, prediciendo qué tan bien se desempeñarían en un puesto determinado. Esa puntuación puede priorizar a algunos candidatos sobre otros para las entrevistas.
"Gran parte del problema es que los solicitantes de empleo no saben... qué dicen los informes", dijo Rachel Dempsey, abogada que representa a Kistler.
Dempsey argumenta que los buscadores de empleo merecen la misma transparencia en el proceso de contratación que los estadounidenses ya tienen con sus informes de crédito. Con esa información, podrían impugnar errores o trabajar en mejorar los factores que afectan su candidatura. Pero sin ningún tipo de visibilidad, es imposible saber si estos algoritmos discriminan a los candidatos de maneras claras, dijo Dempsey.
"El concepto de caja negra da mucho miedo", afirma.
En una declaración al Guardian, Eightfold AI negó las acusaciones. "Creemos que las afirmaciones presentadas carecen de fundamento y tenemos la intención de defendernos vigorosamente", escribió un portavoz en un correo electrónico.
En respuesta a la demanda contra IBM, la empresa negó haber utilizado IA para filtrar automáticamente a los candidatos y dijo en un comunicado que "no aprueba ni tolera la discriminación de ningún tipo". Meta no respondió a una solicitud de comentarios sobre su demanda.
El miedo a la lista negra algorítmica
Aunque los proveedores de software de empleo afirman que liberan a los gerentes de contratación para pasar más tiempo con candidatos calificados, los expertos no están de acuerdo. Argumentan que la IA puede empeorar los sesgos, como favorecer a ciertos grupos demográficos.
"A medida que hemos investigado más sobre los sistemas de contratación con IA, hemos descubierto que tienden a replicar muchos de los mismos sesgos que tienen los gerentes humanos", dijo Ajunwa.
Casi todos los sistemas de IA están entrenados para identificar patrones, lo que puede reforzar estereotipos o sesgos arraigados. Por ejemplo, Amazon usó una vez una herramienta de IA que clasificaba los currículums de mujeres más abajo porque los empleados de mejor rendimiento de la empresa eran hombres. Amazon dejó de usarla después de descubrir el problema. En otros casos, los sistemas de contratación con IA pueden crear sus propios sesgos. En su libro The Quantified Worker, Ajunwa descubrió que la IA daba malas puntuaciones a solicitantes de empleo con acentos sureños porque le costaba entenderlos durante entrevistas de voz.
Los gerentes de contratación humanos también pueden ser injustos—como elegir a un candidato que estaba en la misma fraternidad—pero "la escala del sesgo es aún mayor con la IA", dijo Xuechunzi Bai, profesora asistente en la Universidad de Chicago que ha estudiado el sesgo en la contratación.
Bai coescribió un estudio reciente donde se pidió a modelos de IA que tomaran decisiones de contratación sobre solicitantes ficticios de grupos demográficos inventados llamados Tufa, Aima, Reku y Weki. Después de varias rondas de decisiones, los modelos de IA hicieron suposiciones sobre los candidatos que no tenían nada que ver con sus calificaciones, estereotipándolos efectivamente. Si un Tufa era un buen médico, entonces era más probable que los candidatos Tufa fueran elegidos como médicos, mientras que los candidatos Weki tenían más probabilidades de ser contratados como conserjes.
El estudio encontró más sesgo en la IA que en las decisiones de contratación humanas que Bai examinó el año pasado. También encontró que los modelos más nuevos y avanzados producían decisiones de contratación con aún más sesgo.
"Nos sorprendió bastante ver este resultado", dijo Bai. Los modelos de IA son muy buenos resolviendo problemas con una sola respuesta correcta, como matemáticas o programación. "Pero están empeorando en explorar otras opciones", dijo Bai. "En la contratación, la exploración es muy importante, pero estos modelos no están entrenados para hacerlo".
El impacto del sesgo de la IA en un solicitante puede ir más allá de una sola oferta de empleo. Si un trabajador es rechazado por una persona, puede intentarlo de nuevo en otra empresa con un gerente de contratación diferente. Pero si un trabajador es rechazado por un sistema algorítmico utilizado en muchas empresas, el sistema "recuerda la decisión que ya se tomó y la repite por eficiencia", dijo Ajunwa. "En realidad, has sido vetado algorítmicamente".
Debido a que muchas empresas usan software de contratación construido sobre los mismos modelos fundamentales de IA, existe la preocupación de que una marca negativa podría hacer mucho más difícil que un candidato obtenga cualquier empleo, dijo Katie Creel, coautora de un estudio reciente sobre los riesgos de la "monocultura algorítmica" en los sistemas de contratación. "La gente será excluida de empleos más de lo que habría sido de otra manera", dijo.
Eightfold AI no comentó sobre el asunto.
¿Puede la IA usarse de manera responsable en la contratación?
Si bien las herramientas de IA pueden ahorrar tiempo o ayudar a evaluar las habilidades de los candidatos, los gerentes de contratación no deberían dejar que la IA tome decisiones, dijo Iman Abuzeid, CEO de Incredible Health, una plataforma de contratación con IA utilizada por más de 1,500 empleadores de salud. Incredible Health ofrece un agente de IA para realizar entrevistas telefónicas, pero la IA no rechaza, puntúa, clasifica ni decide automáticamente quién avanza, según Abuzeid.
"Se trata de recopilar información de los candidatos para que un humano esté mejor equipado para tomar la decisión", dijo Abuzeid.
Abuzeid también señaló que alrededor del 10% de las entrevistas con IA de Incredible Health son auditadas por un humano para detectar sesgos, un proceso que se está convirtiendo en un requisito legal en más ciudades y estados.
En la ciudad de Nueva York, una ley que entró en vigor en 2023 exige que los empleadores que usan sistemas automatizados en la contratación realicen auditorías anuales de sesgo y notifiquen a los candidatos con anticipación sobre el uso de la tecnología. Sin embargo, la ley solo se aplica a software que "sustancialmente" asiste o reemplaza la toma de decisiones humana, creando una laguna para los casos donde los humanos están involucrados en el proceso. Leyes recientes en Illinois y Colorado también prohíben a los empleadores usar herramientas de IA que conduzcan a discriminación ilegal.
Cada vez más, las regulaciones de ciudades y estados buscan hacer que sea un requisito básico notificar a los solicitantes de empleo cuando se usa IA. Pero idealmente, los candidatos deberían tener información sobre lo que dicen sus perfiles algorítmicos sobre ellos, según Jenny Yang, socia de Outten & Golden, el bufete de abogados que representa a los demandantes en la demanda contra Eightfold AI.
"Esta transparencia inicial ayuda a identificar mejor dónde podrían existir problemas", dijo Yang, refiriéndose a las notificaciones de que se usó IA. "Hay una creciente preocupación entre los trabajadores de que podrían ser negados de oportunidades por razones que nadie entiende".
Preguntas Frecuentes
Aquí hay una lista de preguntas frecuentes que abordan la intersección del desplazamiento laboral por IA y los desafíos legales que enfrentan las herramientas de contratación automatizadas
Preguntas Generales El Panorama General
1 ¿La IA realmente me quitará mi trabajo
Respuesta Es poco probable que elimine la mayoría de los empleos por completo, pero definitivamente los cambiará. La IA es excelente automatizando tareas repetitivas. En lugar de reemplazarte por completo, probablemente asumirá esas tareas específicas, permitiéndote enfocarte en trabajo que requiere juicio humano, creatividad e inteligencia emocional. Piénsalo como una herramienta, no un reemplazo.
2 ¿Las demandas sobre herramientas de contratación con IA tratan realmente sobre pérdida de empleo
Respuesta No. Las demandas tratan sobre equidad. Afirman que el software de IA utilizado para filtrar currículums y entrevistar candidatos está sesgado contra personas de color, mujeres y trabajadores mayores. Las demandas argumentan que estas herramientas son cajas negras que toman decisiones que ni siquiera los empleadores entienden completamente, lo que viola las leyes de derechos civiles.
3 ¿Qué significa la falta de transparencia en un contexto de contratación con IA
Respuesta Significa que cuando una IA rechaza a un candidato, ni el solicitante ni el empleador pueden explicar claramente por qué. La IA usa algoritmos complejos con miles de puntos de datos. Si el software da una puntuación baja, nadie puede señalar una razón específica como "te faltaron 5 años de experiencia". Esto hace casi imposible probar discriminación o corregir un proceso de contratación defectuoso.
Preguntas de Nivel Principiante
4 ¿Cómo están usando las empresas la IA para contratar ahora mismo
Respuesta De varias maneras: 1) Filtrado de currículums: el software escanea tu currículum en busca de palabras clave y lo clasifica frente a otros. 2) Chatbots: te hacen preguntas preliminares. 3) Entrevistas por video: la IA analiza tus expresiones faciales, tono de voz y elección de palabras para puntuar tu ajuste cultural o entusiasmo.
5 Si me rechaza un robot, ¿eso es ilegal
Respuesta No automáticamente. Es ilegal si la IA te está discriminando basándose en características protegidas como raza, género, edad o discapacidad. Si simplemente no estás calificado para el trabajo, eso es legal. Las demandas afirman que la IA está penalizando injustamente a las personas basándose en estos rasgos protegidos, que es donde comienza el problema legal.
