Nos últimos quatro anos, Erin Kistler se candidatou a milhares de empregos em empresas como PayPal, Microsoft e Netflix, apenas para ter seu currículo desaparecendo sem deixar rastro. Como gerente de produto com quase 20 anos de experiência, Kistler acredita que era qualificada para todas as posições, mas nunca conseguiu uma única entrevista.
Agora, Kistler está processando a Eightfold AI, uma empresa do Vale do Silício que fabrica software de contratação usado por centenas de empregadores, incluindo aqueles aos quais ela se candidatou. O processo, aberto em janeiro em um tribunal da Califórnia, é um dos primeiros a argumentar que a triagem automatizada age como um relatório de consumo ou perfil de candidato não divulgado. Ela classifica os candidatos a emprego com base em suas chances de sucesso sem dar a eles a oportunidade de ver ou contestar os resultados, de acordo com a equipe jurídica de Kistler.
Este caso faz parte de uma onda de novas disputas legais sobre como as empresas usam IA em decisões de emprego. Trabalhadores também estão processando a Meta por um sistema interno de IA que, segundo eles, os mirou para demissões porque tiraram licença parental ou médica. Outro processo recente alega que a IBM usou ferramentas de IA que discriminavam trabalhadores mais velhos.
Cada vez mais empresas dos EUA estão recorrendo à IA para tomar decisões no local de trabalho de forma mais rápida e eficiente, muitas vezes apresentando-a como uma maneira de ser objetiva. Mas especialistas que estudam esse tipo de software dizem que ela também pode introduzir ou piorar preconceitos que podem seguir candidatos de uma empresa para outra. Legisladores estão começando a prestar atenção. Os resultados dessas batalhas legais podem moldar futuras práticas de contratação, quão transparentes elas são e quanto poder os candidatos têm no processo.
"Não há realmente nenhuma lei que exija aviso ou divulgação do uso desses sistemas de contratação por IA", disse Ifeoma Ajunwa, professora da Faculdade de Direito da Universidade Emory e diretora fundadora do programa de IA e Futuro do Trabalho. "Então, as empresas não estão necessariamente informando os trabalhadores quando estão sendo avaliados por IA."
O uso de IA na contratação está crescendo. No ano passado, 90% dos empregadores usaram alguma forma de automação em seu processo de contratação, de acordo com um relatório do Fórum Econômico Mundial. Essas ferramentas variam de filtragem simples—como remover candidatos que não têm um diploma de quatro anos ou outro requisito—a usar IA para avaliar as habilidades de um candidato a emprego ou até conduzir a entrevista telefônica inicial.
No caso da Eightfold, a empresa se descreve como "a maior fonte de dados de talentos do mundo, que se atualiza sozinha". Ela atualiza constantemente um banco de dados interno com informações de currículos, perfis do LinkedIn e contas de mídia social de mais de um bilhão de trabalhadores que se candidataram a empregos através de sua plataforma. Usando esses dados, ela aplica IA para pontuar candidatos em uma escala de 0 a 5, prevendo quão bem eles se sairiam em um determinado emprego. Essa pontuação pode então priorizar alguns candidatos em detrimento de outros para entrevistas.
"Uma grande parte do problema é que os candidatos a emprego não sabem... o que os relatórios dizem", disse Rachel Dempsey, advogada que representa Kistler.
Dempsey argumenta que os candidatos a emprego merecem a mesma transparência no processo de contratação que os americanos já têm com seus relatórios de crédito. Com essa informação, eles poderiam contestar erros ou trabalhar para melhorar fatores que afetam sua candidatura. Mas sem qualquer visão, é impossível saber se esses algoritmos discriminam candidatos de maneiras claras, disse Dempsey.
"O conceito de uma caixa preta é muito assustador", diz ela.
Em uma declaração ao Guardian, a Eightfold AI negou as alegações. "Acreditamos que as reivindicações apresentadas são sem mérito e pretendemos nos defender vigorosamente", escreveu um porta-voz em um e-mail.
Em resposta ao processo contra a IBM, a empresa negou usar IA para filtrar automaticamente candidatos e disse em uma declaração que "não tolera discriminação de qualquer tipo". A Meta não respondeu a um pedido de comentário sobre seu processo.
O medo da lista negra algorítmica
Embora os provedores de software de emprego afirmem liberar os gerentes de contratação para passar mais tempo com candidatos qualificados, especialistas discordam. Eles argumentam que a IA pode realmente piorar os preconceitos, como favorecer certos grupos demográficos.
"À medida que fizemos mais pesquisas sobre sistemas de contratação por IA, descobrimos que eles tendem a replicar muitos dos mesmos preconceitos que os gerentes humanos têm", disse Ajunwa.
Quase todos os sistemas de IA são treinados para identificar padrões, o que pode reforçar estereótipos ou preconceitos de longa data. Por exemplo, a Amazon uma vez usou uma ferramenta de IA que classificava currículos de mulheres mais baixo porque os principais funcionários da empresa eram homens. A Amazon parou de usá-la depois de descobrir o problema. Em outros casos, sistemas de contratação por IA podem criar seus próprios preconceitos. Em seu livro The Quantified Worker, Ajunwa descobriu que a IA dava pontuações ruins a candidatos a emprego com sotaques do sul porque tinha dificuldade em entendê-los durante entrevistas por voz.
Gerentes de contratação humanos também podem ser injustos—como escolher um candidato que estava na mesma fraternidade—mas "a escala do preconceito é ainda mais forte com IA", disse Xuechunzi Bai, professora assistente da Universidade de Chicago que estudou preconceito na contratação.
Bai coautorou um estudo recente onde modelos de IA foram solicitados a tomar decisões de contratação sobre candidatos fictícios de grupos demográficos inventados chamados Tufa, Aima, Reku e Weki. Após várias rodadas de decisões, os modelos de IA fizeram suposições sobre candidatos que não tinham nada a ver com suas qualificações, efetivamente estereotipando-os. Se um Tufa era um bom médico, então candidatos Tufa eram mais propensos a serem escolhidos como médicos, enquanto candidatos Weki eram mais propensos a serem contratados como zeladores.
O estudo encontrou mais preconceito na IA do que nas decisões de contratação humanas que Bai examinou no ano passado. Também descobriu que modelos mais novos e avançados produziam decisões de contratação com ainda mais preconceito.
"Ficamos bastante chocados ao ver esse resultado", disse Bai. Modelos de IA são muito bons em resolver problemas com uma única resposta correta, como matemática ou codificação. "Mas eles estão ficando piores em explorar outras opções", disse Bai. "Na contratação, a exploração é muito importante, mas esses modelos não são treinados para fazê-la."
O impacto do preconceito da IA em um candidato pode ir além de apenas uma vaga de emprego. Se um trabalhador é rejeitado por uma pessoa, ele pode tentar novamente em outra empresa com um gerente de contratação diferente. Mas se um trabalhador é rejeitado por um sistema algorítmico usado em muitas empresas, o sistema "lembra da decisão que já foi tomada e a repete por eficiência", disse Ajunwa. "Na realidade, você foi colocado na lista negra algoritmicamente."
Como muitas empresas usam software de contratação construído sobre os mesmos modelos fundamentais de IA, há uma preocupação de que uma marca negativa possa tornar muito mais difícil para um candidato conseguir qualquer emprego, disse Katie Creel, coautora de um estudo recente sobre os riscos da "monocultura algorítmica" em sistemas de contratação. "As pessoas serão excluídas de empregos mais do que seriam de outra forma", disse ela.
A Eightfold AI não comentou sobre o assunto.
A IA pode ser usada de forma responsável na contratação?
Embora as ferramentas de IA possam economizar tempo ou ajudar a testar as habilidades dos candidatos, os gerentes de contratação não devem deixar a IA tomar decisões, disse Iman Abuzeid, CEO da Incredible Health, uma plataforma de contratação por IA usada por mais de 1.500 empregadores de saúde. A Incredible Health oferece um agente de IA para conduzir entrevistas por telefone, mas a IA não rejeita, pontua, classifica ou decide automaticamente quem avança, de acordo com Abuzeid.
"Trata-se de coletar informações dos candidatos para que um humano esteja melhor equipado para tomar a decisão", disse Abuzeid.
Abuzeid também observou que cerca de 10% das entrevistas por IA da Incredible Health são auditadas quanto a preconceito por um humano, um processo que está se tornando um requisito legal em mais cidades e estados.
Na cidade de Nova York, uma lei que entrou em vigor em 2023 exige que empregadores que usam sistemas automatizados na contratação realizem auditorias anuais de preconceito e notifiquem os candidatos com antecedência sobre o uso da tecnologia. No entanto, a lei só se aplica a software que "substancialmente" auxilia ou substitui a tomada de decisão humana, criando uma brecha para casos em que humanos estão envolvidos no processo. Leis recentes em Illinois e Colorado também proíbem empregadores de usar ferramentas de IA que levem à discriminação ilegal.
Cada vez mais, regulamentações municipais e estaduais estão visando tornar um requisito básico notificar os candidatos a emprego quando a IA está sendo usada. Mas, idealmente, os candidatos deveriam ter visão sobre o que seus perfis algorítmicos dizem sobre eles, de acordo com Jenny Yang, sócia da Outten & Golden, o escritório de advocacia que representa os autores no processo contra a Eightfold AI.
"Essa transparência inicial ajuda a identificar melhor onde os problemas podem existir", disse Yang, referindo-se às notificações de que a IA foi usada. "Há uma preocupação crescente entre os trabalhadores de que eles possam ser negados a oportunidades por razões que ninguém entende."
Perguntas Frequentes
Aqui está uma lista de perguntas frequentes abordando a interseção do deslocamento de empregos por IA e os desafios legais enfrentados pelas ferramentas de contratação automatizadas
Perguntas Gerais O Panorama Geral
1 A IA realmente vai tirar meu emprego
Resposta É improvável que elimine a maioria dos empregos completamente, mas definitivamente os mudará A IA é ótima em automatizar tarefas repetitivas Em vez de substituí-lo completamente, ela provavelmente assumirá essas tarefas específicas, permitindo que você se concentre em trabalhos que exigem julgamento humano, criatividade e inteligência emocional Pense nela como uma ferramenta, não um substituto
2 Os processos sobre ferramentas de contratação por IA são realmente sobre perda de empregos
Resposta Não Os processos são sobre justiça Eles alegam que o software de IA usado para triar currículos e entrevistar candidatos é tendencioso contra pessoas de cor, mulheres e trabalhadores mais velhos Os processos argumentam que essas ferramentas são caixas pretas que tomam decisões que nem os empregadores entendem completamente, o que viola leis de direitos civis
3 O que significa falta de transparência em um contexto de contratação por IA
Resposta Significa que quando uma IA rejeita um candidato, nem o candidato nem o empregador podem explicar claramente o porquê A IA usa algoritmos complexos com milhares de pontos de dados Se o software dá uma pontuação baixa, ninguém pode apontar uma razão específica, como você não tinha 5 anos de experiência Isso torna quase impossível provar discriminação ou corrigir um processo de contratação ruim
Perguntas de Nível Iniciante
4 Como as empresas estão usando IA para contratar agora
Resposta De algumas maneiras 1 Triagem de currículos o software escaneia seu currículo em busca de palavras-chave e o classifica contra outros 2 Chatbots eles fazem perguntas preliminares 3 Entrevistas por vídeo a IA analisa suas expressões faciais, tom de voz e escolha de palavras para pontuar seu ajuste cultural ou entusiasmo
5 Se eu for rejeitado por um robô, isso é ilegal
Resposta Não automaticamente É ilegal se a IA está discriminando você com base em características protegidas, como raça, gênero, idade ou deficiência Se você simplesmente não é qualificado para o emprego, isso é legal Os processos alegam que a IA está penalizando injustamente pessoas com base nessas características protegidas, que é onde o problema legal começa
