Przez ostatnie cztery lata Erin Kistler aplikowała do tysięcy miejsc pracy w firmach takich jak PayPal, Microsoft i Netflix, tylko po to, by jej CV zniknęło bez śladu. Jako menedżerka produktu z prawie 20-letnim doświadczeniem Kistler wierzy, że kwalifikowała się na każde stanowisko, a mimo to nigdy nie dostała ani jednej rozmowy kwalifikacyjnej.
Teraz Kistler pozywa Eightfold AI, firmę z Doliny Krzemowej, która tworzy oprogramowanie rekrutacyjne używane przez setki pracodawców, w tym tych, do których aplikowała. Pozew złożony w styczniu w sądzie w Kalifornii jest jednym z pierwszych, które argumentują, że zautomatyzowana selekcja działa jak nieujawniony raport konsumencki lub profil kandydata. Rankinguje on osoby ubiegające się o pracę pod kątem ich szans na sukces, nie dając im możliwości zobaczenia ani zakwestionowania wyników, według zespołu prawnego Kistler.
Ta sprawa jest częścią fali nowych sporów prawnych dotyczących tego, jak firmy wykorzystują AI w decyzjach związanych z zatrudnieniem. Pracownicy pozywają również Meta w związku z wewnętrznym systemem AI, który ich zdaniem wskazał ich do zwolnień, ponieważ korzystali z urlopu rodzicielskiego lub zdrowotnego. Inny niedawny pozew twierdzi, że IBM używał narzędzi AI, które dyskryminowały starszych pracowników.
Coraz więcej amerykańskich firm zwraca się ku AI, aby podejmować decyzje w miejscu pracy szybciej i efektywniej, często przedstawiając to jako sposób na bycie obiektywnym. Ale eksperci badający tego rodzaju oprogramowanie twierdzą, że może ono również wprowadzać lub pogłębiać uprzedzenia, które mogą podążać za kandydatami z jednej firmy do drugiej. Ustawodawcy zaczynają zwracać na to uwagę. Wyniki tych batalii prawnych mogą ukształtować przyszłe praktyki rekrutacyjne, ich przejrzystość oraz to, jak dużą władzę będą mieli kandydaci w tym procesie.
„Tak naprawdę nie ma żadnego prawa wymagającego powiadomienia lub ujawnienia użycia tych systemów rekrutacyjnych opartych na AI" – powiedziała Ifeoma Ajunwa, profesor w Szkole Prawa Uniwersytetu Emory i dyrektorka założycielka programu AI i Przyszłość Pracy. „Więc firmy niekoniecznie informują pracowników, kiedy są oceniani za pomocą AI".
Wykorzystanie AI w rekrutacji rośnie. W zeszłym roku 90% pracodawców używało jakiejś formy automatyzacji w swoim procesie rekrutacyjnym, według raportu Światowego Forum Ekonomicznego. Narzędzia te obejmują zarówno proste filtrowanie – takie jak usuwanie kandydatów, którzy nie mają dyplomu ukończenia studiów licencjackich lub innego wymogu – jak i używanie AI do oceny umiejętności kandydata, a nawet przeprowadzania wstępnej rozmowy telefonicznej.
W przypadku Eightfold firma opisuje siebie jako „największe na świecie, samoodświeżające się źródło danych o talentach". Stale aktualizuje wewnętrzną bazę danych o informacje z CV, profili LinkedIn i kont w mediach społecznościowych ponad miliarda pracowników, którzy aplikowali o pracę za pośrednictwem jej platformy. Wykorzystując te dane, stosuje AI do oceny kandydatów w skali od 0 do 5, przewidując, jak dobrze poradziliby sobie na danym stanowisku. Ten wynik może następnie priorytetyzować niektórych kandydatów nad innymi w rozmowach kwalifikacyjnych.
„Duża część problemu polega na tym, że osoby ubiegające się o pracę nie wiedzą… co mówią raporty" – powiedziała Rachel Dempsey, prawniczka reprezentująca Kistler.
Dempsey argumentuje, że osoby szukające pracy zasługują na taką samą przejrzystość w procesie rekrutacji, jaką Amerykanie już mają w przypadku swoich raportów kredytowych. Dzięki tym informacjom mogliby kwestionować błędy lub pracować nad poprawą czynników wpływających na ich kandydaturę. Ale bez żadnego wglądu niemożliwe jest stwierdzenie, czy te algorytmy dyskryminują kandydatów w oczywisty sposób, powiedziała Dempsey.
„Koncepcja czarnej skrzynki jest bardzo przerażająca" – mówi.
W oświadczeniu dla Guardiana Eightfold AI zaprzeczyło zarzutom. „Wierzymy, że wysuwane roszczenia są bezzasadne i zamierzamy energicznie się bronić" – napisał rzecznik w e-mailu.
W odpowiedzi na pozew przeciwko IBM firma zaprzeczyła używaniu AI do automatycznego odsiewania kandydatów i oświadczyła w swoim stanowisku, że „nie pochwala ani nie toleruje dyskryminacji jakiegokolwiek rodzaju". Meta nie odpowiedziała na prośbę o komentarz w sprawie swojego pozwu.
Strach przed algorytmicznym umieszczeniem na czarnej liście
Chociaż dostawcy oprogramowania rekrutacyjnego twierdzą, że uwalniają menedżerów ds. rekrutacji, aby mogli spędzać więcej czasu z wykwalifikowanymi kandydatami, eksperci nie zgadzają się z tym. Argumentują, że AI może w rzeczywistości pogłębiać uprzedzenia, takie jak faworyzowanie określonych grup demograficznych.
„W miarę jak prowadziliśmy więcej badań nad systemami rekrutacyjnymi opartymi na AI, odkryliśmy, że mają one tendencję do odtwarzania wielu tych samych uprzedzeń, które mają ludzcy menedżerowie" – powiedziała Ajunwa.
Prawie wszystkie systemy AI są szkolone do identyfikowania wzorców, co może wzmacniać stereotypy lub długotrwałe uprzedzenia. Na przykład Amazon używał kiedyś narzędzia AI, które niżej oceniało CV kobiet, ponieważ najlepsi pracownicy firmy byli mężczyznami. Amazon zaprzestał jego używania po odkryciu problemu. W innych przypadkach systemy rekrutacyjne oparte na AI mogą tworzyć własne uprzedzenia. W swojej książce Quantified Worker Ajunwa odkryła, że AI przyznawało niskie oceny kandydatom z południowym akcentem, ponieważ miało trudności ze zrozumieniem ich podczas rozmów głosowych.
Ludzcy menedżerowie ds. rekrutacji również mogą być niesprawiedliwi – na przykład wybierając kandydata, który był w tym samym bractwie studenckim – ale „skala uprzedzeń jest jeszcze większa w przypadku AI" – powiedziała Xuechunzi Bai, adiunkt na Uniwersytecie w Chicago, która badała uprzedzenia w rekrutacji.
Bai współtworzyła niedawne badanie, w którym modele AI poproszono o podjęcie decyzji rekrutacyjnych dotyczących fikcyjnych kandydatów z wymyślonych grup demograficznych o nazwach Tufa, Aima, Reku i Weki. Po kilku rundach decyzji modele AI przyjęły założenia dotyczące kandydatów, które nie miały nic wspólnego z ich kwalifikacjami, skutecznie ich stereotypizując. Jeśli jeden Tufa był dobrym lekarzem, kandydaci Tufa byli częściej wybierani na lekarzy, podczas gdy kandydaci Weki częściej byli zatrudniani jako woźni.
Badanie wykazało więcej uprzedzeń w AI niż w ludzkich decyzjach rekrutacyjnych, które Bai analizowała w zeszłym roku. Wykazało również, że nowsze, bardziej zaawansowane modele produkowały decyzje rekrutacyjne z jeszcze większymi uprzedzeniami.
„Byliśmy dość zszokowani tym wynikiem" – powiedziała Bai. Modele AI są bardzo dobre w rozwiązywaniu problemów z jedną poprawną odpowiedzią, takich jak matematyka czy kodowanie. „Ale coraz gorzej radzą sobie z eksplorowaniem innych opcji" – powiedziała Bai. „W rekrutacji eksploracja jest bardzo ważna, ale te modele nie są do niej trenowane".
Wpływ uprzedzeń AI na kandydata może wykraczać poza jedną ofertę pracy. Jeśli pracownik zostanie odrzucony przez człowieka, może spróbować ponownie w innej firmie z innym menedżerem ds. rekrutacji. Ale jeśli pracownik zostanie odrzucony przez system algorytmiczny używany w wielu firmach, system „zapamiętuje decyzję, która już została podjęta, i powtarza ją dla efektywności" – powiedziała Ajunwa. „W rzeczywistości zostałeś algorytmicznie zablokowany".
Ponieważ wiele firm używa oprogramowania rekrutacyjnego zbudowanego na tych samych podstawowych modelach AI, istnieje obawa, że negatywna adnotacja może znacznie utrudnić kandydatowi zdobycie jakiejkolwiek pracy, powiedziała Katie Creel, współautorka niedawnego badania na temat ryzyka „algorytmicznej monokultury" w systemach rekrutacyjnych. „Ludzie będą wykluczani z pracy częściej, niż mieliby to miejsce w innym przypadku" – powiedziała.
Eightfold AI nie skomentowało tej sprawy.
Czy AI może być używane odpowiedzialnie w rekrutacji?
Chociaż narzędzia AI mogą oszczędzać czas lub pomagać w testowaniu umiejętności kandydatów, menedżerowie ds. rekrutacji nie powinni pozwalać AI na podejmowanie decyzji, powiedział Iman Abuzeid, dyrektor generalny Incredible Health, platformy rekrutacyjnej opartej na AI używanej przez ponad 1500 pracodawców z sektora opieki zdrowotnej. Incredible Health oferuje agenta AI do przeprowadzania rozmów telefonicznych, ale AI nie automatycznie odrzuca, ocenia, rankuje ani nie decyduje, kto przechodzi dalej, według Abuzeida.
„Chodzi o zbieranie informacji od kandydatów, aby człowiek był lepiej przygotowany do podjęcia decyzji" – powiedział Abuzeid.
Abuzeid zauważył również, że około 10% rozmów AI w Incredible Health jest audytowanych pod kątem uprzedzeń przez człowieka, co jest procesem stającym się wymogiem prawnym w coraz większej liczbie miast i stanów.
W Nowym Jorku ustawa, która weszła w życie w 2023 roku, wymaga od pracodawców używających zautomatyzowanych systemów w rekrutacji przeprowadzania corocznych audytów uprzedzeń i powiadamiania kandydatów z wyprzedzeniem o użyciu tej technologii. Jednak ustawa dotyczy tylko oprogramowania, które „w istotnym stopniu" wspomaga lub zastępuje ludzkie podejmowanie decyzji, co tworzy lukę prawną w przypadkach, gdy ludzie są zaangażowani w proces. Niedawne ustawy w Illinois i Kolorado również zakazują pracodawcom używania narzędzi AI, które prowadzą do niezgodnej z prawem dyskryminacji.
Coraz częściej przepisy miejskie i stanowe mają na celu uczynienie podstawowym wymogiem powiadamiania osób ubiegających się o pracę, gdy używane jest AI. Ale idealnie kandydaci powinni mieć wgląd w to, co ich algorytmiczne profile o nich mówią, według Jenny Yang, partnerki w Outten & Golden, kancelarii reprezentującej powodów w pozwie przeciwko Eightfold AI.
„Ta wstępna przejrzystość pomaga lepiej zidentyfikować, gdzie mogą istnieć problemy" – powiedziała Yang, odnosząc się do powiadomień o użyciu AI. „Rośnie obawa wśród pracowników, że mogą być pozbawiani możliwości z powodów, których nikt nie rozumie".
Często zadawane pytania
Oto lista często zadawanych pytań dotyczących przecięcia się wypierania miejsc pracy przez AI i wyzwań prawnych stojących przed zautomatyzowanymi narzędziami rekrutacyjnymi
Pytania ogólne Szerszy obraz
1 Czy AI naprawdę odbierze mi pracę
Odpowiedź Jest mało prawdopodobne, aby całkowicie wyeliminowało większość miejsc pracy, ale na pewno je zmieni AI jest świetne w automatyzowaniu powtarzalnych zadań Zamiast całkowicie cię zastąpić, prawdopodobnie przejmie te konkretne zadania, pozwalając ci skupić się na pracy wymagającej ludzkiego osądu, kreatywności i inteligencji emocjonalnej Myśl o tym jak o narzędziu, a nie zastępstwie
2 Czy pozwy dotyczące narzędzi rekrutacyjnych AI dotyczą faktycznie utraty pracy
Odpowiedź Nie Pozwy dotyczą uczciwości Twierdzą, że oprogramowanie AI używane do przesiewania CV i przeprowadzania rozmów kwalifikacyjnych jest stronnicze wobec osób kolorowych, kobiet i starszych pracowników Pozwy argumentują, że te narzędzia to czarne skrzynki, które podejmują decyzje, których nawet pracodawcy w pełni nie rozumieją, co narusza prawa obywatelskie
3 Co oznacza brak przejrzystości w kontekście rekrutacji opartej na AI
Odpowiedź Oznacza to, że gdy AI odrzuca kandydata, ani osoba ubiegająca się o pracę, ani pracodawca nie mogą jasno wyjaśnić dlaczego AI używa złożonych algorytmów z tysiącami punktów danych Jeśli oprogramowanie przyzna niską ocenę, nikt nie może wskazać konkretnego powodu, takiego jak brakowało ci 5 lat doświadczenia To sprawia, że udowodnienie dyskryminacji lub naprawienie złego procesu rekrutacyjnego jest prawie niemożliwe
Pytania dla początkujących
4 Jak firmy używają obecnie AI do rekrutacji
Odpowiedź Na kilka sposobów 1 Przesiewanie CV oprogramowanie skanuje twoje CV pod kątem słów kluczowych i rankuje je względem innych 2 Chatboty zadają ci wstępne pytania 3 Rozmowy wideo AI analizuje twoje wyrazy twarzy, ton głosu i dobór słów, aby ocenić dopasowanie kulturowe lub entuzjazm
5 Jeśli zostanę odrzucony przez robota, czy to jest nielegalne
Odpowiedź Nie automatycznie Jest nielegalne, jeśli AI dyskryminuje cię na podstawie chronionych cech, takich jak rasa, płeć, wiek lub niepełnosprawność Jeśli po prostu nie kwalifikujesz się do pracy, to jest legalne Pozwy twierdzą, że AI niesprawiedliwie karze ludzi na podstawie tych chronionych cech, co jest źródłem problemów prawnych
