Za poslední čtyři roky se Erin Kistlerová ucházela o tisíce pracovních pozic ve společnostech jako PayPal, Microsoft a Netflix, ale její životopis vždy zmizel beze stopy. Jako produktová manažerka s téměř dvacetiletou praxí Kistlerová věří, že byla kvalifikovaná na každou pozici, přesto nikdy nezískala jediný pohovor.
Nyní Kistlerová žaluje společnost Eightfold AI, firmu ze Silicon Valley, která vyrábí náborový software používaný stovkami zaměstnavatelů, včetně těch, u kterých se ucházela. Žaloba podaná v lednu u kalifornského soudu je jednou z prvních, která tvrdí, že automatizované prověřování funguje jako nezveřejněná spotřebitelská zpráva nebo profil uchazeče. Řadí uchazeče o zaměstnání podle jejich šancí na úspěch, aniž by jim dala možnost vidět nebo napadnout výsledky, uvádí právní tým Kistlerové.
Tento případ je součástí vlny nových právních sporů o tom, jak společnosti používají AI při rozhodování o zaměstnání. Pracovníci také žalují Meta kvůli internímu systému AI, o kterém tvrdí, že je cíleně vybral pro propouštění, protože čerpali rodičovskou nebo zdravotní dovolenou. Další nedávná žaloba tvrdí, že IBM používala nástroje AI, které diskriminovaly starší pracovníky.
Stále více amerických společností se obrací na AI, aby rozhodování na pracovišti bylo rychlejší a efektivnější, často to prezentují jako způsob, jak být objektivní. Ale odborníci, kteří tento druh softwaru studují, říkají, že může také zavádět nebo zhoršovat předsudky, které by mohly kandidáty provázet od jedné společnosti k druhé. Zákonodárci tomu začínají věnovat pozornost. Výsledky těchto právních bitev by mohly utvářet budoucí náborové postupy, jejich transparentnost a to, jakou moc mají kandidáti v tomto procesu.
„Ve skutečnosti neexistuje žádný zákon, který by vyžadoval oznámení nebo zveřejnění použití těchto systémů AI při náboru," řekla Ifeoma Ajunwa, profesorka na Právnické fakultě Emory University a zakládající ředitelka programu AI a budoucnost práce. „Společnosti tedy pracovníkům nutně neříkají, kdy jsou hodnoceni pomocí AI."
Využití AI při náboru roste. Loni 90 % zaměstnavatelů používalo nějakou formu automatizace ve svém náborovém procesu, uvádí zpráva Světového ekonomického fóra. Tyto nástroje sahají od jednoduchého filtrování – jako je odstranění kandidátů, kteří nemají vysokoškolský titul nebo jiný požadavek – až po použití AI k posouzení dovedností uchazeče o zaměstnání nebo dokonce k vedení úvodního telefonického pohovoru.
V případě Eightfold se společnost popisuje jako „největší světový, samoobnovující se zdroj dat o talentech." Neustále aktualizuje interní databázi informacemi z životopisů, profilů na LinkedIn a účtů na sociálních sítích více než miliardy pracovníků, kteří se ucházeli o práci prostřednictvím její platformy. Pomocí těchto dat aplikuje AI k hodnocení uchazečů na stupnici 0 až 5, přičemž předpovídá, jak dobře by si vedli v dané práci. Toto skóre pak může upřednostnit některé kandidáty před ostatními pro pohovory.
„Velká část problému spočívá v tom, že uchazeči o zaměstnání nevědí... co zprávy říkají," řekla Rachel Dempsey, právnička zastupující Kistlerovou.
Dempsey tvrdí, že uchazeči o zaměstnání si zaslouží stejnou transparentnost v náborovém procesu, jakou Američané již mají u svých úvěrových zpráv. S těmito informacemi by mohli napadnout chyby nebo pracovat na zlepšení faktorů, které ovlivňují jejich kandidaturu. Ale bez jakéhokoli vhledu je nemožné vědět, zda tyto algoritmy diskriminují kandidáty zjevným způsobem, řekla Dempsey.
„Koncept černé skříňky je velmi děsivý," říká.
V prohlášení pro Guardian společnost Eightfold AI popřela obvinění. „Věříme, že uplatňovaná tvrzení jsou bezpředmětná a hodláme se energicky bránit," napsal mluvčí v e-mailu.
V reakci na žalobu proti IBM společnost popřela, že by používala AI k automatickému vyřazování kandidátů, a v prohlášení uvedla, že „neschvaluje ani netoleruje diskriminaci jakéhokoli druhu." Meta na žádost o komentář k její žalobě neodpověděla.
Strach z algoritmického blacklistu
Ačkoli poskytovatelé náborového softwaru tvrdí, že uvolňují náborovým manažerům čas, aby se mohli věnovat kvalifikovaným kandidátům, odborníci nesouhlasí. Tvrdí, že AI může ve skutečnosti předsudky zhoršovat, například zvýhodňováním určitých demografických skupin.
„Jak jsme prováděli více výzkumu systémů AI pro nábor, zjistili jsme, že mají tendenci replikovat mnoho stejných předsudků, které mají lidští manažeři," řekla Ajunwa.
Téměř všechny systémy AI jsou trénovány k identifikaci vzorců, což může posilovat stereotypy nebo dlouhodobé předsudky. Například Amazon kdysi používal nástroj AI, který řadil životopisy žen níže, protože nejlepšími zaměstnanci společnosti byli muži. Amazon jej přestal používat poté, co problém objevil. V jiných případech mohou systémy AI pro nábor vytvářet vlastní předsudky. Ve své knize The Quantified Worker Ajunwa zjistila, že AI dávala špatné skóre uchazečům o zaměstnání s jižanským přízvukem, protože měla potíže jim porozumět během hlasových pohovorů.
Lidští náboroví manažeři také mohou být nespravedliví – například vybrat kandidáta, který byl ve stejném studentském spolku – ale „rozsah předsudků je u AI ještě silnější," řekla Xuechunzi Bai, odborná asistentka na University of Chicago, která studovala náborové předsudky.
Bai je spoluautorkou nedávné studie, ve které byly modely AI požádány, aby rozhodovaly o náboru fiktivních uchazečů ze smyšlených demografických skupin nazvaných Tufa, Aima, Reku a Weki. Po několika kolech rozhodování modely AI vytvořily předpoklady o kandidátech, které neměly nic společného s jejich kvalifikací, a účinně je stereotypizovaly. Pokud byl jeden Tufa dobrým lékařem, pak kandidáti Tufa byli s větší pravděpodobností vybíráni jako lékaři, zatímco kandidáti Weki byli s větší pravděpodobností najímáni jako uklízeči.
Studie zjistila více předsudků u AI než u lidských náborových rozhodnutí, které Bai zkoumala loni. Také zjistila, že novější a pokročilejší modely produkovaly náborová rozhodnutí s ještě většími předsudky.
„Byli jsme docela šokováni, když jsme viděli tento výsledek," řekla Bai. Modely AI jsou velmi dobré v řešení problémů s jedinou správnou odpovědí, jako je matematika nebo kódování. „Ale zhoršují se v prozkoumávání jiných možností," řekla Bai. „Při náboru je průzkum velmi důležitý, ale tyto modely nejsou trénovány, aby to dělaly."
Dopad předsudků AI na uchazeče může přesahovat jen jedno pracovní místo. Pokud je pracovník odmítnut člověkem, může to zkusit znovu u jiné společnosti s jiným náborovým manažerem. Ale pokud je pracovník odmítnut algoritmickým systémem používaným napříč mnoha společnostmi, systém „si pamatuje rozhodnutí, které již bylo učiněno, a opakuje ho kvůli efektivitě," řekla Ajunwa. „Ve skutečnosti jste byli algoritmicky zablokováni."
Protože mnoho společností používá náborový software postavený na stejných základních modelech AI, existuje obava, že negativní označení by mohlo kandidátovi výrazně ztížit získání jakékoli práce, řekla Katie Creel, spoluautorka nedávné studie o rizicích „algoritmické monokultury" v náborových systémech. „Lidé budou vyloučeni z pracovních míst více, než by byli jinak," řekla.
Eightfold AI se k této záležitosti nevyjádřila.
Může být AI při náboru používána zodpovědně?
Zatímco nástroje AI mohou ušetřit čas nebo pomoci otestovat dovednosti kandidátů, náboroví manažeři by neměli nechat AI rozhodovat, řekl Iman Abuzeid, generální ředitel společnosti Incredible Health, náborové platformy AI používané více než 1500 zaměstnavateli ve zdravotnictví. Incredible Health nabízí agenta AI pro vedení telefonických pohovorů, ale AI automaticky neodmítá, nehodnotí, neřadí ani nerozhoduje o tom, kdo postoupí dál, podle Abuzeida.
„Jde o shromažďování informací od kandidátů, aby byl člověk lépe vybaven pro rozhodování," řekl Abuzeid.
Abuzeid také poznamenal, že přibližně 10 % AI pohovorů společnosti Incredible Health je auditováno na předsudky člověkem, což je proces, který se stává zákonným požadavkem ve stále více městech a státech.
V New Yorku zákon, který vstoupil v platnost v roce 2023, vyžaduje, aby zaměstnavatelé používající automatizované systémy při náboru prováděli každoroční audity předsudků a předem informovali kandidáty o použití této technologie. Zákon se však vztahuje pouze na software, který „podstatně" pomáhá nebo nahrazuje lidské rozhodování, což vytváří mezeru pro případy, kdy jsou do procesu zapojeni lidé. Nedávné zákony v Illinois a Coloradu také zakazují zaměstnavatelům používat nástroje AI, které vedou k nezákonné diskriminaci.
Stále častěji městské a státní předpisy usilují o to, aby bylo základním požadavkem informovat uchazeče o zaměstnání, když je AI používána. Ale v ideálním případě by kandidáti měli mít vhled do toho, co jejich algoritmické profily říkají, podle Jenny Yang, partnerky v Outten & Golden, právní firmě zastupující žalobce v žalobě proti Eightfold AI.
„Tato počáteční transparentnost pomáhá lépe identifikovat, kde mohou existovat problémy," řekla Yang s odkazem na oznámení, že byla použita AI. „Mezi pracovníky roste obava, že by jim mohly být odepřeny příležitosti z důvodů, kterým nikdo nerozumí."
Často kladené otázky
Zde je seznam často kladených otázek týkajících se průniku vytěsňování pracovních míst AI a právních výzev, kterým čelí automatizované náborové nástroje
Obecné otázky – Širší obraz
1. Vezme mi AI skutečně práci?
Odpověď: Je nepravděpodobné, že by většinu pracovních míst zcela odstranila, ale rozhodně je změní. AI je skvělá v automatizaci opakujících se úkolů. Místo toho, aby vás zcela nahradila, pravděpodobně převezme tyto konkrétní úkoly, což vám umožní soustředit se na práci, která vyžaduje lidský úsudek, kreativitu a emoční inteligenci. Myslete na to jako na nástroj, ne na náhradu.
2. Týkají se žaloby o nástrojích AI pro nábor skutečně ztráty pracovních míst?
Odpověď: Ne. Žaloby se týkají spravedlnosti. Tvrdí, že software AI používaný k prověřování životopisů a vedení pohovorů je zaujatý vůči lidem jiné barvy pleti, ženám a starším pracovníkům. Žaloby argumentují, že tyto nástroje jsou černé skříňky, které dělají rozhodnutí, kterým plně nerozumí ani zaměstnavatelé, což porušuje zákony o občanských právech.
3. Co znamená nedostatek transparentnosti v kontextu náboru pomocí AI?
Odpověď: Znamená to, že když AI odmítne kandidáta, ani uchazeč, ani zaměstnavatel nemohou jasně vysvětlit proč. AI používá složité algoritmy s tisíci datovými body. Pokud software udělí nízké skóre, nikdo nemůže poukázat na konkrétní důvod, jako například „chybělo vám 5 let praxe." To téměř znemožňuje prokázat diskriminaci nebo opravit špatný náborový proces.
Otázky pro začátečníky
4. Jak společnosti právě teď používají AI k náboru?
Odpověď: Několika způsoby: 1) Prověřování životopisů – software skenuje váš životopis na klíčová slova a řadí jej proti ostatním. 2) Chatboti – kladou vám předběžné otázky. 3) Video pohovory – AI analyzuje vaše výrazy obličeje, tón hlasu a volbu slov, aby ohodnotila váš kulturní soulad nebo nadšení.
5. Pokud mě odmítne robot, je to nezákonné?
Odpověď: Ne automaticky. Je to nezákonné, pokud vás AI diskriminuje na základě chráněných charakteristik, jako je rasa, pohlaví, věk nebo zdravotní postižení. Pokud prostě nejste kvalifikovaní na práci, je to legální. Žaloby tvrdí, že AI nespravedlivě penalizuje lidi na základě těchto chráněných vlastností, což je místo, kde začínají právní problémy.
