Az elmúlt négy évben Erin Kistler több ezer állásra jelentkezett olyan cégeknél, mint a PayPal, a Microsoft és a Netflix, de az önéletrajza csak úgy eltűnt nyomtalanul. Közel 20 éves tapasztalattal rendelkező termékmenedzserként Kistler úgy véli, minden pozícióra alkalmas volt, mégsem kapott soha egyetlen interjút sem.
Most Kistler bepereli a Eightfold AI-t, egy Szilícium-völgyi céget, amely felvételi szoftvereket készít, és amelyet több száz munkáltató használ, köztük azok is, akikhez jelentkezett. A januárban egy kaliforniai bíróságon benyújtott kereset az elsők között érvel amellett, hogy az automatizált szűrés úgy működik, mint egy nem nyilvánosságra hozott fogyasztói jelentés vagy jelentkezői profil. A jelentkezőket a sikerük esélyei alapján rangsorolja anélkül, hogy lehetőséget adna nekik az eredmények megtekintésére vagy megkérdőjelezésére – állítja Kistler jogi csapata.
Ez az ügy része annak az új jogi vitahullámnak, amely arról szól, hogyan használják a vállalatok az AI-t a foglalkoztatási döntésekben. Dolgozók pert indítanak a Meta ellen is egy belső AI-rendszer miatt, amely állításuk szerint azért jelölte ki őket elbocsátásra, mert szülői vagy betegszabadságon voltak. Egy másik friss kereset azt állítja, hogy az IBM olyan AI-eszközöket használt, amelyek hátrányosan megkülönböztették az idősebb dolgozókat.
Egyre több amerikai vállalat fordul az AI-hoz, hogy gyorsabbá és hatékonyabbá tegye a munkahelyi döntéseket, gyakran objektivitást ígérve. A szakértők azonban, akik ezt a fajta szoftvert tanulmányozzák, azt mondják, hogy az új előítéleteket hozhat létre vagy súlyosbíthatja a meglévőket, amelyek akár egyik cégtől a másikig követhetik a jelentkezőket. A törvényhozók kezdenek figyelmet fordítani erre. Ezeknek a jogi csatáknak az eredménye alakíthatja a jövőbeli felvételi gyakorlatokat, azok átláthatóságát, és azt, hogy mennyi hatalma legyen a jelentkezőknek a folyamatban.
„Valójában nincs törvény, amely előírná a jelentkezők értesítését vagy tájékoztatását ezeknek az AI-felvételi rendszereknek a használatáról” – mondta Ifeoma Ajunwa, az Emory Egyetem Jogi Karának professzora és az AI és a Munka Jövője program alapító igazgatója. „Tehát a vállalatok nem feltétlenül mondják el a dolgozóknak, amikor AI-val értékelik őket.”
Az AI használata a felvételiben növekszik. Tavaly a munkáltatók 90%-a használt valamilyen automatizálást a felvételi folyamatában – derül ki a Világgazdasági Fórum jelentéséből. Ezek az eszközök az egyszerű szűréstől – például azoknak a jelentkezőknek a kiszűrésétől, akiknek nincs négyéves diplomájuk vagy más követelményük – egészen az AI használatáig terjednek, amely felméri a jelentkező készségeit, vagy akár az első telefonos interjút is lefolytatja.
A Eightfold esetében a cég úgy jellemzi magát, mint „a világ legnagyobb, önmagát frissítő tehetségadat-forrása”. Folyamatosan frissít egy belső adatbázist az önéletrajzokból, LinkedIn-profilokból és közösségimédia-fiókokból származó információkkal, amelyek több mint egymilliárd olyan dolgozótól származnak, akik a platformján keresztül jelentkeztek állásokra. Ezen adatok felhasználásával AI-t alkalmaz, hogy 0-tól 5-ig terjedő skálán pontozza a jelentkezőket, megjósolva, mennyire teljesítenének egy adott munkakörben. Ez a pontszám aztán előnyben részesíthet egyes jelölteket másokkal szemben az interjúk során.
„A probléma nagy része az, hogy az álláskeresők nem tudják… mit mondanak a jelentések” – mondta Rachel Dempsey, Kistler ügyvédje.
Dempsey azzal érvel, hogy az álláskeresők ugyanazt az átláthatóságot érdemlik meg a felvételi folyamatban, mint amit az amerikaiak már megkapnak a hiteljelentéseikkel kapcsolatban. Ezzel az információval vitathatnák a hibákat, vagy dolgozhatnának azoknak a tényezőknek a javításán, amelyek befolyásolják a jelöltségüket. De betekintés nélkül lehetetlen tudni, hogy ezek az algoritmusok egyértelmű módon diszkriminálják-e a jelentkezőket – mondta Dempsey.
„A fekete doboz fogalma nagyon ijesztő” – mondja.
A Guardiannek küldött nyilatkozatában a Eightfold AI tagadta a vádakat. „Úgy véljük, a benyújtott követelések megalapozatlanok, és szándékunkban áll határozottan védekezni” – írta egy szóvivő e-mailben.
Az IBM elleni perre válaszul a cég tagadta, hogy AI-t használt volna a jelöltek automatikus kiszűrésére, és közleményében azt mondta, „nem támogatja és nem tűri meg a bármilyen formájú megkülönböztetést”. A Meta nem válaszolt a megjegyzéskérésre a perével kapcsolatban.
Az algoritmikus feketelistára kerülés félelme
Bár a foglalkoztatási szoftverszolgáltatók azt állítják, hogy felszabadítják a felvételért felelős vezetőket, hogy több időt töltsenek a képzett jelöltekkel, a szakértők nem értenek egyet. Azzal érvelnek, hogy az AI valójában súlyosbíthatja az előítéleteket, például bizonyos demográfiai csoportokat részesíthet előnyben.
„Ahogy több kutatást végeztünk az AI-felvételi rendszerekről, azt találtuk, hogy hajlamosak reprodukálni azokat az előítéleteket, amelyek az emberi vezetőkben is megvannak” – mondta Ajunwa.
Szinte minden AI-rendszert minták felismerésére tanítanak, ami megerősítheti a sztereotípiákat vagy a régóta fennálló előítéleteket. Például az Amazon egyszer használt egy AI-eszközt, amely a nők önéletrajzait alacsonyabbra értékelte, mert a cég legjobb teljesítményt nyújtó munkatársai férfiak voltak. Az Amazon leállította a használatát, miután felfedezte a problémát. Más esetekben az AI-felvételi rendszerek saját előítéleteket hozhatnak létre. A The Quantified Worker című könyvében Ajunwa azt találta, hogy az AI rossz pontszámot adott a déli akcentussal beszélő álláskeresőknek, mert nehezen értette meg őket a hangalapú interjúk során.
Az emberi felvételi vezetők is lehetnek igazságtalanok – például olyan jelöltet választhatnak, aki ugyanabban a diákszövetségben volt –, de „az előítélet mértéke az AI-val még erősebb” – mondta Xuechunzi Bai, a Chicagói Egyetem adjunktusa, aki a felvételi előítéleteket tanulmányozta.
Bai társszerzője volt egy nemrégiben készült tanulmánynak, amelyben AI-modelleket kértek meg, hogy hozzanak felvételi döntéseket kitalált jelentkezőkről kitalált demográfiai csoportokból, amelyeket Tufa, Aima, Reku és Weki néven neveztek el. Több körös döntés után az AI-modellek olyan feltételezéseket tettek a jelöltekről, amelyeknek semmi közük nem volt a képzettségükhöz, gyakorlatilag sztereotipizálva őket. Ha egy Tufa jó orvos volt, akkor a Tufa jelölteket nagyobb valószínűséggel választották orvosnak, míg a Weki jelölteket nagyobb valószínűséggel vették fel takarítónak.
A tanulmány több előítéletet talált az AI-ban, mint azokban az emberi felvételi döntésekben, amelyeket Bai tavaly vizsgált. Azt is megállapította, hogy az újabb, fejlettebb modellek még több előítélettel teli felvételi döntéseket hoztak.
„Elég sokkolva voltunk, amikor ezt az eredményt láttuk” – mondta Bai. Az AI-modellek nagyon jól oldják meg azokat a problémákat, amelyeknek egyetlen helyes válaszuk van, mint a matematika vagy a kódolás. „De egyre rosszabbak más lehetőségek felfedezésében” – mondta Bai. „A felvételiben a felfedezés nagyon fontos, de ezeket a modelleket nem erre tanítják.”
Az AI-előítélet hatása egy jelentkezőre túlmutathat egyetlen álláslehetőségen. Ha egy dolgozót egy ember utasít el, megpróbálhatja újra egy másik cégnél, más felvételi vezetővel. De ha egy dolgozót egy algoritmikus rendszer utasít el, amelyet sok vállalat használ, a rendszer „megjegyzi a már meghozott döntést, és megismétli a hatékonyság érdekében” – mondta Ajunwa. „A valóságban algoritmikusan feketelistára kerültél.”
Mivel sok vállalat ugyanazokra az alapvető AI-modellekre épülő felvételi szoftvereket használ, fennáll a veszélye annak, hogy egy negatív jelzés sokkal nehezebbé teszi egy jelölt számára, hogy egyáltalán bármilyen állást kapjon – mondta Katie Creel, a felvételi rendszerek „algoritmikus monokultúrájának” kockázatairól szóló nemrégiben készült tanulmány társszerzője. „Az emberek jobban ki lesznek zárva az állásokból, mint egyébként lennének” – mondta.
A Eightfold AI nem kommentálta az ügyet.
Használható-e felelősségteljesen az AI a felvételiben?
Bár az AI-eszközök időt takaríthatnak meg, vagy segíthetnek tesztelni a jelöltek készségeit, a felvételi vezetőknek nem szabad hagyniuk, hogy az AI hozzon döntéseket – mondta Iman Abuzeid, az Incredible Health vezérigazgatója, egy AI-felvételi platform, amelyet több mint 1500 egészségügyi munkáltató használ. Az Incredible Health kínál egy AI-ügynököt telefonos interjúk lefolytatására, de az AI nem utasít el, pontoz, rangsorol vagy dönt automatikusan arról, hogy ki lép tovább – mondta Abuzeid.
„Arról szól, hogy információt gyűjtsünk a jelöltektől, hogy egy ember jobban felkészülten hozhassa meg a döntést” – mondta Abuzeid.
Abuzeid azt is megjegyezte, hogy az Incredible Health AI-interjúinak körülbelül 10%-át egy ember ellenőrzi előítéletek szempontjából, ami egy olyan folyamat, amely egyre több városban és államban válik jogi követelménnyé.
New York Cityben egy 2023-ban hatályba lépett törvény előírja, hogy azok a munkáltatók, akik automatizált rendszereket használnak a felvételiben, éves előítélet-vizsgálatot végezzenek, és előre tájékoztassák a jelölteket a technológia használatáról. A törvény azonban csak azokra a szoftverekre vonatkozik, amelyek „lényegében” segítik vagy helyettesítik az emberi döntéshozatalt, ami kiskaput teremt azokra az esetekre, amikor emberek is részt vesznek a folyamatban. Az Illinois és Colorado államokban nemrégiben hozott törvények szintén megtiltják a munkáltatóknak, hogy olyan AI-eszközöket használjanak, amelyek jogellenes megkülönböztetéshez vezetnek.
Egyre inkább a városi és állami szabályozások arra törekszenek, hogy alapkövetelménnyé tegyék az álláskeresők értesítését, amikor AI-t használnak. De ideális esetben a jelölteknek betekintést kellene kapniuk abba, hogy mit mondanak róluk az algoritmikus profiljaik – mondta Jenny Yang, az Outten & Golden ügyvédi iroda partnere, amely a Eightfold AI elleni per felpereseit képviseli.
„Ez a kezdeti átláthatóság segít jobban azonosítani, hol létezhetnek problémák” – mondta Yang, utalva azokra az értesítésekre, amelyek szerint AI-t használtak. „Egyre nagyobb aggodalom van a dolgozók körében, hogy olyan okok miatt utasíthatják el őket, amelyeket senki sem ért.”
Gyakran Ismételt Kérdések
Itt van egy lista a gyakran ismételt kérdésekről, amelyek az AI okozta álláshelyettesítés és az automatizált felvételi eszközökkel szembeni jogi kihívások metszéspontját tárgyalják
Általános Kérdések A Nagy Kép
1 Tényleg el fogja venni az AI a munkámat
Válasz Nem valószínű, hogy a legtöbb állást teljesen megszünteti, de mindenképpen megváltoztatja azokat. Az AI nagyon jó az ismétlődő feladatok automatizálásában. Ahelyett, hogy teljesen helyettesítene, valószínűleg átveszi ezeket a konkrét feladatokat, lehetővé téve, hogy olyan munkára összpontosítson, amely emberi ítélőképességet, kreativitást és érzelmi intelligenciát igényel. Gondoljon rá úgy, mint egy eszközre, nem pedig helyettesítőre.
2 A felvételi AI-eszközökről szóló perek valójában az állásvesztésről szólnak
Válasz Nem. A perek a méltányosságról szólnak. Azt állítják, hogy az önéletrajzok szűrésére és jelöltek interjúztatására használt AI-szoftver elfogult a színes bőrűekkel, a nőkkel és az idősebb dolgozókkal szemben. A perek azzal érvelnek, hogy ezek az eszközök fekete dobozok, amelyek olyan döntéseket hoznak, amelyeket még a munkáltatók sem értenek teljesen, ami sérti a polgárjogi törvényeket.
3 Mit jelent az átláthatóság hiánya egy AI-felvételi kontextusban
Válasz Azt jelenti, hogy amikor egy AI elutasít egy jelöltet, sem a jelentkező, sem a munkáltató nem tudja egyértelműen megmagyarázni, miért. Az AI összetett algoritmusokat használ több ezer adatponttal. Ha a szoftver alacsony pontszámot ad, senki sem tud egy konkrét okra rámutatni, például „nem volt 5 év tapasztalata”. Ez szinte lehetetlenné teszi a megkülönböztetés bizonyítását vagy a hibás felvételi folyamat kijavítását.
Kezdő Szintű Kérdések
4 Hogyan használják jelenleg a vállalatok az AI-t a felvételhez
Válasz Néhány módon: 1. Önéletrajz-szűrés – a szoftver átvizsgálja az önéletrajzát kulcsszavak után, és rangsorolja másokhoz képest. 2. Chatbotok – előzetes kérdéseket tesznek fel. 3. Videós interjúk – az AI elemzi az arckifejezéseit, a hangszínét és a szóválasztását, hogy pontozza a kulturális illeszkedését vagy lelkesedését.
5 Ha egy robot elutasít, az illegális
Válasz Nem automatikusan. Akkor illegális, ha az AI Önt védett jellemzők – például faj, nem, életkor vagy fogyatékosság – alapján diszkriminálja. Ha egyszerűen nem képzett az állásra, az legális. A perek azt állítják, hogy az AI igazságtalanul bünteti az embereket ezek alapján a védett tulajdonságok alapján, és itt kezdődik a jogi probléma.
