Viimeisen neljän vuoden aikana Erin Kistler on hakenut tuhansiin työpaikkoihin yrityksissä, kuten PayPalissa, Microsoftissa ja Netflixissä, mutta hänen ansioluettelonsa on vain kadonnut jäljettömiin. Lähes 20 vuoden kokemuksella omaavana tuotepäällikkönä Kistler uskoo olleensa pätevä jokaiseen tehtävään, mutta hän ei koskaan saanut yhtäkään haastattelua.
Nyt Kistler haastaa oikeuteen Eightfold AI:n, Piilaaksossa toimivan yrityksen, joka valmistaa rekrytointiohjelmistoja, joita käyttävät sadat työnantajat, mukaan lukien ne, joihin hän haki. Tammikuussa Kalifornian tuomioistuimessa nostettu kanne on yksi ensimmäisistä, joka väittää, että automatisoitu seulonta toimii kuin julkistamaton kuluttajaraportti tai hakijaprofiili. Se luokittelee työnhakijat heidän menestymismahdollisuuksiensa mukaan antamatta heille mahdollisuutta nähdä tai haastaa tuloksia, Kistlerin lakitiimin mukaan.
Tämä tapaus on osa uutta aaltoa oikeudellisia kiistoja siitä, miten yritykset käyttävät tekoälyä työsuhdepäätöksissä. Työntekijät haastavat myös Metan oikeuteen sisäisestä tekoälyjärjestelmästä, jonka he sanovat kohdistaneen heidät irtisanomisiin, koska he olivat vanhempain- tai sairausvapaalla. Toinen äskettäinen kanne väittää, että IBM käytti tekoälytyökaluja, jotka syrjivät vanhempia työntekijöitä.
Yhä useammat yhdysvaltalaiset yritykset kääntyvät tekoälyn puoleen tehdäkseen työpaikkapäätöksistä nopeampia ja tehokkaampia, usein esittäen sen keinona olla objektiivinen. Mutta asiantuntijat, jotka tutkivat tällaisia ohjelmistoja, sanovat, että se voi myös tuoda tai pahentaa harhoja, jotka saattavat seurata ehdokkaita yrityksestä toiseen. Lainsäätäjät alkavat kiinnittää huomiota. Näiden oikeudellisten taistelujen tulokset voivat muokata tulevia rekrytointikäytäntöjä, niiden läpinäkyvyyttä ja sitä, kuinka paljon valtaa ehdokkailla on prosessissa.
"Ei ole olemassa lakia, joka vaatisi ilmoitusta tai tiedonantoa näiden tekoälypohjaisten rekrytointijärjestelmien käytöstä", sanoo Ifeoma Ajunwa, Emoryn yliopiston oikeustieteen professori ja tekoälyn ja työn tulevaisuuden ohjelman perustajajohtaja. "Joten yritykset eivät välttämättä kerro työntekijöille, milloin heitä arvioidaan tekoälyllä."
Tekoälyn käyttö rekrytoinnissa kasvaa. Viime vuonna 90 % työnantajista käytti jonkinlaista automaatiota rekrytointiprosessissaan Maailman talousfoorumin raportin mukaan. Nämä työkalut vaihtelevat yksinkertaisesta suodatuksesta – kuten ehdokkaiden poistamisesta, joilla ei ole neljän vuoden tutkintoa tai muuta vaatimusta – tekoälyn käyttöön työnhakijan taitojen arvioimiseksi tai jopa ensimmäisen puhelinhaastattelun suorittamiseen.
Eightfoldin tapauksessa yritys kuvailee itseään "maailman suurimmaksi, itseään päivittäväksi kykyjen tietolähteeksi". Se päivittää jatkuvasti sisäistä tietokantaa yli miljardin työntekijän ansioluetteloista, LinkedIn-profiileista ja sosiaalisen median tileistä peräisin olevilla tiedoilla, jotka ovat hakeneet töitä sen alustan kautta. Tämän tiedon avulla se soveltaa tekoälyä pisteyttääkseen hakijat asteikolla 0–5 ennustaen, kuinka hyvin he suoriutuisivat tietyssä työssä. Tämä pisteet voivat sitten asettaa jotkut ehdokkaat etusijalle haastatteluihin.
"Suuri osa ongelmasta on se, että työnhakijat eivät tiedä ... mitä raportit sanovat", sanoo Rachel Dempsey, Kistleriä edustava asianajaja.
Dempsey väittää, että työnhakijat ansaitsevat saman läpinäkyvyyden rekrytointiprosessiin, jonka amerikkalaiset jo saavat luottotietojensa kanssa. Tämän tiedon avulla he voisivat riitauttaa virheet tai työskennellä parantaakseen tekijöitä, jotka vaikuttavat heidän ehdokkuuteensa. Mutta ilman minkäänlaista näkyvyyttä on mahdotonta tietää, syrjivätkö nämä algoritmit ehdokkaita selvillä tavoilla, Dempsey sanoo.
"Mustan laatikon käsite on hyvin pelottava", hän sanoo.
Guardianille antamassaan lausunnossa Eightfold AI kiisti väitteet. "Uskomme, että esitetyt väitteet ovat perusteettomia, ja aiomme puolustautua voimakkaasti", tiedottaja kirjoitti sähköpostissa.
Vastauksena IBM:tä vastaan nostettuun kanteeseen yritys kiisti käyttäneensä tekoälyä ehdokkaiden automaattiseen seulontaan ja sanoi lausunnossaan, että se "ei hyväksy tai siedä minkäänlaista syrjintää". Meta ei vastannut kommenttipyyntöön kanteestaan.
Algoritmisen mustalistauksen pelko
Vaikka työsuhdeohjelmistojen tarjoajat väittävät vapauttavansa rekrytointipäälliköitä viettämään enemmän aikaa pätevien kanssa, asiantuntijat ovat eri mieltä. He väittävät, että tekoäly voi itse asiassa pahentaa harhoja, kuten suosimalla tiettyjä väestöryhmiä.
"Kun olemme tehneet enemmän tutkimusta tekoälypohjaisista rekrytointijärjestelmistä, olemme havainneet, että ne pyrkivät toistamaan monia samoja harhoja, joita ihmispäälliköillä on", Ajunwa sanoi.
Lähes kaikki tekoälyjärjestelmät on koulutettu tunnistamaan kaavoja, mikä voi vahvistaa stereotypioita tai pitkäaikaisia harhoja. Esimerkiksi Amazon käytti kerran tekoälytyökalua, joka arvioi naisten ansioluettelot alemmaksi, koska yrityksen parhaat työntekijät olivat miehiä. Amazon lopetti sen käytön ongelman havaittuaan. Muissa tapauksissa tekoälypohjaiset rekrytointijärjestelmät voivat luoda omia harhojaan. Kirjassaan The Quantified Worker Ajunwa havaitsi, että tekoäly antoi huonoja pisteitä työnhakijoille, joilla oli eteläinen aksentti, koska se kamppaili ymmärtääkseen heitä äänihaastatteluissa.
Ihmisrekrytointipäälliköt voivat myös olla epäreiluja – kuten valita ehdokkaan, joka oli samassa veljeskunnassa – mutta "harhan mittakaava on vielä vahvempi tekoälyn kanssa", sanoi Xuechunzi Bai, Chicagon yliopiston apulaisprofessori, joka on tutkinut rekrytointiharhaa.
Bai oli mukana kirjoittamassa äskettäistä tutkimusta, jossa tekoälymalleja pyydettiin tekemään rekrytointipäätöksiä kuvitteellisista hakijoista kuvitteellisista väestöryhmistä nimeltä Tufa, Aima, Reku ja Weki. Useiden päätöskierrosten jälkeen tekoälymallit tekivät oletuksia ehdokkaista, joilla ei ollut mitään tekemistä heidän pätevyytensä kanssa, käytännössä stereotypioiden heitä. Jos yksi Tufa oli hyvä lääkäri, Tufa-ehdokkaat valittiin todennäköisemmin lääkäreiksi, kun taas Weki-ehdokkaat palkattiin todennäköisemmin vahtimestareiksi.
Tutkimus löysi enemmän harhaa tekoälystä kuin ihmisten rekrytointipäätöksistä, joita Bai tarkasteli viime vuonna. Se myös havaitsi, että uudemmat, kehittyneemmät mallit tuottivat rekrytointipäätöksiä, joissa oli vielä enemmän harhaa.
"Olimme melko järkyttyneitä nähdessämme tämän tuloksen", Bai sanoi. Tekoälymallit ovat erittäin hyviä ratkaisemaan ongelmia, joilla on yksi oikea vastaus, kuten matematiikka tai koodaus. "Mutta ne huononevat muiden vaihtoehtojen tutkimisessa", Bai sanoi. "Rekrytoinnissa tutkiminen on erittäin tärkeää, mutta näitä malleja ei ole koulutettu siihen."
Tekoälyharhan vaikutus hakijaan voi ulottua pidemmälle kuin yhteen työpaikkaan. Jos työntekijä hylätään ihmisen toimesta, hän voi yrittää uudelleen toisessa yrityksessä eri rekrytointipäällikön kanssa. Mutta jos työntekijä hylätään algoritmisen järjestelmän toimesta, jota käytetään monissa yrityksissä, järjestelmä "muistaa jo tehdyn päätöksen ja toistaa sen tehokkuuden vuoksi", Ajunwa sanoi. "Todellisuudessa sinut on algoritmisesti mustalistattu."
Koska monet yritykset käyttävät rekrytointiohjelmistoja, jotka on rakennettu samoihin perustana oleviin tekoälymalleihin, on huoli siitä, että negatiivinen merkintä voisi tehdä ehdokkaan työnsaannista paljon vaikeampaa, sanoi Katie Creel, äskettäisen tutkimuksen toinen kirjoittaja "algoritmisen monokulttuurin" riskeistä rekrytointijärjestelmissä. "Ihmiset suljetaan pois töistä enemmän kuin heidät muuten suljettaisiin", hän sanoi.
Eightfold AI ei kommentoinut asiaa.
Voiko tekoälyä käyttää vastuullisesti rekrytoinnissa?
Vaikka tekoälytyökalut voivat säästää aikaa tai auttaa testaamaan ehdokkaiden taitoja, rekrytointipäälliköiden ei pitäisi antaa tekoälyn tehdä päätöksiä, sanoi Iman Abuzeid, Incredible Healthin toimitusjohtaja, tekoälypohjainen rekrytointialusta, jota käyttää yli 1 500 terveydenhuollon työnantajaa. Incredible Health tarjoaa tekoälyagentin puhelinhaastattelujen suorittamiseen, mutta tekoäly ei automaattisesti hylkää, pisteytä, aseta järjestykseen tai päätä, kuka etenee, Abuzeidin mukaan.
"Kyse on tiedon keräämisestä ehdokkailta, jotta ihminen on paremmin varustautunut tekemään päätöksen", Abuzeid sanoi.
Abuzeid huomautti myös, että noin 10 % Incredible Healthin tekoälyhaastatteluista tarkastetaan harhan varalta ihmisen toimesta, prosessi, joka on tulossa lakisääteiseksi vaatimukseksi yhä useammissa kaupungeissa ja osavaltioissa.
New Yorkin kaupungissa vuonna 2023 voimaan tullut laki edellyttää, että työnantajat, jotka käyttävät automatisoituja järjestelmiä rekrytoinnissa, suorittavat vuosittaisia harhatarkastuksia ja ilmoittavat ehdokkaille etukäteen teknologian käytöstä. Laki koskee kuitenkin vain ohjelmistoja, jotka "olennaisesti" avustavat tai korvaavat ihmisen päätöksenteon. Viimeaikaiset lait Illinoisissa ja Coloradossa kieltävät myös työnantajia käyttämästä tekoälytyökaluja, jotka johtavat lainvastaiseen syrjintään.
Yhä useammin kaupunkien ja osavaltioiden säädökset pyrkivät tekemään perusvaatimukseksi ilmoittaa työnhakijoille, kun tekoälyä käytetään. Mutta ihanteellisesti ehdokkailla pitäisi olla näkyvyys siihen, mitä heidän algoritmiset profiilinsa heistä sanovat, sanoi Jenny Yang, Outten & Goldenin osakas, lakitoimisto, joka edustaa kantajia Eightfold AI:tä vastaan nostetussa kanteessa.
"Tämä alustava läpinäkyvyys auttaa tunnistamaan paremmin, missä ongelmia saattaa olla", Yang sanoi viitaten ilmoituksiin, että tekoälyä käytettiin. "Työntekijöiden keskuudessa on kasvava huoli siitä, että heiltä saatetaan evätä mahdollisuuksia syistä, joita kukaan ei ymmärrä."
Usein kysytyt kysymykset
Tässä on luettelo usein kysytyistä kysymyksistä, jotka käsittelevät tekoälyn aiheuttamaa työpaikkojen menetystä ja automatisoitujen rekrytointityökalujen oikeudellisia haasteita
Yleiset kysymykset Iso kuva
1 Viekö tekoäly oikeasti työpaikkani
Vastaus On epätodennäköistä, että se poistaa useimmat työpaikat kokonaan, mutta se varmasti muuttaa niitä. Tekoäly on loistava automatisoimaan toistuvia tehtäviä. Sen sijaan, että se korvaisi sinut kokonaan, se todennäköisesti ottaa hoitaakseen nämä tietyt tehtävät, jolloin voit keskittyä työhön, joka vaatii inhimillistä harkintaa, luovuutta ja tunneälyä. Ajattele sitä työkaluna, ei korvaajana.
2 Liittyvätkö tekoälypohjaisia rekrytointityökaluja koskevat kanteet oikeasti työpaikkojen menetykseen
Vastaus Ei. Kanteet koskevat oikeudenmukaisuutta. Ne väittävät, että ansioluetteloiden seulontaan ja ehdokkaiden haastatteluun käytetty tekoälyohjelmisto on puolueellinen värillisiä, naisia ja vanhempia työntekijöitä kohtaan. Kanteet väittävät, että nämä työkalut ovat mustia laatikoita, jotka tekevät päätöksiä, joita edes työnantajat eivät täysin ymmärrä, mikä rikkoo kansalaisoikeuslakeja.
3 Mitä läpinäkyvyyden puute tarkoittaa tekoälyn rekrytointikontekstissa
Vastaus Se tarkoittaa, että kun tekoäly hylkää ehdokkaan, kumpikaan – hakija tai työnantaja – ei voi selvästi selittää miksi. Tekoäly käyttää monimutkaisia algoritmeja, joissa on tuhansia datapisteitä. Jos ohjelmisto antaa alhaisen pistemäärän, kukaan ei voi osoittaa tiettyä syytä, kuten "sinulta puuttui 5 vuoden kokemus". Tämä tekee lähes mahdottomaksi todistaa syrjintää tai korjata huonoa rekrytointiprosessia.
Aloittelijan tason kysymykset
4 Miten yritykset käyttävät tekoälyä rekrytoinnissa juuri nyt
Vastaus Muutamalla tavalla: 1) Ansioluetteloiden seulonta – ohjelmisto skannaa ansioluettelosi avainsanojen varalta ja asettaa sen järjestykseen muihin verrattuna. 2) Chatbotit – ne kysyvät sinulta alustavia kysymyksiä. 3) Video-haastattelut – tekoäly analysoi ilmeitäsi, äänensävyäsi ja sanavalintojasi arvioidakseen kulttuurista sopivuuttasi tai innostustasi.
5 Jos minut hylkää robotti, onko se laitonta
Vastaus Ei automaattisesti. Se on laitonta, jos tekoäly syrjii sinua suojattujen ominaisuuksien, kuten rodun, sukupuolen, iän tai vamman perusteella. Jos et yksinkertaisesti ole pätevä työhön, se on laillista. Kanteet väittävät, että tekoäly rankaisee epäoikeudenmukaisesti ihmisiä näiden suojattujen ominaisuuksien perusteella, mistä oikeudelliset ongelmat alkavat.
