I'll translate this text from English to Danish for you. Here is the translation:
I løbet af de seneste fire år har Erin Kistler søgt tusindvis af jobs hos virksomheder som PayPal, Microsoft og Netflix, kun for at få sit CV til at forsvinde sporløst. Som produktchef med næsten 20 års erfaring mener Kistler, at hun var kvalificeret til hver eneste stilling, men hun fik aldrig en eneste jobsamtale.
Nu sagsøger Kistler Eightfold AI, en virksomhed i Silicon Valley, der laver ansættelsessoftware, som bruges af hundredvis af arbejdsgivere, herunder dem, hun søgte hos. Retssagen, der blev indgivet i januar ved en domstol i Californien, er en af de første, der argumenterer for, at automatiseret screening fungerer som en uoplyst forbrugerrapport eller ansøgerprofil. Den rangerer jobsøgende ud fra deres chancer for succes uden at give dem mulighed for at se eller udfordre resultaterne, ifølge Kistlers juridiske team.
Denne sag er en del af en bølge af nye juridiske tvister om, hvordan virksomheder bruger AI i ansættelsesbeslutninger. Arbejdstagere sagsøger også Meta over et internt AI-system, som de siger målrettede dem til fyringer, fordi de havde forældre- eller sygeorlov. En anden nylig retssag hævder, at IBM brugte AI-værktøjer, der diskriminerede ældre arbejdstagere.
Flere og flere amerikanske virksomheder vender sig mod AI for at træffe arbejdspladsbeslutninger hurtigere og mere effektivt, ofte præsenteret som en måde at være objektiv på. Men eksperter, der studerer denne type software, siger, at den også kan introducere eller forværre bias, der måske følger kandidater fra en virksomhed til en anden. Lovgivere begynder at lægge mærke til det. Resultaterne af disse juridiske kampe kan forme fremtidige ansættelsespraksisser, hvor gennemsigtige de er, og hvor meget magt kandidater har i processen.
"Der er faktisk ingen lov, der kræver en meddelelse eller offentliggørelse af brugen af disse AI-ansættelsessystemer," sagde Ifeoma Ajunwa, professor ved Emory University School of Law og grundlæggende direktør for AI and Future of Work-programmet. "Så virksomheder fortæller ikke nødvendigvis arbejdstagere, når de bliver evalueret med AI."
Brugen af AI i ansættelser vokser. Sidste år brugte 90% af arbejdsgiverne en form for automatisering i deres ansættelsesproces, ifølge en rapport fra World Economic Forum. Disse værktøjer spænder fra simpel filtrering – som at fjerne kandidater, der ikke har en fireårig uddannelse eller et andet krav – til at bruge AI til at vurdere en jobansøgers færdigheder eller endda gennemføre den indledende telefonsamtale.
I Eightolds tilfælde beskriver virksomheden sig selv som "verdens største, selvopdaterende kilde til talentdata." Den opdaterer konstant en intern database med oplysninger fra CV'er, LinkedIn-profiler og sociale mediekonti fra over en milliard arbejdstagere, der har søgt jobs gennem dens platform. Ved hjælp af disse data anvender den AI til at score ansøgere på en skala fra 0 til 5, hvor den forudsiger, hvor godt de ville præstere i et givet job. Den score kan derefter prioritere nogle kandidater frem for andre til jobsamtaler.
"En stor del af problemet er, at jobansøgere ikke ved ... hvad rapporterne siger," sagde Rachel Dempsey, en advokat, der repræsenterer Kistler.
Dempsey argumenterer for, at jobsøgende fortjener samme gennemsigtighed i ansættelsesprocessen, som amerikanere allerede får med deres kreditrapporter. Med disse oplysninger kunne de bestride fejl eller arbejde på at forbedre faktorer, der påvirker deres kandidatur. Men uden nogen indsigt er det umuligt at vide, om disse algoritmer diskriminerer mod kandidater på klare måder, sagde Dempsey.
"Konceptet med en sort boks er meget skræmmende," siger hun.
I en udtalelse til Guardian afviste Eightfold AI anklagerne. "Vi mener, at de fremsatte krav er uden berettigelse, og vi agter at forsvare os kraftigt," skrev en talsperson i en e-mail.
Som svar på retssagen mod IBM afviste virksomheden at bruge AI til automatisk at sortere kandidater fra og sagde i en udtalelse, at den "ikke billiger eller tolererer diskrimination af nogen art." Meta svarede ikke på en anmodning om kommentar til sin retssag.
Frygten for algoritmisk sortlistning
Selvom udbydere af ansættelsessoftware hævder at frigøre ansættelsesledere til at bruge mere tid på kvalificerede kandidater, er eksperter uenige. De argumenterer for, at AI faktisk kan gøre bias værre, såsom at favorisere visse demografiske grupper.
"Efterhånden som vi har lavet mere forskning i AI-ansættelsessystemer, har vi fundet, at de har tendens til at gentage mange af de samme bias, som menneskelige ledere har," sagde Ajunwa.
Næsten alle AI-systemer er trænet til at identificere mønstre, hvilket kan forstærke stereotyper eller langvarige bias. For eksempel brugte Amazon engang et AI-værktøj, der rangerede kvinders CV'er lavere, fordi virksomhedens toppræsterende var mænd. Amazon stoppede med at bruge det efter at have opdaget problemet. I andre tilfælde kan AI-ansættelsessystemer skabe deres egne bias. I sin bog The Quantified Worker fandt Ajunwa, at AI gav dårlige scorer til jobansøgere med sydlige accenter, fordi den havde svært ved at forstå dem under stemmeinterviews.
Menneskelige ansættelsesledere kan også være uretfærdige – som at vælge en kandidat, der var i samme studenterforening – men "omfanget af bias er endnu stærkere med AI," sagde Xuechunzi Bai, adjunkt ved University of Chicago, der har studeret ansættelsesbias.
Bai var medforfatter på en nylig undersøgelse, hvor AI-modeller blev bedt om at træffe ansættelsesbeslutninger om fiktive ansøgere fra opdigtede demografiske grupper kaldet Tufa, Aima, Reku og Weki. Efter flere runder med beslutninger lavede AI-modellerne antagelser om kandidater, der intet havde at gøre med deres kvalifikationer, hvilket reelt stereotypiserede dem. Hvis en Tufa var en god læge, så var Tufa-kandidater mere tilbøjelige til at blive valgt som læger, mens Weki-kandidater var mere tilbøjelige til at blive ansat som pedeller.
Undersøgelsen fandt mere bias i AI end i menneskelige ansættelsesbeslutninger, som Bai undersøgte sidste år. Den fandt også, at nyere, mere avancerede modeller producerede ansættelsesbeslutninger med endnu mere bias.
"Vi var ret chokerede over at se dette resultat," sagde Bai. AI-modeller er meget gode til at løse problemer med et enkelt korrekt svar, som matematik eller kodning. "Men de bliver værre til at udforske andre muligheder," sagde Bai. "I ansættelser er udforskning meget vigtig, men disse modeller er ikke trænet til det."
Virkningen af AI-bias på en ansøger kan gå ud over blot én ledig stilling. Hvis en arbejdstager bliver afvist af et menneske, kan de prøve igen hos en anden virksomhed med en anden ansættelsesleder. Men hvis en arbejdstager bliver afvist af et algoritmisk system, der bruges på tværs af mange virksomheder, "husker systemet den beslutning, der allerede blev truffet, og gentager den for effektivitetens skyld," sagde Ajunwa. "I virkeligheden er du blevet algoritmisk sortlistet."
Fordi mange virksomheder bruger ansættelsessoftware bygget på de samme grundlæggende AI-modeller, er der en bekymring for, at et negativt flag kan gøre det meget sværere for en kandidat at få noget job overhovedet, sagde Katie Creel, medforfatter på en nylig undersøgelse om risiciene ved "algoritmisk monokultur" i ansættelsessystemer. "Folk vil blive udelukket fra jobs mere, end de ellers ville have været," sagde hun.
Eightfold AI kommenterede ikke på sagen.
Kan AI bruges ansvarligt i ansættelser?
Selvom AI-værktøjer kan spare tid eller hjælpe med at teste kandidaters færdigheder, bør ansættelsesledere ikke lade AI træffe beslutninger, sagde Iman Abuzeid, CEO for Incredible Health, en AI-ansættelsesplatform, der bruges af over 1.500 sundhedsarbejdsgivere. Incredible Health tilbyder en AI-agent til at gennemføre telefonsamtaler, men AI'en afviser, scorer, rangerer eller beslutter ikke automatisk, hvem der går videre, ifølge Abuzeid.
"Det handler om at indsamle oplysninger fra kandidater, så et menneske er bedre rustet til at træffe beslutningen," sagde Abuzeid.
Abuzeid bemærkede også, at omkring 10% af Incredible Healths AI-interviews bliver revideret for bias af et menneske, en proces, der bliver et juridisk krav i flere byer og stater.
I New York City kræver en lov, der trådte i kraft i 2023, at arbejdsgivere, der bruger automatiserede systemer i ansættelser, gennemfører årlige bias-revisioner og underretter kandidater på forhånd om teknologiens brug. Loven gælder dog kun for software, der "væsentligt" assisterer eller erstatter menneskelig beslutningstagning, hvilket skaber et smuthul for tilfælde, hvor mennesker er involveret i processen. Nylige love i Illinois og Colorado forbyder også arbejdsgivere at bruge AI-værktøjer, der fører til ulovlig diskrimination.
Flere og flere by- og statsreguleringer sigter mod at gøre det til et grundlæggende krav at underrette jobansøgere, når AI bliver brugt. Men ideelt set bør kandidater have indsigt i, hvad deres algoritmiske profiler siger om dem, ifølge Jenny Yang, partner hos Outten & Golden, det advokatfirma, der repræsenterer sagsøgerne i retssagen mod Eightfold AI.
"Denne indledende gennemsigtighed hjælper med bedre at identificere, hvor problemer måtte eksistere," sagde Yang med henvisning til meddelelser om, at AI blev brugt. "Der er voksende bekymring blandt arbejdstagere om, at de måske bliver nægtet muligheder af årsager, som ingen forstår."
**Ofte stillede spørgsmål**
Her er en liste over ofte stillede spørgsmål, der adresserer krydsfeltet mellem AI-jobforskydning og de juridiske udfordringer, som automatiserede ansættelsesværktøjer står over for.
**Generelle spørgsmål – Det store billede**
**1. Vil AI faktisk tage mit job?**
**Svar:** Det er usandsynligt, at det helt eliminerer de fleste jobs, men det vil helt sikkert ændre dem. AI er god til at automatisere gentagne opgaver. I stedet for at erstatte dig helt, vil den sandsynligvis overtage disse specifikke opgaver, så du kan fokusere på arbejde, der kræver menneskelig dømmekraft, kreativitet og følelsesmæssig intelligens. Tænk på det som et værktøj, ikke en erstatning.
**2. Handler retssagerne om AI-ansættelsesværktøjer faktisk om jobtab?**
**Svar:** Nej. Retssagerne handler om retfærdighed. De hævder, at AI-software, der bruges til at screene CV'er og interviewe kandidater, er biased mod personer af farve, kvinder og ældre arbejdstagere. Retssagerne argumenterer for, at disse værktøjer er sorte bokse, der træffer beslutninger, som selv arbejdsgiverne ikke fuldt ud forstår, hvilket overtræder borgerrettighedslovene.
**3. Hvad betyder manglende gennemsigtighed i en AI-ansættelsessammenhæng?**
**Svar:** Det betyder, at når en AI afviser en kandidat, kan hverken ansøgeren eller arbejdsgiveren klart forklare hvorfor. AI'en bruger komplekse algoritmer med tusindvis af datapunkter. Hvis softwaren giver en lav score, kan ingen pege på en specifik grund som "du manglede 5 års erfaring." Dette gør det næsten umuligt at bevise diskrimination eller rette op på en dårlig ansættelsesproces.
**Spørgsmål på begynderniveau**
**4. Hvordan bruger virksomheder AI til at ansætte lige nu?**
**Svar:** På et par måder: 1) CV-screening – software scanner dit CV for nøgleord og rangerer det mod andre. 2) Chatbots – de stiller dig indledende spørgsmål. 3) Videointerviews – AI analyserer dine ansigtsudtryk, tonefald og ordvalg for at score din kulturelle pasform eller entusiasme.
**5. Hvis jeg bliver afvist af en robot, er det så ulovligt?**
**Svar:** Ikke automatisk. Det er ulovligt, hvis AI'en diskriminerer mod dig baseret på beskyttede karakteristika som race, køn, alder eller handicap. Hvis du simpelthen ikke er kvalificeret til jobbet, er det lovligt. Retssagerne hævder, at AI'en uretfærdigt straffer folk baseret på disse beskyttede træk, hvilket er der, de juridiske problemer begynder.
