In den letzten vier Jahren hat sich Erin Kistler auf Tausende von Stellen bei Unternehmen wie PayPal, Microsoft und Netflix beworben, nur um festzustellen, dass ihr Lebenslauf spurlos verschwand. Als Produktmanagerin mit fast 20 Jahren Erfahrung glaubt Kistler, dass sie für jede Position qualifiziert war, doch sie erhielt nie eine einzige Einladung zum Vorstellungsgespräch.
Nun verklagt Kistler Eightfold AI, ein Unternehmen aus dem Silicon Valley, das Einstellungssoftware herstellt, die von Hunderten von Arbeitgebern genutzt wird, darunter auch von denen, bei denen sie sich beworben hat. Die Klage, die im Januar vor einem Gericht in Kalifornien eingereicht wurde, ist eine der ersten, die argumentiert, dass automatisierte Auswahlverfahren wie ein nicht offengelegter Verbraucherbericht oder ein Bewerberprofil wirken. Sie bewertet Arbeitssuchende nach ihren Erfolgsaussichten, ohne ihnen die Möglichkeit zu geben, die Ergebnisse einzusehen oder anzufechten, so Kistlers Anwaltsteam.
Dieser Fall ist Teil einer Welle neuer Rechtsstreitigkeiten darüber, wie Unternehmen KI bei Beschäftigungsentscheidungen einsetzen. Arbeitnehmer verklagen auch Meta wegen eines internen KI-Systems, das sie angeblich für Entlassungen ausgewählt hat, weil sie Elternzeit oder medizinische Auszeit genommen hatten. Eine weitere aktuelle Klage behauptet, IBM habe KI-Tools eingesetzt, die ältere Arbeitnehmer diskriminierten.
Immer mehr US-Unternehmen setzen auf KI, um Arbeitsplatzentscheidungen schneller und effizienter zu treffen, oft präsentiert als Weg zur Objektivität. Doch Experten, die solche Software untersuchen, sagen, dass sie auch Vorurteile einführen oder verschärfen kann, die Kandidaten von einem Unternehmen zum nächsten verfolgen könnten. Gesetzgeber beginnen, darauf zu achten. Die Ergebnisse dieser Rechtsstreitigkeiten könnten zukünftige Einstellungspraktiken prägen, wie transparent sie sind und wie viel Macht Kandidaten in dem Prozess haben.
„Es gibt tatsächlich kein Gesetz, das eine Benachrichtigung oder Offenlegung der Nutzung dieser KI-Einstellungssysteme vorschreibt“, sagte Ifeoma Ajunwa, Professorin an der Emory University School of Law und Gründungsdirektorin des Programms für KI und die Zukunft der Arbeit. „Unternehmen sagen Arbeitnehmern also nicht unbedingt, wann sie mit KI bewertet werden.“
Der Einsatz von KI bei der Einstellung nimmt zu. Im letzten Jahr nutzten 90 % der Arbeitgeber eine Form der Automatisierung in ihrem Einstellungsprozess, so ein Bericht des Weltwirtschaftsforums. Diese Tools reichen von einfacher Filterung – etwa dem Entfernen von Kandidaten, die keinen vierjährigen Abschluss oder eine andere Anforderung haben – bis hin zur Nutzung von KI, um die Fähigkeiten eines Bewerbers zu bewerten oder sogar das erste Telefoninterview zu führen.
Im Fall von Eightfold beschreibt sich das Unternehmen selbst als „die größte, sich selbst aktualisierende Quelle für Talentdaten der Welt“. Es aktualisiert ständig eine interne Datenbank mit Informationen aus Lebensläufen, LinkedIn-Profilen und Social-Media-Konten von über einer Milliarde Arbeitnehmern, die sich über seine Plattform beworben haben. Mit diesen Daten wendet es KI an, um Bewerber auf einer Skala von 0 bis 5 zu bewerten und vorherzusagen, wie gut sie in einem bestimmten Job abschneiden würden. Diese Punktzahl kann dann einige Kandidaten für Vorstellungsgespräche gegenüber anderen priorisieren.
„Ein großer Teil des Problems ist, dass Bewerber nicht wissen … was die Berichte sagen“, sagte Rachel Dempsey, eine Anwältin, die Kistler vertritt.
Dempsey argumentiert, dass Arbeitssuchende dieselbe Transparenz im Einstellungsprozess verdienen, die Amerikaner bereits mit ihren Kreditberichten erhalten. Mit diesen Informationen könnten sie Fehler anfechten oder daran arbeiten, Faktoren zu verbessern, die ihre Kandidatur beeinflussen. Aber ohne jede Einsicht sei es unmöglich zu wissen, ob diese Algorithmen Kandidaten auf klare Weise diskriminieren, so Dempsey.
„Das Konzept einer Blackbox ist sehr beängstigend“, sagt sie.
In einer Stellungnahme gegenüber dem Guardian bestritt Eightfold AI die Vorwürfe. „Wir glauben, dass die erhobenen Ansprüche unbegründet sind, und beabsichtigen, uns energisch zu verteidigen“, schrieb ein Sprecher in einer E-Mail.
Als Reaktion auf die Klage gegen IBM bestritt das Unternehmen, KI zur automatischen Aussortierung von Kandidaten einzusetzen, und erklärte in einer Stellungnahme, dass es „Diskriminierung jeglicher Art nicht billigt oder toleriert“. Meta reagierte nicht auf eine Bitte um Stellungnahme zu seiner Klage.
Die Angst vor algorithmischer Ächtung
Obwohl Anbieter von Beschäftigungssoftware behaupten, Personalverantwortliche zu entlasten, damit sie mehr Zeit mit qualifizierten Kandidaten verbringen können, sind Experten anderer Meinung. Sie argumentieren, dass KI Vorurteile tatsächlich verschlimmern kann, etwa indem sie bestimmte demografische Gruppen bevorzugt.
„Je mehr Forschung wir zu KI-Einstellungssystemen betrieben haben, desto mehr haben wir festgestellt, dass sie dazu neigen, viele der gleichen Vorurteile zu reproduzieren, die menschliche Manager haben“, sagte Ajunwa.
Fast alle KI-Systeme sind darauf trainiert, Muster zu erkennen, was Stereotype oder langjährige Vorurteile verstärken kann. Zum Beispiel nutzte Amazon einmal ein KI-Tool, das Lebensläufe von Frauen niedriger einstufte, weil die Top-Performer des Unternehmens Männer waren. Amazon stellte die Nutzung ein, nachdem das Problem entdeckt wurde. In anderen Fällen können KI-Einstellungssysteme eigene Vorurteile erzeugen. In ihrem Buch The Quantified Worker fand Ajunwa heraus, dass KI Bewerbern mit südlichem Akzent schlechte Punktzahlen gab, weil sie Schwierigkeiten hatte, sie bei Sprachinterviews zu verstehen.
Menschliche Personalverantwortliche können auch unfair sein – etwa einen Kandidaten zu wählen, der in derselben Studentenverbindung war – aber „das Ausmaß der Voreingenommenheit ist mit KI sogar noch stärker“, sagte Xuechunzi Bai, Assistenzprofessorin an der University of Chicago, die Einstellungsvoreingenommenheit untersucht hat.
Bai war Co-Autorin einer kürzlichen Studie, in der KI-Modelle gebeten wurden, Einstellungsentscheidungen über fiktive Bewerber aus erfundenen demografischen Gruppen namens Tufa, Aima, Reku und Weki zu treffen. Nach mehreren Runden von Entscheidungen trafen die KI-Modelle Annahmen über Kandidaten, die nichts mit ihren Qualifikationen zu tun hatten, und stereotypisierten sie effektiv. Wenn ein Tufa ein guter Arzt war, wurden Tufa-Kandidaten eher als Ärzte ausgewählt, während Weki-Kandidaten eher als Hausmeister eingestellt wurden.
Die Studie fand mehr Voreingenommenheit bei KI als bei menschlichen Einstellungsentscheidungen, die Bai im letzten Jahr untersuchte. Sie fand auch heraus, dass neuere, fortschrittlichere Modelle Einstellungsentscheidungen mit noch mehr Voreingenommenheit produzierten.
„Wir waren ziemlich schockiert, dieses Ergebnis zu sehen“, sagte Bai. KI-Modelle sind sehr gut darin, Probleme mit einer einzigen richtigen Antwort zu lösen, wie Mathematik oder Programmieren. „Aber sie werden schlechter darin, andere Optionen zu erkunden“, sagte Bai. „Bei der Einstellung ist Erkundung sehr wichtig, aber diese Modelle sind nicht darauf trainiert.“
Die Auswirkungen von KI-Voreingenommenheit auf einen Bewerber können über eine einzelne Stellenausschreibung hinausgehen. Wenn ein Arbeitnehmer von einer Person abgelehnt wird, kann er es bei einem anderen Unternehmen mit einem anderen Personalverantwortlichen erneut versuchen. Aber wenn ein Arbeitnehmer von einem algorithmischen System abgelehnt wird, das in vielen Unternehmen verwendet wird, „erinnert sich das System an die bereits getroffene Entscheidung und wiederholt sie aus Effizienzgründen“, sagte Ajunwa. „In Wirklichkeit wurden Sie algorithmisch geächtet.“
Da viele Unternehmen Einstellungssoftware verwenden, die auf denselben grundlegenden KI-Modellen basiert, besteht die Sorge, dass eine negative Markierung es für einen Kandidaten viel schwieriger machen könnte, überhaupt einen Job zu bekommen, sagte Katie Creel, Co-Autorin einer kürzlichen Studie über die Risiken der „algorithmischen Monokultur“ in Einstellungssystemen. „Menschen werden mehr von Jobs ausgeschlossen, als sie es sonst wären“, sagte sie.
Eightfold AI äußerte sich nicht zu der Angelegenheit.
Kann KI verantwortungsvoll bei der Einstellung eingesetzt werden?
Während KI-Tools Zeit sparen oder helfen können, die Fähigkeiten von Kandidaten zu testen, sollten Personalverantwortliche KI keine Entscheidungen treffen lassen, sagte Iman Abuzeid, CEO von Incredible Health, einer KI-Einstellungsplattform, die von über 1.500 Gesundheitseinrichtungen genutzt wird. Incredible Health bietet einen KI-Agenten für Telefoninterviews an, aber die KI lehnt nicht automatisch ab, bewertet nicht, rankt nicht oder entscheidet nicht, wer weiterkommt, so Abuzeid.
„Es geht darum, Informationen von Kandidaten zu sammeln, damit ein Mensch besser in der Lage ist, die Entscheidung zu treffen“, sagte Abuzeid.
Abuzeid merkte auch an, dass etwa 10 % der KI-Interviews von Incredible Health von einem Menschen auf Voreingenommenheit geprüft werden, ein Prozess, der in immer mehr Städten und Bundesstaaten zur gesetzlichen Anforderung wird.
In New York City verlangt ein Gesetz, das 2023 in Kraft trat, dass Arbeitgeber, die automatisierte Systeme bei der Einstellung verwenden, jährliche Voreingenommenheitsprüfungen durchführen und Kandidaten im Voraus über die Nutzung der Technologie informieren. Das Gesetz gilt jedoch nur für Software, die Entscheidungsfindung „substanziell“ unterstützt oder ersetzt, was eine Gesetzeslücke für Fälle schafft, in denen Menschen in den Prozess einbezogen sind. Aktuelle Gesetze in Illinois und Colorado verbieten Arbeitgebern ebenfalls die Nutzung von KI-Tools, die zu rechtswidriger Diskriminierung führen.
Immer mehr Stadt- und Landesvorschriften zielen darauf ab, es zur grundlegenden Anforderung zu machen, Bewerber zu benachrichtigen, wenn KI verwendet wird. Aber idealerweise sollten Kandidaten Einblick darin haben, was ihre algorithmischen Profile über sie aussagen, so Jenny Yang, Partnerin bei Outten & Golden, der Anwaltskanzlei, die die Kläger in der Klage gegen Eightfold AI vertritt.
„Diese anfängliche Transparenz hilft, besser zu identifizieren, wo Probleme existieren könnten“, sagte Yang in Bezug auf Benachrichtigungen, dass KI verwendet wurde. „Es gibt wachsende Besorgnis unter Arbeitnehmern, dass ihnen Chancen aus Gründen verweigert werden könnten, die niemand versteht.“
Häufig gestellte Fragen
Hier ist eine Liste von FAQs, die sich mit der Überschneidung von KI-bedingter Arbeitsplatzverdrängung und den rechtlichen Herausforderungen automatisierter Einstellungstools befassen
Allgemeine Fragen Das große Ganze
1 Wird KI tatsächlich meinen Job übernehmen
Antwort Es ist unwahrscheinlich, dass sie die meisten Jobs vollständig eliminiert, aber sie wird sie definitiv verändern KI ist großartig darin, repetitive Aufgaben zu automatisieren Statt Sie vollständig zu ersetzen, wird sie wahrscheinlich diese spezifischen Aufgaben übernehmen, sodass Sie sich auf Arbeit konzentrieren können, die menschliches Urteilsvermögen, Kreativität und emotionale Intelligenz erfordert Denken Sie daran als Werkzeug, nicht als Ersatz
2 Geht es bei den Klagen über KI-Einstellungstools tatsächlich um Arbeitsplatzverlust
Antwort Nein Die Klagen drehen sich um Fairness Sie behaupten, dass KI-Software, die zur Durchsicht von Lebensläufen und zur Durchführung von Interviews verwendet wird, gegen Menschen of Color, Frauen und ältere Arbeitnehmer voreingenommen ist Die Klagen argumentieren, dass diese Tools Blackboxen sind, die Entscheidungen treffen, die nicht einmal die Arbeitgeber vollständig verstehen, was gegen Bürgerrechtsgesetze verstößt
3 Was bedeutet mangelnde Transparenz im KI-Einstellungskontext
Antwort Es bedeutet, dass wenn eine KI einen Kandidaten ablehnt, weder der Bewerber noch der Arbeitgeber klar erklären kann, warum Die KI verwendet komplexe Algorithmen mit Tausenden von Datenpunkten Wenn die Software eine niedrige Punktzahl gibt, kann niemand auf einen spezifischen Grund zeigen, wie „Ihnen fehlten 5 Jahre Erfahrung“ Dies macht es fast unmöglich, Diskriminierung zu beweisen oder einen fehlerhaften Einstellungsprozess zu beheben
Fragen für Einsteiger
4 Wie nutzen Unternehmen KI derzeit zur Einstellung
Antwort Auf verschiedene Weise 1 Lebenslauf-Screening Software scannt Ihren Lebenslauf nach Schlüsselwörtern und rankt ihn gegen andere 2 Chatbots sie stellen Ihnen vorläufige Fragen 3 Videointerviews KI analysiert Ihre Gesichtsausdrücke, Ihren Tonfall und Ihre Wortwahl, um Ihre kulturelle Passung oder Begeisterung zu bewerten
5 Wenn ich von einem Roboter abgelehnt werde, ist das illegal
Antwort Nicht automatisch Es ist illegal, wenn die KI Sie aufgrund geschützter Merkmale wie Rasse, Geschlecht, Alter oder Behinderung diskriminiert Wenn Sie einfach nicht für den Job qualifiziert sind, ist das legal Die Klagen behaupten, dass die KI Menschen unfair aufgrund dieser geschützten Merkmale benachteiligt, was der Punkt ist, an dem die rechtlichen Probleme beginnen
