Voici la traduction en français du texte fourni :
---
Depuis quatre ans, Erin Kistler a postulé à des milliers d’emplois dans des entreprises comme PayPal, Microsoft et Netflix, pour voir son CV disparaître sans laisser de trace. En tant que chef de produit avec près de 20 ans d’expérience, Kistler estime qu’elle était qualifiée pour chaque poste, mais elle n’a jamais obtenu un seul entretien.
Aujourd’hui, Kistler poursuit en justice Eightfold AI, une entreprise de la Silicon Valley qui fabrique des logiciels de recrutement utilisés par des centaines d’employeurs, y compris ceux auxquels elle a postulé. La plainte, déposée en janvier devant un tribunal californien, est l’une des premières à affirmer que le filtrage automatisé agit comme un rapport de consommation ou un profil de candidat non divulgué. Il classe les chercheurs d’emploi selon leurs chances de réussite sans leur donner la possibilité de voir ou de contester les résultats, selon l’équipe juridique de Kistler.
Cette affaire fait partie d’une vague de nouveaux litiges portant sur la manière dont les entreprises utilisent l’IA dans les décisions d’emploi. Des travailleurs poursuivent également Meta au sujet d’un système d’IA interne qu’ils disent avoir ciblé pour des licenciements parce qu’ils avaient pris un congé parental ou médical. Une autre plainte récente affirme qu’IBM a utilisé des outils d’IA qui discriminaient les travailleurs plus âgés.
De plus en plus d’entreprises américaines se tournent vers l’IA pour prendre des décisions en milieu de travail plus rapidement et plus efficacement, souvent en la présentant comme un moyen d’être objectif. Mais les experts qui étudient ce type de logiciels affirment qu’elle peut aussi introduire ou aggraver des préjugés qui pourraient suivre les candidats d’une entreprise à l’autre. Les législateurs commencent à y prêter attention. Les résultats de ces batailles juridiques pourraient façonner les pratiques d’embauche futures, leur degré de transparence et le pouvoir des candidats dans le processus.
« Il n’existe en réalité aucune loi exigeant un avis ou une divulgation de l’utilisation de ces systèmes d’embauche par IA », a déclaré Ifeoma Ajunwa, professeure à la faculté de droit de l’université Emory et directrice fondatrice du programme sur l’IA et l’avenir du travail. « Les entreprises ne disent donc pas nécessairement aux travailleurs quand ils sont évalués par l’IA. »
L’utilisation de l’IA dans le recrutement est en hausse. L’année dernière, 90 % des employeurs ont utilisé une forme d’automatisation dans leur processus d’embauche, selon un rapport du Forum économique mondial. Ces outils vont du simple filtrage—comme éliminer les candidats qui n’ont pas de diplôme de quatre ans ou une autre exigence—à l’utilisation de l’IA pour évaluer les compétences d’un candidat ou même mener l’entretien téléphonique initial.
Dans le cas d’Eightfold, l’entreprise se décrit comme « la plus grande source de données sur les talents au monde, qui se met à jour automatiquement ». Elle met constamment à jour une base de données interne avec des informations provenant des CV, des profils LinkedIn et des comptes de médias sociaux de plus d’un milliard de travailleurs qui ont postulé à des emplois via sa plateforme. À l’aide de ces données, elle applique l’IA pour noter les candidats sur une échelle de 0 à 5, prédisant comment ils s’en sortiraient dans un poste donné. Ce score peut ensuite prioriser certains candidats par rapport à d’autres pour les entretiens.
« Une grande partie du problème est que les candidats ne savent pas… ce que disent les rapports », a déclaré Rachel Dempsey, avocate représentant Kistler.
Dempsey soutient que les chercheurs d’emploi méritent la même transparence dans le processus d’embauche que celle que les Américains ont déjà avec leurs rapports de crédit. Avec ces informations, ils pourraient contester des erreurs ou travailler à améliorer les facteurs qui affectent leur candidature. Mais sans aucun aperçu, il est impossible de savoir si ces algorithmes discriminent les candidats de manière évidente, a déclaré Dempsey.
« Le concept de boîte noire est très effrayant », dit-elle.
Dans une déclaration au Guardian, Eightfold AI a nié les allégations. « Nous croyons que les réclamations formulées sont sans fondement et avons l’intention de nous défendre vigoureusement », a écrit un porte-parole dans un courriel.
En réponse à la plainte contre IBM, l’entreprise a nié avoir utilisé l’IA pour filtrer automatiquement les candidats et a déclaré dans un communiqué qu’elle « n’approuve ni ne tolère la discrimination sous quelque forme que ce soit ». Meta n’a pas répondu à une demande de commentaire concernant sa plainte.
La peur de la liste noire algorithmique
Bien que les fournisseurs de logiciels d’emploi prétendent libérer du temps aux responsables du recrutement pour passer plus de temps avec des candidats qualifiés, les experts ne sont pas d’accord. Ils soutiennent que l’IA peut en réalité aggraver les préjugés, comme favoriser certains groupes démographiques.
« Alors que nous avons mené plus de recherches sur les systèmes d’embauche par IA, nous avons constaté qu’ils ont tendance à reproduire bon nombre des mêmes préjugés que les gestionnaires humains », a déclaré Ajunwa.
Presque tous les systèmes d’IA sont formés pour identifier des modèles, ce qui peut renforcer des stéréotypes ou des préjugés de longue date. Par exemple, Amazon a un jour utilisé un outil d’IA qui classait les CV des femmes plus bas parce que les meilleurs employés de l’entreprise étaient des hommes. Amazon a cessé de l’utiliser après avoir découvert le problème. Dans d’autres cas, les systèmes d’embauche par IA peuvent créer leurs propres préjugés. Dans son livre The Quantified Worker, Ajunwa a constaté que l’IA donnait de mauvais scores aux candidats ayant un accent du Sud parce qu’elle avait du mal à les comprendre lors d’entretiens vocaux.
Les gestionnaires d’embauche humains peuvent aussi être injustes—comme choisir un candidat qui était dans la même fraternité—mais « l’ampleur des préjugés est encore plus forte avec l’IA », a déclaré Xuechunzi Bai, professeure adjointe à l’université de Chicago qui a étudié les préjugés d’embauche.
Bai a coécrit une étude récente où des modèles d’IA ont été invités à prendre des décisions d’embauche concernant des candidats fictifs issus de groupes démographiques inventés appelés Tufa, Aima, Reku et Weki. Après plusieurs séries de décisions, les modèles d’IA ont fait des suppositions sur les candidats qui n’avaient rien à voir avec leurs qualifications, les stéréotypant efficacement. Si un Tufa était un bon médecin, alors les candidats Tufa étaient plus susceptibles d’être choisis comme médecins, tandis que les candidats Weki étaient plus susceptibles d’être embauchés comme concierges.
L’étude a trouvé plus de préjugés dans l’IA que dans les décisions d’embauche humaines que Bai a examinées l’année dernière. Elle a également constaté que les modèles plus récents et plus avancés produisaient des décisions d’embauche avec encore plus de préjugés.
« Nous avons été assez choqués de voir ce résultat », a déclaré Bai. Les modèles d’IA sont très bons pour résoudre des problèmes avec une seule réponse correcte, comme les mathématiques ou le codage. « Mais ils deviennent pires pour explorer d’autres options », a déclaré Bai. « Dans l’embauche, l’exploration est très importante, mais ces modèles ne sont pas formés pour le faire. »
L’impact des préjugés de l’IA sur un candidat peut aller au-delà d’une seule offre d’emploi. Si un travailleur est rejeté par une personne, il peut réessayer dans une autre entreprise avec un autre gestionnaire d’embauche. Mais si un travailleur est rejeté par un système algorithmique utilisé dans de nombreuses entreprises, le système « se souvient de la décision déjà prise et la répète pour plus d’efficacité », a déclaré Ajunwa. « En réalité, vous avez été mis sur liste noire algorithmiquement. »
Parce que de nombreuses entreprises utilisent des logiciels d’embauche construits sur les mêmes modèles d’IA fondamentaux, il y a une inquiétude qu’un signal négatif puisse rendre beaucoup plus difficile pour un candidat d’obtenir un emploi, a déclaré Katie Creel, coautrice d’une étude récente sur les risques de « monoculture algorithmique » dans les systèmes d’embauche. « Les gens seront exclus des emplois plus qu’ils ne l’auraient été autrement », a-t-elle dit.
Eightfold AI n’a pas commenté la question.
L’IA peut-elle être utilisée de manière responsable dans l’embauche ?
Bien que les outils d’IA puissent faire gagner du temps ou aider à tester les compétences des candidats, les gestionnaires d’embauche ne devraient pas laisser l’IA prendre des décisions, a déclaré Iman Abuzeid, PDG d’Incredible Health, une plateforme d’embauche par IA utilisée par plus de 1 500 employeurs du secteur de la santé. Incredible Health propose un agent IA pour mener des entretiens téléphoniques, mais l’IA ne rejette, ne note, ne classe ni ne décide automatiquement qui avance, selon Abuzeid.
« Il s’agit de recueillir des informations auprès des candidats afin qu’un humain soit mieux équipé pour prendre la décision », a déclaré Abuzeid.
Abuzeid a également noté qu’environ 10 % des entretiens IA d’Incredible Health sont audités pour les préjugés par un humain, un processus qui devient une exigence légale dans de plus en plus de villes et d’États.
À New York, une loi entrée en vigueur en 2023 exige que les employeurs utilisant des systèmes automatisés dans l’embauche effectuent des audits annuels de préjugés et informent les candidats à l’avance de l’utilisation de la technologie. Cependant, la loi ne s’applique qu’aux logiciels qui « assistent substantiellement » ou remplacent la prise de décision humaine, créant une échappatoire pour les cas où des humains sont impliqués dans le processus. Des lois récentes dans l’Illinois et le Colorado interdisent également aux employeurs d’utiliser des outils d’IA qui mènent à une discrimination illégale.
De plus en plus, les réglementations municipales et étatiques visent à faire de la notification aux candidats lorsque l’IA est utilisée une exigence de base. Mais idéalement, les candidats devraient avoir un aperçu de ce que leurs profils algorithmiques disent d’eux, selon Jenny Yang, associée chez Outten & Golden, le cabinet d’avocats représentant les plaignants dans la plainte contre Eightfold AI.
« Cette transparence initiale aide à mieux identifier où des problèmes pourraient exister », a déclaré Yang, en référence aux notifications indiquant que l’IA a été utilisée. « Il y a une inquiétude croissante parmi les travailleurs qu’ils pourraient se voir refuser des opportunités pour des raisons que personne ne comprend. »
**Questions fréquemment posées**
Voici une liste de FAQ abordant l’intersection du déplacement d’emplois par l’IA et les défis juridiques auxquels sont confrontés les outils d’embauche automatisés.
**Questions générales – La vue d’ensemble**
1. **L’IA va-t-elle vraiment prendre mon emploi ?**
**Réponse :** Il est peu probable qu’elle élimine la plupart des emplois entièrement, mais elle va certainement les changer. L’IA est excellente pour automatiser les tâches répétitives. Au lieu de vous remplacer entièrement, elle prendra probablement en charge ces tâches spécifiques, vous permettant de vous concentrer sur un travail qui nécessite du jugement humain, de la créativité et de l’intelligence émotionnelle. Pensez-y comme à un outil, pas à un remplacement.
2. **Les plaintes concernant les outils d’embauche par IA concernent-elles réellement la perte d’emploi ?**
**Réponse :** Non. Les plaintes concernent l’équité. Elles affirment que les logiciels d’IA utilisés pour filtrer les CV et mener des entretiens sont biaisés contre les personnes de couleur, les femmes et les travailleurs plus âgés. Les plaintes soutiennent que ces outils sont des boîtes noires qui prennent des décisions que même les employeurs ne comprennent pas pleinement, ce qui viole les lois sur les droits civils.
3. **Que signifie le manque de transparence dans un contexte d’embauche par IA ?**
**Réponse :** Cela signifie que lorsqu’une IA rejette un candidat, ni le candidat ni l’employeur ne peuvent expliquer clairement pourquoi. L’IA utilise des algorithmes complexes avec des milliers de points de données. Si le logiciel donne un score faible, personne ne peut pointer une raison spécifique comme « vous manquez de 5 ans d’expérience ». Cela rend presque impossible de prouver une discrimination ou de corriger un processus d’embauche défectueux.
**Questions de niveau débutant**
4. **Comment les entreprises utilisent-elles l’IA pour embaucher actuellement ?**
**Réponse :** De plusieurs manières : 1) Filtrage des CV – le logiciel scanne votre CV pour des mots-clés et le classe par rapport à d’autres ; 2) Chatbots – ils vous posent des questions préliminaires ; 3) Entretiens vidéo – l’IA analyse vos expressions faciales, le ton de votre voix et votre choix de mots pour évaluer votre adéquation culturelle ou votre enthousiasme.
5. **Si je suis rejeté par un robot, est-ce illégal ?**
**Réponse :** Pas automatiquement. C’est illégal si l’IA vous discrimine en fonction de caractéristiques protégées comme la race, le genre, l’âge ou le handicap. Si vous n’êtes simplement pas qualifié pour le poste, c’est légal. Les plaintes affirment que l’IA pénalise injustement les personnes en fonction de ces traits protégés, ce qui est là où commence le problème juridique.
