过去四年来，艾琳·基斯特勒向PayPal、微软和Netflix等公司投递了数千份求职申请，但她的简历总是石沉大海，毫无回音。作为一名拥有近20年经验的产品经理，基斯特勒相信自己完全胜任每一个职位，然而她从未获得过一次面试机会。
如今，基斯特勒正在起诉Eightfold AI——一家硅谷公司，其招聘软件被数百家雇主使用，包括她曾申请的那些公司。这起于一月份在加州法院提起的诉讼，是首批主张自动化筛选相当于未披露的消费者报告或申请人档案的案件之一。据基斯特勒的法律团队称，该系统对求职者的成功几率进行排名，却不给他们查看或质疑结果的机会。
此案是围绕企业在雇佣决策中使用人工智能所引发的一系列新法律纠纷的一部分。员工们还在起诉Meta，称其内部AI系统因他们休过育儿假或病假而将他们列为裁员目标。另一起最近的诉讼声称IBM使用了歧视年长员工的AI工具。
越来越多的美国公司正在转向AI，以更快、更高效地做出职场决策，并常常将其标榜为客观公正的方式。但研究这类软件的专家表示，它也可能引入或加剧偏见，这种偏见可能会随着候选人从一家公司带到另一家公司。立法者开始关注这一问题。这些法律纠纷的结果可能会塑造未来的招聘实践、其透明度，以及候选人在这一过程中拥有的权力。
“实际上，没有任何法律要求对使用这些AI招聘系统进行通知或披露，”埃默里大学法学院教授、AI与未来工作项目创始主任伊费奥玛·阿琼瓦说。“所以公司不一定会在员工被AI评估时告知他们。”
AI在招聘中的使用正在增长。根据世界经济论坛的一份报告，去年90%的雇主在招聘过程中使用了某种形式的自动化。这些工具从简单的筛选——比如剔除没有四年制学位或其他要求的候选人——到使用AI评估求职者的技能，甚至进行初步电话面试。
就Eightfold而言，该公司自称是“全球最大、自我更新的人才数据来源”。它不断更新内部数据库，收录通过其平台申请工作的超过十亿工人的简历、LinkedIn个人资料和社交媒体账户信息。利用这些数据，它应用AI以0到5的等级对申请人进行评分，预测他们在特定职位上的表现。该评分随后可以优先安排某些候选人参加面试。
“问题的很大一部分在于，求职者不知道……报告说了什么，”代表基斯特勒的律师雷切尔·邓普西说。
邓普西认为，求职者理应获得与美国人查看信用报告时相同的招聘过程透明度。有了这些信息，他们可以质疑错误，或努力改善影响其候选人资格的因素。但如果没有任何了解，就不可能知道这些算法是否以明显方式歧视候选人，邓普西说。
“黑箱的概念非常可怕，”她说。
在一份给《卫报》的声明中，Eightfold AI否认了这些指控。“我们认为所声称的主张没有依据，并打算积极为自己辩护，”一位发言人在电子邮件中写道。
针对IBM的诉讼，该公司否认使用AI自动筛选候选人，并在声明中表示“不纵容或容忍任何形式的歧视”。Meta未回应对其诉讼的评论请求。
对算法拉黑的恐惧
尽管就业软件供应商声称能解放招聘经理，让他们有更多时间与合格候选人相处，但专家们对此持不同意见。他们认为，AI实际上可能加剧偏见，例如偏向某些人口群体。
“随着我们对AI招聘系统进行更多研究，我们发现它们往往复制了人类经理所具有的许多相同偏见，”阿琼瓦说。
几乎所有AI系统都经过训练来识别模式，这可能会强化刻板印象或长期存在的偏见。例如，亚马逊曾使用一种AI工具，将女性的简历排名较低，因为该公司的顶尖表现者都是男性。亚马逊在发现问题后停止使用该工具。在其他情况下，AI招聘系统可能产生自己的偏见。在她的著作《量化工人》中，阿琼瓦发现AI给带有南方口音的求职者打出低分，因为它在语音面试中难以理解他们。
人类招聘经理也可能不公平——比如选择同一兄弟会的候选人——但“AI的偏见规模甚至更大，”芝加哥大学研究招聘偏见的助理教授白雪纯子说。
白合著了一项近期研究，其中AI模型被要求对虚构人口群体（称为Tufa、Aima、Reku和Weki）的虚构申请人做出招聘决定。经过几轮决策后，AI模型对候选人做出了与资历无关的假设，实际上对他们进行了刻板印象化。如果一位Tufa是位好医生，那么Tufa候选人更可能被选为医生，而Weki候选人更可能被聘为清洁工。
该研究发现，AI中的偏见比白去年考察的人类招聘决策中的偏见更多。它还发现，更新、更先进的模型产生的招聘决策带有更多偏见。
“我们对这一结果感到相当震惊，”白说。AI模型非常擅长解决具有单一正确答案的问题，如数学或编程。“但它们在探索其他选项方面越来越差，”白说。“在招聘中，探索非常重要，但这些模型并未经过训练来做到这一点。”
AI偏见对申请人的影响可能不仅仅局限于一个职位空缺。如果工人被一个人拒绝，他们可以在另一家公司尝试，面对不同的招聘经理。但如果工人被许多公司使用的算法系统拒绝，该系统“会记住已经做出的决定，并为了效率而重复它，”阿琼瓦说。“实际上，你已经被算法拉黑了。”
由于许多公司使用基于相同基础AI模型构建的招聘软件，有人担心负面标记可能会使候选人更难获得任何工作，近期一项关于招聘系统中“算法单一文化”风险研究的合著者凯蒂·克里尔说。“人们将被排除在工作之外，比原本的情况更严重，”她说。
Eightfold AI未对此事发表评论。
AI能在招聘中被负责任地使用吗？
虽然AI工具可以节省时间或帮助测试候选人的技能，但招聘经理不应让AI做决定，Incredible Health的首席执行官伊曼·阿布扎伊德说。Incredible Health是一个被超过1500家医疗保健雇主使用的AI招聘平台。Incredible Health提供AI代理进行电话面试，但根据阿布扎伊德的说法，AI不会自动拒绝、评分、排名或决定谁进入下一轮。
“关键在于从候选人那里收集信息，以便人类更有能力做出决定，”阿布扎伊德说。
阿布扎伊德还指出，Incredible Health约10%的AI面试会由人类进行偏见审计，这一过程在越来越多的城市和州正成为法律要求。
在纽约市，一项于2023年生效的法律要求使用自动化系统进行招聘的雇主进行年度偏见审计，并提前通知候选人该技术的使用。然而，该法律仅适用于“实质性”协助或取代人类决策的软件，为涉及人类参与流程的情况留下了漏洞。伊利诺伊州和科罗拉多州最近的法律也禁止雇主使用导致非法歧视的AI工具。
越来越多的城市和州法规旨在将通知求职者AI使用情况作为基本要求。但理想情况下，候选人应该了解其算法档案对他们的评价，代表Eightfold AI诉讼原告的律师事务所Outten & Golden的合伙人珍妮·杨说。
“这种初步透明度有助于更好地识别问题可能存在的领域，”杨在提到AI使用通知时说。“工人中越来越担心他们可能因无人理解的原因而被剥夺机会。”
**常见问题解答**
以下是一份关于AI岗位替代与自动化招聘工具面临法律挑战交叉点的常见问题列表
**一般问题 大局观**
1. AI真的会抢走我的工作吗？
回答：它不太可能完全消除大多数工作，但肯定会改变它们。AI擅长自动化重复性任务。与其完全取代你，它更可能接管那些特定任务，让你专注于需要人类判断、创造力和情商的工作。把它看作工具而非替代品。
2. 关于AI招聘工具的诉讼真的是关于失业吗？
回答：不是。这些诉讼关乎公平。它们声称用于筛选简历和面试候选人的AI软件对有色人种、女性和年长工人存在偏见。诉讼认为，这些工具是黑箱，做出的决定连雇主自己都不完全理解，这违反了民权法。
3. 在AI招聘背景下，缺乏透明度意味着什么？
回答：这意味着当AI拒绝一位候选人时，无论是申请人还是雇主都无法清楚解释原因。AI使用包含数千个数据点的复杂算法。如果软件给出低分，没有人能指出具体原因，比如“你缺乏5年经验”。这使得几乎不可能证明歧视或修复糟糕的招聘流程。
**入门级问题**
4. 公司现在如何使用AI招聘？
回答：有几种方式：1. 简历筛选——软件扫描你的简历中的关键词，并与其他简历进行排名比较。2. 聊天机器人——它们向你询问初步问题。3. 视频面试——AI分析你的面部表情、语调和用词，以评估你的文化契合度或热情程度。
5. 如果我被机器人拒绝，这是违法的吗？
回答：不自动违法。如果AI基于受保护特征（如种族、性别、年龄或残疾）歧视你，那就是违法的。如果你只是不符合职位要求，那是合法的。诉讼声称AI基于这些受保护特征不公平地惩罚人们，这正是法律纠纷的起点。
