AI会抢走你的工作吗?自动化招聘工具正因歧视和缺乏透明度而面临诉讼。
过去四年来,艾琳·基斯特勒向PayPal、微软和Netflix等公司投递了数千份求职申请,但她的简历总是石沉大海,毫无回音。作为一名拥有近20年经验的产品经理,基斯特勒相信自己完全胜任每一个职位,然而她从未获得过一次面试机会。 如今,基斯特勒正在起诉Eightfold AI——一家硅谷公司,其招聘软件被数百家雇主使用,包括她曾申请的那些公司。这起于一月份在加州法院提起的诉讼,是首批主张自动化筛选相当于未披露的消费者报告或申请人档案的案件之一。据基斯特勒的法律团队称,该系统对求职者的成功几率进行排名,却不给他们查看或质疑结果的机会。 此案是围绕企业在雇佣决策中使用人工智能所引发的一系列新法律纠纷的一部分。员工们还在起诉Meta,称其内部AI系统因他们休过育儿假或病假而将他们列为裁员目标。另一起最近的诉讼声称IBM使用了歧视年长员工的AI工具。 越来越多的美国公司正在转向AI,以更快、更高效地做出职场决策,并常常将其标榜为客观公正的方式。但研究这类软件的专家表示,它也可能引入或加剧偏见,这种偏见可能会随着候选人从一家公司带到另一家公司。立法者开始关注这一问题。这些法律纠纷的结果可能会塑造未来的招聘实践、其透明度,以及候选人在这一过程中拥有的权力。 “实际上,没有任何法律要求对使用这些AI招聘系统进行通知或披露,”埃默里大学法学院教授、AI与未来工作项目创始主任伊费奥玛·阿琼瓦说。“所以公司不一定会在员工被AI评估时告知他们。” AI在招聘中的使用正在增长。根据世界经济论坛的一份报告,去年90%的雇主在招聘过程中使用了某种形式的自动化。这些工具从简单的筛选——比如剔除没有四年制学位或其他要求的候选人——到使用AI评估求职者的技能,甚至进行初步电话面试。 就Eightfold而言,该公司自称是“全球最大、自我更新的人才数据来源”。它不断更新内部数据库,收录通过其平台申请工作的超过十亿工人的简历、LinkedIn个人资料和社交媒体账户信息。利用这些数据,它应用AI以0到5的等级对申请人进行评分,预测他们在特定职位上的表现。该评分随后可以优先安排某些候选人参加面试。 “问题的很大一部分在于,求职者不知道……报告说了什么,”代表基斯特勒的律师雷切尔·邓普西说。 邓普西认为,求职者理应获得与美国人查看信用报告时相同的招聘过程透明度。有了这些信息,他们可以质疑错误,或努力改善影响其候选人资格的因素。但如果没有任何了解,就不可能知道这些算法是否以明显方式歧视候选人,邓普西说。 “黑箱的概念非常可怕,”她说。 在一份给《卫报》的声明中,Eightfold AI否认了这些指控。“我们认为所声称的主张没有依据,并打算积极为自己辩护,”一位发言人在电子邮件中写道。 针对IBM的诉讼,该公司否认使用AI自动筛选候选人,并在声明中表示“不纵容或容忍任何形式的歧视”。Meta未回应对其诉讼的评论请求。 对算法拉黑的恐惧 尽管就业软件供应商声称能解放招聘经理,让他们有更多时间与合格候选人相处,但专家们对此持不同意见。他们认为,AI实际上可能加剧偏见,例如偏向某些人口群体。 “随着我们对AI招聘系统进行更多研究,我们发现它们往往复制了人类经理所具有的许多相同偏见,”阿琼瓦说。 几乎所有AI系统都经过训练来识别模式,这可能会强化刻板印象或长期存在的偏见。例如,亚马逊曾使用一种AI工具,将女性的简历排名较低,因为该公司的顶尖表现者都是男性。亚马逊在发现问题后停止使用该工具。在其他情况下,AI招聘系统可能产生自己的偏见。在她的著作《量化工人》中,阿琼瓦发现AI给带有南方口音的求职者打出低分,因为它在语音面试中难以理解他们。 人类招聘经理也可能不公平——比如选择同一兄弟会的候选人——但“AI的偏见规模甚至更大,”芝加哥大学研究招聘偏见的助理教授白雪纯子说。 白合著了一项近期研究,其中AI模型被要求对虚构人口群体(称为Tufa、Aima、Reku和Weki)的虚构申请人做出招聘决定。经过几轮决策后,AI模型对候选人做出了与资历无关的假设,实际上对他们进行了刻板印象化。如果一位Tufa是位好医生,那么Tufa候选人更可能被选为医生,而Weki候选人更可能被聘为清洁工。 该研究发现,AI中的偏见比白去年考察的人类招聘决策中的偏见更多。它还发现,更新、更先进的模型产生的招聘决策带有更多偏见。 “我们对这一结果感到相当震惊,”白说。AI模型非常擅长解决具有单一正确答案的问题,如数学或编程。“但它们在探索其他选项方面越来越差,”白说。“在招聘中,探索非常重要,但这些模型并未经过训练来做到这一点。” AI偏见对申请人的影响可能不仅仅局限于一个职位空缺。如果工人被一个人拒绝,他们可以在另一家公司尝试,面对不同的招聘经理。但如果工人被许多公司使用的算法系统拒绝,该系统“会记住已经做出的决定,并为了效率而重复它,”阿琼瓦说。“实际上,你已经被算法拉黑了。” 由于许多公司使用基于相同基础AI模型构建的招聘软件,有人担心负面标记可能会使候选人更难获得任何工作,近期一项关于招聘系统中“算法单一文化”风险研究的合著者凯蒂·克里尔说。“人们将被排除在工作之外,比原本的情况更严重,”她说。 Eightfold AI未对此事发表评论。 AI能在招聘中被负责任地使用吗? 虽然AI工具可以节省时间或帮助测试候选人的技能,但招聘经理不应让AI做决定,Incredible Health的首席执行官伊曼·阿布扎伊德说。Incredible Health是一个被超过1500家医疗保健雇主使用的AI招聘平台。Incredible...