AI가 당신의 일자리를 빼앗을까요? 자동화된 채용 도구들이 차별과 투명성 부족으로 소송에 직면하고 있습니다.

지난 4년 동안 에린 키슬러는 페이팔, 마이크로소프트, 넷플릭스 같은 회사에 수천 개의 일자리를 지원했지만, 그녀의 이력서는 흔적도 없이 사라져 버렸다. 거의 20년의 경력을 가진 제품 관리자로서 키슬러는 모든 직책에 자격이 있었다고 믿지만, 단 한 번의 면접 기회도 얻지 못했다.

이제 키슬러는 그녀가 지원한 회사들을 포함해 수백 개의 고용주가 사용하는 채용 소프트웨어를 만드는 실리콘밸리 회사인 에이트폴드 AI(Eightfold AI)를 상대로 소송을 제기했다. 1월 캘리포니아 법원에 제기된 이 소송은 자동화된 심사가 공개되지 않은 소비자 보고서나 지원자 프로필처럼 작용한다고 주장하는 최초의 사례 중 하나다. 키슬러의 법률팀에 따르면, 이 시스템은 지원자에게 결과를 확인하거나 이의를 제기할 기회를 주지 않은 채 성공 가능성을 기준으로 지원자에게 순위를 매긴다.

이 사건은 기업이 고용 결정에 AI를 사용하는 방식에 대한 새로운 법적 분쟁의 물결의 일부다. 근로자들은 또한 육아 휴직이나 의료 휴가를 사용했다는 이유로 해고 대상으로 삼았다고 주장하는 내부 AI 시스템을 두고 메타를 상대로 소송을 제기하고 있다. 또 다른 최근 소송은 IBM이 나이 든 근로자를 차별하는 AI 도구를 사용했다고 주장한다.

점점 더 많은 미국 기업이 업무 결정을 더 빠르고 효율적으로 내리기 위해 AI를 도입하고 있으며, 종종 이를 객관적인 방법으로 제시한다. 그러나 이런 종류의 소프트웨어를 연구하는 전문가들은 AI가 후보자를 한 회사에서 다른 회사로 따라다닐 수 있는 편향을 도입하거나 악화시킬 수 있다고 말한다. 입법자들도 주목하기 시작했다. 이러한 법적 공방의 결과는 향후 채용 관행, 투명성 수준, 그리고 그 과정에서 후보자가 갖는 권한의 크기를 형성할 수 있다.

"실제로 이러한 AI 채용 시스템의 사용에 대한 고지나 공개를 요구하는 법은 없습니다,"라고 에모리 대학교 로스쿨 교수이자 AI와 미래 일자리 프로그램의 창립 이사인 이페오마 아준와가 말했다. "그래서 회사들은 근로자들이 AI로 평가받고 있을 때 반드시 알려주지는 않습니다."

채용에서 AI 사용은 증가하고 있다. 지난해 고용주의 90%가 채용 과정에서 어떤 형태의 자동화를 사용했다고 세계경제포럼 보고서가 밝혔다. 이러한 도구는 4년제 학위나 다른 요건이 없는 지원자를 제거하는 단순한 필터링부터 AI를 사용해 지원자의 기술을 평가하거나 초기 전화 면접을 진행하는 것까지 다양하다.

에이트폴드의 경우, 회사는 스스로를 "세계에서 가장 크고 자체 갱신되는 인재 데이터 소스"라고 설명한다. 이 회사는 플랫폼을 통해 일자리를 지원한 10억 명 이상의 근로자의 이력서, 링크드인 프로필, 소셜 미디어 계정에서 얻은 정보로 내부 데이터베이스를 지속적으로 업데이트한다. 이 데이터를 사용하여 AI를 적용해 지원자를 0에서 5까지의 척도로 평가하고, 주어진 직무에서 얼마나 잘 수행할지 예측한다. 그 점수는 면접을 위해 일부 지원자를 다른 지원자보다 우선시할 수 있다.

"문제의 큰 부분은 지원자들이 그 보고서가 무엇을 말하는지 모른다는 것입니다,"라고 키슬러를 대리하는 변호사 레이첼 뎀프시가 말했다.

뎀프시는 구직자들이 미국인들이 신용 보고서에서 이미 받고 있는 것과 같은 채용 과정에 대한 투명성을 받을 자격이 있다고 주장한다. 그 정보가 있으면 실수를 이의제기하거나 입후보에 영향을 미치는 요소를 개선하기 위해 노력할 수 있다. 그러나 어떤 통찰력도 없이는 이러한 알고리즘이 명백한 방식으로 지원자를 차별하는지 알 수 없다고 뎀프시는 말했다.

"블랙박스라는 개념은 매우 무섭습니다,"라고 그녀는 말한다.

가디언에 보낸 성명에서 에이트폴드 AI는 혐의를 부인했다. "우리는 제기된 주장에 근거가 없다고 믿으며 강력히 방어할 것입니다,"라고 대변인이 이메일로 썼다.

IBM에 대한 소송에 대응하여 회사는 AI를 사용해 지원자를 자동으로 걸러내지 않는다고 부인하고 성명에서 "어떤 형태의 차별도 용인하거나 묵인하지 않는다"고 말했다. 메타는 소송에 대한 논평 요청에 응답하지 않았다.

알고리즘 블랙리스트에 대한 두려움

고용 소프트웨어 제공업체들이 자격을 갖춘 지원자와 더 많은 시간을 보낼 수 있도록 채용 관리자를 자유롭게 해준다고 주장하지만, AI가 채용에서 인간의 편향을 제거할 잠재력이 있는 반면 전문가들은 동의하지 않는다. 그들은 AI가 특정 인구 통계 집단을 선호하는 것과 같은 편향을 실제로 악화시킬 수 있다고 주장한다.

"AI 채용 시스템에 대한 연구를 더 많이 할수록, 그것들이 인간 관리자가 가진 많은 동일한 편향을 재현하는 경향이 있다는 것을 발견했습니다,"라고 아준와가 말했다.

거의 모든 AI 시스템은 패턴을 식별하도록 훈련되어 있으며, 이는 고정관념이나 오랜 편향을 강화할 수 있다. 예를 들어, 아마존은 한때 회사의 최고 성과자들이 남성이었기 때문에 여성의 이력서를 더 낮게 평가하는 AI 도구를 사용했다. 아마존은 문제를 발견한 후 사용을 중단했다. 다른 경우에는 AI 채용 시스템이 자체적인 편향을 만들 수 있다. 그녀의 저서 <강조 시작>정량화된 근로자<강조 끝>에서 아준와는 AI가 음성 면접 중 남부 억양을 이해하는 데 어려움을 겪어 남부 억양을 가진 지원자에게 낮은 점수를 주었다는 것을 발견했다.

인간 채용 관리자도 불공정할 수 있지만—같은 프래터니티에 있던 후보를 선택하는 것처럼—"편향의 규모는 AI에서 훨씬 더 강합니다,"라고 채용 편향을 연구한 시카고 대학교 조교수 바이 쉐춘지가 말했다.

바이는 최근 연구를 공동 저술했는데, 그 연구에서 AI 모델은 투파, 아이마, 레쿠, 웨키라는 가상의 인구 통계 집단에서 온 가상의 지원자에 대한 채용 결정을 내리도록 요청받았다. 여러 차례의 결정 후에 AI 모델은 지원자의 자격과 전혀 관련 없는 가정을 했으며, 사실상 그들을 고정관념화했다. 한 투파가 좋은 의사였다면 투파 지원자가 의사로 선택될 가능성이 더 높았고, 웨키 지원자는 청소부로 고용될 가능성이 더 높았다.

이 연구는 바이가 작년에 조사한 인간의 채용 결정보다 AI에서 더 많은 편향을 발견했다. 또한 더 새롭고 더 고급스러운 모델이 더 많은 편향을 가진 채용 결정을 생산한다는 것도 발견했다.

"우리는 이 결과를 보고 꽤 충격을 받았습니다,"라고 바이가 말했다. AI 모델은 수학이나 코딩과 같은 단일 정답이 있는 문제를 해결하는 데 매우 능숙하다. "하지만 다른 옵션을 탐색하는 데는 점점 더 나빠지고 있습니다,"라고 바이가 말했다. "채용에서 탐색은 매우 중요하지만, 이러한 모델은 그렇게 훈련되지 않았습니다."

지원자에 대한 AI 편향의 영향은 단 하나의 일자리 공고를 넘어설 수 있다. 근로자가 사람에게 거부당하면 다른 채용 관리자가 있는 다른 회사에서 다시 시도할 수 있다. 그러나 많은 회사에서 사용되는 알고리즘 시스템에 의해 근로자가 거부당하면 시스템은 "효율성을 위해 이미 내려진 결정을 기억하고 반복합니다,"라고 아준와가 말했다. "실제로 당신은 알고리즘적으로 블랙볼 처리된 것입니다."

많은 회사가 동일한 기반 AI 모델 위에 구축된 채용 소프트웨어를 사용하기 때문에 부정적인 표시가 후보자가 어떤 일자리를 얻는 것을 훨씬 더 어렵게 만들 수 있다는 우려가 있다고 채용 시스템의 "알고리즘 단일 문화" 위험에 대한 최근 연구의 공동 저자인 케이티 크릴이 말했다. "사람들은 그렇지 않았을 때보다 더 많은 일자리에서 배제될 것입니다,"라고 그녀는 말했다.

에이트폴드 AI는 이 문제에 대해 논평하지 않았다.

AI가 채용에서 책임감 있게 사용될 수 있을까?

AI 도구가 시간을 절약하거나 지원자의 기술을 테스트하는 데 도움이 될 수 있지만, 채용 관리자는 AI가 결정을 내리도록 해서는 안 된다고 1,500개 이상의 의료 고용주가 사용하는 AI 채용 플랫폼 인크레더블 헬스의 CEO 이만 아부자이드가 말했다. 인크레더블 헬스는 전화 면접을 진행하는 AI 에이전트를 제공하지만, AI는 자동으로 거부하거나 점수를 매기거나 순위를 정하거나 다음 단계로 진행할 사람을 결정하지 않는다고 아부자이드는 말했다.

"그것은 인간이 결정을 내리는 데 더 잘 준비되도록 후보자로부터 정보를 수집하는 것입니다,"라고 아부자이드가 말했다.

아부자이드는 또한 인크레더블 헬스의 AI 면접 중 약 10%가 인간에 의해 편향 감사를 받으며, 이 과정은 점점 더 많은 도시와 주에서 법적 요구 사항이 되고 있다고 언급했다.

뉴욕시에서는 2023년에 발효된 법이 채용에 자동화 시스템을 사용하는 고용주에게 연례 편향 감사를 실시하고 기술 사용에 대해 사전에 지원자에게 통지하도록 요구한다. 그러나 이 법은 인간의 의사 결정을 "실질적으로" 보조하거나 대체하는 소프트웨어에만 적용되므로, 인간이 과정에 관여하는 경우에 대한 허점이 생긴다. 일리노이와 콜로라도의 최근 법률도 불법 차별로 이어지는 AI 도구를 사용하는 것을 고용주에게 금지한다.

점점 더 많은 도시와 주 규정이 AI가 사용될 때 구직자에게 통지하는 것을 기본 요구 사항으로 만드는 것을 목표로 하고 있다. 그러나 이상적으로는 후보자가 자신의 알고리즘 프로필이 그들에 대해 무엇을 말하는지 통찰력을 가져야 한다고 에이트폴드 AI에 대한 소송의 원고를 대리하는 로펌 아우텐 & 골든의 파트너 제니 양이 말했다.

"이러한 초기 투명성은 문제가 존재할 수 있는 곳을 더 잘 식별하는 데 도움이 됩니다,"라고 AI 사용 통지를 언급하며 양이 말했다. "근로자들 사이에서 아무도 이해하지 못하는 이유로 기회를 거부당할 수 있다는 우려가 커지고 있습니다."

<강조 시작>자주 묻는 질문
다음은 AI 일자리 대체와 자동화된 채용 도구가 직면한 법적 과제의 교차점을 다루는 FAQ 목록입니다.

일반 질문 — 큰 그림

1. AI가 실제로 내 일자리를 빼앗을까요?
답변: 대부분의 일자리를 완전히 없앨 가능성은 낮지만, 확실히 일자리를 변화시킬 것입니다. AI는 반복적인 작업을 자동화하는 데 뛰어납니다. 당신을 완전히 대체하는 대신, 특정 작업을 대신 수행하여 인간의 판단, 창의성, 감성 지능이 필요한 업무에 집중할 수 있게 해줄 것입니다. 그것을 대체재가 아닌 도구로 생각하세요.

2. AI 채용 도구에 관한 소송이 실제로 일자리 상실에 관한 것인가요?
답변: 아닙니다. 소송은 공정성에 관한 것입니다. 이력서와 면접을 심사하는 데 사용되는 AI 소프트웨어가 유색인종, 여성, 나이 든 근로자에 대해 편향되어 있다고 주장합니다. 소송은 이러한 도구가 고용주조차 완전히 이해하지 못하는 결정을 내리는 블랙박스이며, 이는 시민권 법을 위반한다고 주장합니다.

3. AI 채용 맥락에서 투명성 부족은 무엇을 의미하나요?
답변: AI가 지원자를 거부할 때 지원자나 고용주 모두 그 이유를 명확하게 설명할 수 없다는 것을 의미합니다. AI는 수천 개의 데이터 포인트를 가진 복잡한 알고리즘을 사용합니다. 소프트웨어가 낮은 점수를 주면 아무도 "5년 경력이 부족하다"와 같은 특정 이유를 지적할 수 없습니다. 이는 차별을 증명하거나 잘못된 채용 과정을 고치는 것을 거의 불가능하게 만듭니다.

초급 수준 질문

4. 기업들은 지금 어떻게 AI를 사용해 채용하고 있나요?
답변: 몇 가지 방식이 있습니다: 1) 이력서 심사 — 소프트웨어가 이력서를 스캔하여 키워드를 찾고 다른 이력서와 비교해 순위를 매깁니다. 2) 챗봇 — 예비 질문을 합니다. 3) 화상 면접 — AI가 표정, 목소리 톤, 단어 선택을 분석하여 문화적 적합성이나 열정을 점수화합니다.

5. 로봇에게 거부당하면 불법인가요?
답변: 자동으로 불법은 아닙니다. AI가 인종, 성별, 나이, 장애와 같은 보호된 특성을 기준으로 차별하는 경우 불법입니다. 단순히 일자리에 자격이 없는 경우는 합법입니다. 소송은 AI가 이러한 보호된 특성을 기준으로 지원자를 부당하게 불이익을 주고 있다고 주장하며, 이것이 법적 문제가 시작되는 지점입니다.