런던 경찰청은 팔란티어의 인공지능 도구를 활용해 경찰관의 잠재적 비행을 식별하고 있습니다.

가디언은 런던 경찰청(스코틀랜드 야드)이 문제가 될 수 있는 직원을 식별하기 위해 미국 기업 팔란티어의 인공지능 도구를 활용해 경찰관의 행동을 모니터링하고 있다는 사실을 확인했습니다. 런던 경찰청은 이스라엘 군대와 도널드 트럼프 전 대통령의 이민세관단속국(ICE) 작전에도 협력하는 팔란티어의 기술 사용 여부에 대해 그동안 확인이나 부인을 거부해왔습니다. 이제 경찰청은 팔란티어의 AI를 사용해 병가, 결근, 초과근무 패턴 등 내부 데이터를 분석하여 전문적 기준에서의 잠재적 결함을 발견하고 있음을 인정했습니다.

일반 경찰관을 대표하는 경찰연맹은 이 접근법을 "자동화된 의심"이라 비판했습니다. 연맹은 경찰관들이 과중한 업무량, 질병, 초과근무를 비행의 징후로 오해할 수 있는 불투명하거나 검증되지 않은 도구의 대상이 되어서는 안 된다고 경고했습니다.

4만6천 명의 경찰관과 직원을 보유한 런던 경찰청은 영국 최대의 경찰 조직으로, 웨인 쿠젠스의 사라 에버라드 살인 사건으로 부각된 인적 검증 실패를 비롯해 차별적이고 여성혐오적인 행동에 대한 묵인 등 수많은 논란에 직면해왔습니다.

경찰청은 높은 수준의 병가, 증가된 결근, 비정상적으로 높은 초과근무가 기준, 문화, 행동의 결함과 연관성이 있다는 증거가 있다고 밝혔습니다. 팔란티어 기술의 제한된 시범 운영은 기준과 문화를 개선하기 위한 광범위한 노력의 일환으로, 기존 내부 데이터베이스의 정보를 결합해 그러한 패턴을 식별하는 데 도움을 주는 것을 목표로 합니다. 경찰청은 팔란티어 시스템이 패턴 발견을 지원하지만, 추가 조사와 기준이나 성과에 대한 판단은 경찰관들이 내린다고 강조했습니다.

경찰연맹 대변인은 알고리즘으로 경찰관을 프로파일링하는 시스템은 극도의 주의를 기해 다뤄야 하며, 경찰 활동이 이미 강도 높은 검증 하에 운영되고 있다고 지적했습니다. 그들은 의심의 자동화보다는 적절한 감독, 공정한 절차, 인간의 판단에 초점을 맞춰야 한다고 주장했습니다.

팔란티어는 또한 제프리 엡스타인과의 연관성으로 해임되기 전, 키어 스타머의 미국 대사로 활동한 피터 만델슨 전 장관의 과거 역할을 둘러싼 논란에도 휘말렸습니다. 만델슨이 공동 소유한 로비 회사 글로벌 카운슬은 팔란티어를 위해 일하며, 팔란티어는 트럼프 지지자인 억만장자 피터 틸이 공동 설립했습니다. 만델슨과 스타머는 지난해 만델슨의 임명 직후 팔란티어의 워싱턴 쇼룸을 방문해 CEO인 알렉스 카프를 만났습니다.

의원들은 팔란티어의 영국 공공 부문 계약에 대한 더 큰 투명성을 요구해왔습니다. 여기에는 2023년 11월 NHS와 체결한 데이터 플랫폼 구축을 위한 3억 3천만 파운드 계약과 2025년 12월 체결된 국방부와의 2억 4천만 파운드 계약이 포함됩니다.

런던 경찰청의 시범 운영에 대해, 하원 과학위원회 위원인 자유민주당 마틴 리글리 의원은 직장 내 감시가 오랫동안 논란이 되어왔다며 경찰관의 근로자로서의 권리에 대한 우려를 표명했습니다. 그는 정부 내 팔란티어의 역할이 확대되고 있는 점을 고려해 누가 팔란티어를 감독하는지 질문했습니다.

팔란티어의 AI는 이미 여러 다른 경찰 조직에서 지역 부대를 통해 수사를 지원하는 데 사용되고 있습니다. 지난달 노동당의 경찰 백서는 AI의 책임 있는 신속한 대규모 도입을 지원하겠다고 약속하며, 3년간 1억 1,500만 파운드 이상을 투자해 잉글랜드와 웨일스의 모든 43개 경찰 조직에 AI 도구를 개발 및 확산할 계획을 밝혔습니다.

팔란티어 대변인은 논평을 거부했습니다. "저희 소프트웨어가 영국 전역의 공공 서비스 개선에 기여하게 되어 자랑스럽습니다. 여기에는 경찰 활동 강화, NHS의 더 많은 수술 수행 지원, 왕립 해군 함정의 해상 체류 시간 연장 등이 포함됩니다."

자주 묻는 질문
런던 경찰청 팔란티어 AI 경찰관 비행 식별

초급 수준 질문

1. 이 기사의 주요 내용은 무엇인가요?
런던 경찰청이 데이터 분석 기업 팔란티어가 개발한 인공지능 소프트웨어를 사용해 내부 데이터를 분석하고, 경찰관의 잠재적 비행을 나타낼 수 있는 패턴을 표시하고 있습니다.

2. 팔란티어는 무엇인가요?
팔란티어는 빅데이터 분석을 전문으로 하는 미국 기반 기술 기업입니다. 이 회사의 소프트웨어는 방대하고 복잡한 데이터 세트 내에서 패턴, 연관성, 통찰력을 찾도록 설계되었습니다.

3. 런던 경찰청은 왜 이를 위해 AI를 사용하나요?
목표는 별도의 기록에서는 눈에 띄지 않을 수 있는, 반복적인 불만, 고위험 개인과의 연관성, 정책 위반과 같은 우려되는 행동을 사전에 식별하는 것입니다. 이는 경찰관에게 책임을 물어 대중의 신뢰를 회복하려는 노력의 일환입니다.

4. AI는 어떤 종류의 데이터를 살펴보나요?
이 시스템은 불만 기록, 무력 사용 사건, 출석, 재정 공개 및 기타 내부 보고서를 포함할 수 있는 다양한 내부 데이터 소스를 분석합니다.

5. 이 AI가 경찰관에 대한 결정을 내리나요?
아니요. AI는 표시 및 분석을 위한 도구입니다. 이는 잠재적 위험 또는 패턴을 강조하여 인간 검토자가 추가 조사할 수 있도록 합니다. 인간이 모든 징계 조치에 대한 최종 결정을 내립니다.

고급/우려 기반 질문

6. 이 시스템 사용의 주요 이점은 무엇인가요?
사전 탐지: 시간이 지남에 따라 발전하는 비행의 미묘한 패턴을 발견할 수 있으며, 이는 수동 검토에서는 놓칠 수 있습니다.
효율성: 인간만으로는 분석하기 어려운 방대한 양의 데이터를 훨씬 빠르게 분석하여 사건의 우선순위를 정하는 데 도움을 줍니다.
일관성: 전체 조직에 동일한 분석 기준을 적용하여 초기 표시 과정에서의 주관적 편향을 줄입니다.
억제력: 이러한 모니터링이 존재한다는 사실 자체가 일부 비행을 억제할 수 있습니다.

7. 가장 큰 우려사항이나 위험은 무엇인가요?
쓰레기 들어가면 쓰레기 나옴: 기초 데이터가 편향되거나 부정확하면 AI의 표시도 그럴 수 있어, 경찰관을 부당하게 대상으로 삼을 가능성이 있습니다.
프라이버시 및 감시: 경찰관에 대한 데이터 수집의 범위와 침투적인 직장 감시 환경 조성에 대한 우려가 있습니다.