"적대적 의복": 얼굴 인식 시스템을 속이기 위해 디자인된 옷이 곧 보편화될까?

영국 공공장소에서 얼굴 인식 기술이 보편화됨에 따라, 일부 디자이너들은 프라이버시가 차세대 패션 트렌드가 될 수 있다고 믿고 있습니다.

일부 기업들은 이제 의류에 '적대적 패턴'을 추가하고 있습니다. 이는 특정 컴퓨터 비전 시스템의 약점을 이용한다고 알려진, 신중하게 디자인된 모양, 색상, 반복 문양의 조합입니다.

이 디자이너들은 컴퓨팅 기술의 발전으로 상업적으로 판매 가능한 의류에 이러한 패턴을 포함시키는 것이 더 쉬워졌다고 말합니다. 전문가들은 이러한 패턴이 얼마나 효과적인지는 감시 시스템과 사용 환경에 달려 있다고 경고합니다. 그럼에도 불구하고, 의류 브랜드 Vollebak의 공동 창립자 닉 티드볼은 '적대적 의류'가 곧 주류가 될 수 있다고 생각합니다.

"반감시 정서가 너무나 보편화되어 있어, 이미 반문화 패션에서 인기 있는 이 옷을 유명 인사 한 명이 중요한 행사에 입고 나오기만 하면 정말로 대중화될 수 있습니다."라고 그는 말했습니다.

전체 화면으로 보기
Cap_able의 디자인을 입은 모델들. 이 브랜드는 AI 인식을 더 어렵게 만든다고 마케팅합니다. 사진: PR

"소위 '적대적 의류'는 여러 측면에서 효과가 있습니다. 실용적인 보호 기능을 제공할 뿐만 아니라, 패셔너블하고 재미있습니다. 많은 사람들이 동의하는 강력하고 공개적인 메시지를 전달하고, 프라이버시의 중요성에 대한 인식을 확산시키며, 공개 토론을 장려하는 데 도움을 줍니다."

전통적인 CCTV와 달리, 현대 컴퓨터 비전 시스템은 얼굴을 식별하고, 여러 카메라에서 개인을 추적하며, 대규모로 영상 자료를 검색할 수 있습니다.

최근 생성형 AI의 발전으로 이러한 자동 식별이 더 저렴해져 경찰, 소매업체, 민간 기업이 더 널리 사용할 수 있게 되었습니다. 영국의 생체정보 감시 기관들은 이러한 확장에 대해 경고하고, 오용을 방지하기 위한 더 많은 법률과 규제 기관을 요구해 왔습니다.

오용의 증거와 흑인 및 아시아인이 백인보다 잘못 식별될 가능성이 더 높다는 사실은 대중의 우려를 증가시켰습니다. 최근 여론조사에 따르면 거의 60%의 사람들이 얼굴 인식이 "영국을 감시 사회로 만드는 또 다른 단계"라고 믿고 있습니다.

노팅엄 예술 디자인 학교에서 창의적 AI, 패션, 디지털 문화를 전문으로 하는 선임 강사인 제니퍼 벨 박사는 얼굴 인식 방지 디자인의 의류가 합리적인 가격으로 더 많이 판매되고 있으며 다양한 사람들을 대상으로 마케팅되고 있다고 말했습니다. "그러한 인식 증가와 낮은 비용이 결합되면, 종종 진정한 문화적 전환점 직전에 나타납니다."라고 그녀는 말했습니다.

어반 프라이버시 의류 브랜드의 공동 창립자 다니엘 프로이스는 새로운 기술을 통해 이제 "스마트하고 세련된 스타일과 보이지 않는 보호 기능을 결합할 수 있다"고 말했습니다.

전체 화면으로 보기
어반 프라이버시 티셔츠를 입은 모델들. 사진: 어반 프라이버시

그는 감시 시스템이 매우 강력하기 때문에 어떤 디자인도 탐지되지 않음을 보장할 수 없다고 강조했습니다. 하지만 그는 "패션의 부가 가치는 인식을 확산시키고 공개 토론을 촉진하는 데 있다"고 덧붙였습니다.

프로이스는 자신의 디자인이 대형 프린트, 비대칭 재단, 스트리트웨어에서 영감을 받은 실루엣을 사용하여 얼굴 인식 알고리즘을 혼란시킨다고 말했습니다. 이 회사는 어반 고스트 코트에 후드에 내장된 LED가 있어 적외선을 방출하여 야간 투시 감시 카메라를 교란시킨다고 밝혔습니다.

가디언지에서 에드워드 스노든의 미국 감시에 대한 폭로를 읽고 회사를 공동 창립한 프로이스는 자신의 디자인이 "얼굴 인식 시스템이 한 번에 여러 얼굴을 보면 혼란스러워한다"는 사실을 이용한다고 말했습니다.

"우리의 패턴은 그 혼란을 이용해 알고리즘을 혼란시키고, 당신을 특정하기 훨씬 더 어렵게 만듭니다."라고 그는 말했습니다.

그러나 벨은 "이러한 제품 중 어느 것도 시험 및 검증되지 않았으며, 이러한 감시 기술 중 상당수는 약간의 저항을 처리할 수 있습니다... [하지만] 디자인이 완벽하게 작동하지 않더라도, 패션은 저항의 가시적인 표시입니다."라고 지적했습니다. 소비자들이 모여 가시적인 성명을 내고 있습니다.

Cap_able이 만든 상의. 사진: PR

AI 인식을 더 어렵게 만드는 의류를 만드는 브랜드 Cap_able의 창립자 라켈 디데로는 최근 몇 년간 자신의 회사에 대한 관심이 급증했다고 말했습니다. "2018년에 이 일을 시작했을 때, 사람들은 제가 은행 강도용 마스크를 디자인한다고 생각했습니다."라고 그녀는 말했습니다.

"하지만 이제 이러한 우려는 더 이상 틈새 시장이 아닙니다. 젊은 세대는 점점 더 AI를 두려워하고 자신의 프라이버시에 대해 걱정하고 있습니다."라고 그녀는 덧붙였습니다. "이러한 제품을 착용하는 사람들은 선구자입니다. 특히 대기업들이 수익 잠재력을 보고 이 트렌드를 대중적인 공공 공간으로 밀어내면서, 우리의 옷차림 방식을 대규모로 변화시키면서 주류가 빠르게 따라잡고 있습니다."

그러나 티드볼은 반감시 패션이 주류가 되는지 여부는 궁극적으로 디자이너보다는 정부에 달려 있을 수 있다고 지적했습니다. "이 옷이 정말 효과적임이 입증된다면, 매우 빠르게 정치화될 수 있습니다."라고 그는 말했습니다. "그러면 이런 종류의 옷은 결국 금지될 수도 있습니다."



자주 묻는 질문
다음은 적대적 의류에 대한 FAQ 목록으로, 자연스러운 어조와 명확하고 간결한 답변으로 작성되었습니다.



초급 수준 질문



1 적대적 의류란 정확히 무엇인가요?

특별하고 종종 이상해 보이는 패턴이 인쇄된 의류입니다. 이 패턴은 AI 얼굴 인식 시스템을 혼란스럽게 하여, 카메라가 착용자를 보지 못하거나 잘못 식별하도록 설계되었습니다.



2 어떻게 카메라를 속이나요?

얼굴 인식 시스템은 특정 특징을 찾습니다. 적대적 패턴은 AI가 잘못 해석하는 미세하고 계산된 왜곡을 추가합니다. AI에게 그 패턴은 다른 사람, 동물, 또는 그냥 노이즈 덩어리(인간의 얼굴이 아닌)처럼 보일 수 있습니다.



3 이건 실제로 존재하나요, 아니면 영화에서나 나오는 건가요?

실제로 존재하지만, 아직 대부분 연구실과 개념 증명 데모 단계에 있습니다. 아직 쇼핑몰에서 믿을 수 있는 투명 후드를 쉽게 살 수는 없습니다. 연구자들은 통제된 테스트에서 시스템을 성공적으로 속였지만, 실제 환경에서의 사용은 훨씬 더 어렵습니다.



4 이런 옷이 곧 보편화될까요?

일상적인 사용으로는 아마 아닐 것입니다. 패턴은 매우 취약합니다. 특정 각도, 특정 조명, 특정 사람에게서 가장 잘 작동합니다. 자세가 약간 바뀌거나 다른 카메라 모델을 사용하면 속임수가 깨질 수 있습니다.



5 왜 누군가 이런 옷을 입고 싶어 할까요?

프라이버시 활동가와 대규모 감시에 우려가 있는 사람들은 공공 카메라에 추적되는 것을 피하고 싶어할 수 있습니다. 다른 사람들은 예술적 표현이나 얼굴 인식 기술에 항의하기 위해 사용할 수도 있습니다.



중급 및 고급 질문



6 패턴은 어떻게 디자인되나요?

'적대적 머신 러닝'이라는 과정입니다. 연구자들은 얼굴 인식 AI에 수천 장의 이미지를 입력한 다음, 컴퓨터를 사용하여 해당 AI의 알고리즘을 최대한 혼란스럽게 하는 패턴을 진화시킵니다. 이 패턴은 본질적으로 특정 AI 모델에 최적화된 디지털 속임수입니다.



7 모든 얼굴 인식 시스템에 효과가 있나요?

아니요. 한 AI를 속이도록 설계된 패턴이 다른 AI에는 통하지 않을 수 있습니다. 마치 하나의 자물쇠에만 맞는 열쇠와 같습니다. 더 보편적인 고급 패턴이 연구되고 있지만 아직 신뢰할 수 없습니다.

```