스페인, AI 생성 아동 학대 콘텐츠로 소셜미디어 플랫폼 조사 예정

스페인 정부가 소셜미디어 기업 엑스(X), 메타, 틱톡을 상대로 이들의 인공지능(AI)이 아동 성착취물을 생성 및 유포하는 데 관여한 혐의로 수사를 의뢰할 예정이다.

페드로 산체스 총리는 이번 결정이 "우리 자녀들의 정신 건강, 존엄성, 권리를 보호"하고 주요 소셜미디어 플랫폼의 "무책임한 관행"을 종식시키기 위한 것이라고 밝혔다. 이 조치는 딥페이크나 조작된 이미지를 통해 성적 콘텐츠와 아동 성착취물을 제작 및 유포하는 관행의 형사 책임 가능성을 분석한 전문가 보고서에 근거한다. 해당 보고서는 소셜미디어 기업들이 이러한 자료의 빠르고 광범위하며 불투명한 유통을 가능하게 함으로써 탐지를 어렵게 하고, 해당 자료를 제작·공유·수익화하는 네트워크를 용이하게 할 수 있다고 경고했다.

각료회의는 화요일 이 조치를 승인했으며, 정부는 16세 미만 소셜미디어 이용 금지와 유해 콘텐츠에 대한 기술 기업의 책임을 묻는 법안을 포함한 대책을 마련 중이다. 이는 지난달 유럽집행위원회가 엑스의 AI 챗봇 '그록(Grok)'이 생성한 노골적 성적 이미지와 가능성 있는 아동 성착취물을 조사하기 시작한 지 불과 한 달도 안 되어 나온 후속 조치다.

화요일에는 아일랜드 데이터보호위원회(DPC)가 그록의 생성형 AI 기능에 초점을 맞춘 "대규모" 조사를 발표했다. 그레이엄 도일 부위원장은 DPC가 사용자가 그록을 통해 아동을 포함한 실존 인물의 성적 이미지 생성을 유도할 수 있는지, 그리고 엑스가 EU/EEA 시민의 개인 데이터에 관한 GDPR 의무를 준수했는지 조사 중이라고 밝혔다.

스페인 정부 대변인 엘마 사이즈는 마드리드가 알고리즘에 의해 아동에 대한 디지털 성폭력이 "확대되거나 보호되는 것"을 허용하지 않을 것이며, 아동의 안전, 프라이버시, 자유를 강조했다. 각료회의는 법무부 장관에게 공식적으로 수사를 요청하고, 해당되는 경우 위반 기업을 기소할 예정이다.

메타는 제안된 수사에 대한 자세한 정보 없이는 논평할 수 없다고 밝혔지만, 실제이든 AI 생성이든 아동 성착취와 동의 없는 친밀한 이미지에 대한 강력한 반대 입장과 해당 콘텐츠 삭제 정책을 강조했다. 엑스와 틱톡에도 논평을 요청했다.

산체스 총리가 소셜미디어 기업의 책임을 묻고 그가 "디지털 무법지대"라고 부르는 것으로부터 아동을 보호하려는 노력은 일부 주요 기술 기업 소유자들의 강한 반응을 불러일으켰다. 이달 초 그는 소셜미디어가 "법이 무시되고 범죄가 용인되는 실패 국가"가 되었기 때문에 긴급 조치가 필요하다고 주장했다.

그는 또한 엘론 머스크가 50만 명의 무증명 노동자와 망명 신청자 정규화에 관한 정부 결정에 대해 "허위 정보를 확산"하는 데 엑스를 사용했다고 비판하며, 머스크 자신이 이민자임을 지적했다. 머스크는 이에 대해 산체스를 "폭군이자 스페인 국민을 배신한 자", "진정한 파시스트 전체주의자"라고 불렀다.

스페인 정부의 계획은 러시아 기술 기업가이자 텔레그램 공동 창립자인 파벨 두로프의 비판도 받았다. 그는 스페인의 모든 텔레그램 사용자에게 대량 메시지를 보내 산체스 정부가 "인터넷 자유를 위협하는 위험한 새로운 규제를 추진하고 있다"고 비난하며, 이 조치들이 '보호'라는 명목으로 스페인을 "감시 국가로 전락시킬 수 있다"고 경고했다.

스페인 정부 관계자들은 두로프의 수백만 사용자에게 보낸 전례 없는 메시지가 제도에 대한 신뢰를 훼손하기 위한 것이며, 소셜미디어와 메시징 앱 규제의 필요성을 강조한다고 응답했다. 그들은 "스페인 사람들은 정부가 미성년자 보호와 법 집행을 위한 조치를 발표했다는 이유만으로 외국 기술 과두들이 우리 휴대전화에 마음대로 선전을 퍼부을 수 있는 세계에 살 수 없다"고 말했다.

소셜미디어의 유해한 영향에 대한 우려가 커지면서 스페인, 영국, 그리스, 프랑스 등을 포함한 여러 정부가 더 엄격한 법안을 채택하거나 검토하고 있다. 지난 12월 호주는 16세 미만 아동의 소셜미디어 플랫폼 이용을 금지한 첫 번째 국가가 되었다.

자주 묻는 질문
물론입니다. 다음은 소셜미디어 토론을 위해 구성된 스페인의 AI 생성 아동 학대 콘텐츠 접근법에 관한 FAQ 목록입니다.

초보자 수준 질문

1. AI 생성 아동 학대 콘텐츠란 정확히 무엇인가요?
실제 아동이 제작에 관여하지 않은 인공지능으로 완전히 생성된 아동 성학대의 사실적인 이미지나 동영상입니다. 그러나 여전히 불법이며 유해합니다.

2. 이것이 스페인에서도 문제가 되나요?
네, 스페인 경찰 등 당국은 직접적인 피해자가 촬영되지 않았더라도 수요를 부추기고 학대를 정상화시키므로 이는 증가하는 심각한 위협으로 확인했습니다.

3. 이런 자료는 스페인에서 불법인가요?
물론입니다. 스페인 법은 AI 생성 아동 성착취물을 실제 아동이 포함된 자료와 동일하게 취급합니다. 소지, 유포 또는 제작은 중범죄입니다.

4. 의심스러운 AI 이미지를 온라인에서 보았습니다. 어떻게 해야 하나요?
공유하지 마세요. 즉시 해당 이미지를 본 플랫폼에 신고하세요. 또한 스페인 경찰 웹사이트나 아동 보호를 위한 ANAR 재단 핫라인을 통해 익명으로 당국에 신고할 수 있습니다.

5. 이미지 제작에 실제 아동이 다치지 않았다면 왜 유해한가요?
이는 아동의 성적 대상화를 영속화하고, 실제 피해자를 그루밍하는 데 사용될 수 있으며, 위험한 시장을 부양합니다. 또한 얼굴이 도용되고 합성된 아동들에게 깊은 심리적 피해를 줍니다.

고급/실용적 질문

6. 스페인 법은 이 새로운 기술을 다루기 위해 어떻게 적응하고 있나요?
스페인은 플랫폼에 이러한 위험을 평가하고 완화할 것을 의무화하는 EU 디지털 서비스법을 시행 중입니다. 또한 기술 기업이 해당 콘텐츠를 탐지하고 보고할 것을 요구하는 제안된 EU AI법 및 규제에 대한 강력한 지지도 있습니다.

7. 스페인 경찰이 이러한 사건을 조사하는 데 가장 큰 어려움은 무엇인가요?
콘텐츠의 양, 암호화 및 다크웹 사용, AI 도구의 진화 속도입니다. 디지털 발자국 추적과 국제 협력이 핵심이며 자원이 많이 듭니다.

8. 소셜미디어 플랫폼의 AI 도구가 이 콘텐츠를 효과적으로 탐지할 수 있나요?
이는 군비 경쟁입니다. 플랫폼이 알려진 패턴을 탐지하기 위해 AI를 사용하는 동안, 새로운 AI 생성기는 현재 필터를 회피하는 새로운 독특한 이미지를 지속적으로 생성합니다. 탐지는 개선되고 있지만 완벽하지는 않습니다.

9. 스페인에서 클라이언트 측 스캐닝에 관한 논쟁은 무엇인가요?
이는