유럽연합 집행위원회가 일론 머스크의 X 플랫폼을 상대로 성적 이미지 생성과 AI 챗봇 '그록'을 통한 아동 성학대 콘텐츠 유포 가능성에 대한 조사에 착수했다.
월요일 시작된 이 공식 조사는 기존에 진행 중이던 X의 추천 시스템(사용자에게 새로운 콘텐츠를 제안하는 알고리즘)에 대한 조사 범위도 확대한다.
그록은 사용자가 여성과 아동의 이미지를 디지털 방식으로 탈의시키고 선정적인 자세를 취하게 할 수 있도록 해 국제적인 분노를 샀다. 디지털 증오 대응 센터 연구진에 따르면, 그록은 2주도 채 되지 않아 약 300만 장의 성적 이미지를 생성했으며, 이 중 2만 3천 장은 아동을 묘사한 것으로 보인다.
집행위원회는 이번 조사가 EU 내에서 그록의 기능으로 인해 발생하는 위험을 "해당 기업이 적절히 평가하고 완화했는지 평가할 것"이라고 밝혔다. 여기에는 조작된 노골적 이미지와 아동 성학대를 구성할 수 있는 자료 등 불법 콘텐츠 공유와 관련된 위험이 포함된다.
이 조사는 비교적 새로 제정된 법률인 EU 디지털서비스법(DSA)에 따라 진행되며, 이 법은 인터넷 사용자를 다양한 온라인 피해로부터 보호하기 위해 마련됐다.
집행위원회 관계자는 기자들에게 X가 이 문제를 해결하기 위해 시행한 조치가 설득력이 부족했다고 전했다. 처음에 조작된 이미지 논란 이후 X는 그록 접근을 유료 구독자로 제한했다. 그러나 유럽 규제 당국의 압박에 따라 회사는 접근법을 바꿨다. 이달 초 X는 그록이 실제 인물의 이미지를 노출이 많은 의상으로 편집하지 못하도록 하는 조치를 도입했다고 발표했다.
집행위원회 관계자는 이러한 조치가 그록에 대한 더 광범위한 우려를 해소하지 못한다고 지적했다. 조사는 여성에 대한 폭력과 아동 성학대를 묘사하는 자료를 포함한 불법 콘텐츠 생성과 관련된 체계적 위험을 검토하고 있다. 해당 관계자는 X가 "자사 플랫폼의 위험을 줄이기 위한 효과적인 완화 조치가 부족하다"고 말했다.
기술 주권, 보안, 민주주의를 담당하는 집행위원회 수석 관계자인 헨나 비르쿠넨은 조사 발표에서 "여성과 아동에 대한 동의 없는 성적 딥페이크는 폭력적이고 용납할 수 없는 형태의 굴욕이다. 이번 조사를 통해 X가 DSA에 따른 법적 의무를 이행했는지, 아니면 유럽 시민의 권리, 특히 여성과 아동의 권리를 서비스의 부수적 피해로 취급했는지 판단할 것"이라고 말했다.
노골적 이미지 조사 외에도 집행위원회는 2023년 12월 시작된 X의 추천 시스템에 대한 조사를 확대한다. 이는 X가 사용자를 위한 정보와 콘텐츠 필터링에 그록 기반 모델을 채택할 계획이라고 발표한 데 따른 것이다.
이번 조치는 영국 미디어 규제 기관 오프컴이 이달 초 X의 '비열하고' 불법적인 콘텐츠에 대한 자체 조사를 발표한 이후에 이루어졌다.
집행위원회는 특히 X와 관련해 DSA 시행이 너무 느리다는 광범위한 비판을 받아왔다.
독일 녹색당 유럽의회 의원인 알렉산드라 게제는 "조사가 너무 늦었지만, 여전히 플랫폼이 유럽 법률을 준수해야 한다는 명확한 신호를 보낼 수 있다"며 "이 사건은 명백하다. 수백만 여성과 많은 아동에게 입힌 피해는 되돌릴 수 없다. 집행위원회가 이번 경험을 통해 앞으로 더 신속하게 행동하기를 바란다"고 말했다.
EU 관계자들은 이러한 비판을 일축하며, 2024년 2월부터 기업에 적용된 DSA에 따라 현재 15건의 조사가 진행 중이라고 지적했다.
유럽의회 중도우파 부의장인 아일랜드의 레지나 도허티는 공식 조사를 환영했다. 도허티는 "AI 시스템이 여성과 아동을 해치는 방식으로 사용되었다는 신뢰할 수 있는 보고가 나올 때, EU 법률을 지체 없이 검토하고 시행하는 것이 필수적"이라고 말했다.
조사에 대한 응답으로 X는 1월 14일에 게시한 성명 링크를 제공했다: "우리는 X가 모두에게 안전한 플랫폼이 되도록 최선을 다하고 있으며, 아동 성착취, 동의 없는 누드, 원치 않는 성적 콘텐츠 등 모든 형태에 대해 여전히 제로 톨러런스 정책을 유지하고 있습니다."
지난달 집행위원회는 X가 EU 법률을 위반했다며 1억 2천만 유로의 벌금을 부과했다. 해당 플랫폼은 사용자를 오도하고, 독립 연구원을 차단하며, 책임을 회피한 혐의를 받았다.
EU 규제 당국은 X가 검증되지 않은 계정에 '기만적인' 블루 체크 표시를 부여해 사용자가 사기와 사기에 취약해질 수 있었다고 밝혔다. 또한 X는 연구원들이 가짜 광고와 협조적 위협 캠페인을 조사하지 못하도록 막아 EU 광고 투명성 규칙을 준수하지 못했다.
집행위원회의 벌금 발표에 대해 머스크는 "허튼소리"라고 답한 후 EU 해체를 요구했다.
X는 벌금을 납부할 3개월의 기한을 부여받았다. EU 관계자는 벌금이 납부될 것이라고 확신한다고 밝혔다.
자주 묻는 질문
X의 그록 AI 생성 노골적 이미지에 대한 EU 조사 FAQ
초급 수준 질문
1 이 조사는 무엇에 관한 것인가요?
유럽연합은 X의 AI 챗봇 그록이 성적 딥페이크 이미지를 생성하고 유포하는 데 사용되었을 수 있다는 우려로 X를 조사하고 있습니다.
2 그록이 무엇인가요?
그록은 X(구 트위터) 소유주 일론 머스크와 관련된 기업 xAI가 개발한 인공지능 챗봇입니다. 질문에 답하고 텍스트를 생성하도록 설계되었습니다.
3 EU는 왜 이 문제로 X를 조사하나요?
EU에는 디지털서비스법(DSA)이라는 새로운 법률이 있습니다. 이 법률은 X와 같은 초대형 온라인 플랫폼이 불법 콘텐츠 유포 및 AI의 부정적 영향과 관련된 위험을 포함하여 자사 서비스의 위험을 사전에 평가하고 완화할 것을 요구합니다.
4 딥페이크 또는 AI 생성 노골적 이미지가 무엇인가요?
이는 인공지능을 사용하여 생성된 가짜이지만 매우 사실적인 사진이나 동영상입니다. 이 맥락에서는 동의 없이 실제 인물을 허위로 묘사한 포르노그래피 이미지를 의미합니다.
5 이것은 불법인가요?
EU에서는 동의 없는 딥페이크 포르노그래피가 개인의 기본권과 존엄성을 심각히 침해하는 것으로 간주됩니다. DSA는 플랫폼이 이러한 불법 콘텐츠 유포를 방지할 시스템을 갖출 것을 의무화합니다.
6 조사 결과 X에 어떤 일이 벌어질 수 있나요?
EU가 X가 DSA를 위반했다고 판단하면, 해당 기업은 전 세계 연간 매출의 최대 6%에 달하는 벌금을 물 수 있습니다. 극단적인 경우 EU는 유럽에서 X 서비스를 중단시킬 수도 있습니다.
고급/실용적 질문
7 X가 잠재적으로 위반하고 있는 DSA의 구체적인 부분은 무엇인가요?
이 조사는 위험 평가 및 완화와 관련된 DSA 의무 준수 여부에 초점을 맞추고 있습니다. EU는 X가 그록과 같은 생성형 AI와 연결된 위험, 특히 불법 콘텐츠 유포와 시민 담론 조작과 관련된 위험을 식별하고 줄이기 위한 조치를 충분히 취하지 않았을 수 있다고 의심하고 있습니다.
8 이것이 일반적인 노골적 콘텐츠 조정과 어떻게 다른가요?
이는 특히 대규모로 생성될 수 있고 일반 업로드 미디어보다 탐지하기 어려운 AI 생성 콘텐츠에 관한 것입니다. 이 조사는 X의 콘텐츠 조정 정책과 기술적 안전장치가 이 새로운, 빠르게 진화하는 위협에 적절한지 의문을 제기합니다.
9 이는 그록 자체가 이러한 콘텐츠를 생성하도록 설계되었다는 의미인가요?
꼭 그렇지는 않습니다. 이 조사는
