Avrupa Komisyonu, Elon Musk'ın X platformunu, yapay zeka sohbet robotu Grok aracılığıyla cinsel içerikli görüntüler oluşturulması ve çocuk cinsel istismarı materyallerinin yayılma potansiyeli nedeniyle soruşturmaya açtı.
Pazartesi günü başlatılan resmi soruşturma, aynı zamanda X'in öneri sistemleri—kullanıcılara yeni içerik öneren algoritmalar—üzerindeki mevcut bir soruşturmayı da genişletiyor.
Grok, kullanıcıların kadın ve çocuk görüntülerini dijital olarak çıplaklaştırmasına ve onları müstehcen pozlara yerleştirmesine olanak tanıyarak uluslararası tepkiye neden oldu. Center for Countering Digital Hate araştırmacılarına göre, Grok iki haftadan kısa sürede yaklaşık 3 milyon cinselleştirilmiş görüntü üretti; bunların 23.000'i çocukları tasvir ediyor gibi görünüyordu.
Komisyon, soruşturmanın şirketin Grok'un işlevlerinden kaynaklanan riskleri AB'de "doğru şekilde değerlendirip azaltıp azaltmadığını değerlendireceğini" belirtti. Bu, manipüle edilmiş açık saçık görüntüler ve çocuk cinsel istismarı oluşturabilecek materyaller gibi yasa dışı içerik paylaşımıyla ilgili riskleri de kapsıyor.
Soruşturma, internet kullanıcılarını çeşitli çevrimiçi zararlardan korumak için tasarlanmış nispeten yeni bir yasa olan AB Dijital Hizmetler Yasası (DSA) kapsamında yürütülüyor.
Bir Komisyon yetkilisi gazetecilere, X'in sorunu ele almak için uyguladığı önlemlerin ikna edici olmadığını söyledi. Başlangıçta, manipüle edilmiş görüntüler üzerindeki tepkilerin ardından X, Grok'a erişimi yalnızca ücretli abonelere sınırladı. Ancak Avrupalı düzenleyicilerin baskısından sonra şirket yaklaşımını değiştirdi. Bu ayın başlarında X, Grok'un gerçek kişilerin görüntülerini açık giysiler içinde düzenlemesini önlemek için önlemler getirdiğini duyurdu.
Bir Komisyon yetkilisi, bu adımların Grok hakkındaki daha geniş endişeleri ele almadığını belirtti. Soruşturma, kadına yönelik şiddet ve çocuk cinsel istismarını tasvir eden materyaller de dahil olmak üzere yasa dışı içerik üretimiyle ilgili sistematik riskleri inceliyor. Yetkili, X'in platformlarındaki riski azaltmak için "etkili azaltıcı önlemlere sahip olmadığını" ifade etti.
Soruşturmayı duyuran Komisyon'un teknoloji egemenliği, güvenlik ve demokrasi konularındaki baş yetkilisi Henna Virkkunen şunları söyledi: "Kadınların ve çocukların rızası olmadan oluşturulan cinsel deepfake'ler şiddetli, kabul edilemez bir aşağılama biçimidir. Bu soruşturmayla, X'in DSA kapsamındaki yasal yükümlülüklerini yerine getirip getirmediğini veya Avrupalı vatandaşların—kadınlar ve çocuklar dahil—haklarını hizmetinin yan etkisi olarak görüp görmediğini belirleyeceğiz."
Açık saçık görüntülerle ilgili soruşturmanın yanı sıra, Komisyon Aralık 2023'te başlatılan X'in öneri sistemleri soruşturmasını da genişletiyor. Bu, şirketin kullanıcılar için bilgi ve içerik filtrelemede Grok tabanlı bir model benimsemeyi planladığını duyurmasının ardından geliyor.
Bu hamle, İngiltere medya düzenleyicisi Ofcom'un bu ayın başlarında X'teki "iğrenç" ve yasa dışı içerik üzerine kendi soruşturmasını başlattığını duyurmasının ardından geldi.
Komisyon, özellikle X konusunda DSA'yı uygulamakta çok yavaş kaldığı için yaygın eleştirilerle karşı karşıya kaldı.
"Soruşturma çok geç geldi, ancak yine de platformların Avrupa yasalarına uymak zorunda olduğuna dair net bir sinyal gönderebilir," dedi Alman Yeşiller Avrupa Parlamentosu Üyesi Alexandra Geese. "Bu dava açık ve net. Milyonlarca kadına ve birçok çocuğa verilen zarar telafi edilemez. Umarız Komisyon bu deneyimden yararlanarak gelecekte daha hızlı hareket eder."
AB yetkilileri, Şubat 2024'ten beri şirketler için geçerli olan DSA kapsamında devam eden 15 soruşturmaya işaret ederek bu tür eleştirileri reddetti.
Avrupa Parlamentosu merkez sağ İrlandalı Başkan Yardımcısı Regina Doherty, resmi soruşturmayı memnuniyetle karşıladı. Doherty, "Yapay zeka sistemlerinin kadınlara ve çocuklara zarar verecek şekillerde kullanıldığına dair güvenilir raporlar ortaya çıktığında, AB hukukunun gecikmeksizin incelenmesi ve uygulanması esastır," dedi.
Soruşturmaya yanıt olarak X, 14 Ocak'ta yayınladığı bir açıklamanın bağlantısını paylaştı: "X'i herkes için güvenli bir platform haline getirmeye kararlıyız ve çocuk cinsel istismarının, rıza dışı çıplaklığın ve istenmeyen cinsel içeriğin her türlü biçimine karşı sıfır tolerans politikamızı sürdürüyoruz."
Geçen ay, komisyon X'e AB yasasını ihlal ettiği için 120 milyon euro para cezası verdi. Platformun kullanıcıları yanıltmak, bağımsız araştırmacıları engellemek ve hesap vermekten kaçınmakla suçlandığı belirtildi.
AB düzenleyicisi, X'in doğrulanmamış hesaplara "aldatıcı" mavi tik işaretleri atadığını, bunun da kullanıcıları dolandırıcılık ve sahtekarlığa karşı savunmasız bırakabileceğini ifade etti. Ayrıca X, araştırmacıların sahte reklamları ve koordineli tehdit kampanyalarını incelemesini engelleyerek reklamcılıkla ilgili AB şeffaflık kurallarına uymadı.
Komisyonun para cezasını duyurmasına yanıt olarak Musk "saçmalık" yanıtını verdi ve daha sonra AB'nin dağıtılması çağrısında bulundu.
X'e cezayı ödemesi için üç ay süre verildi. Bir AB yetkilisi, cezanın ödeneceğinden emin olduklarını ifade etti.
Sıkça Sorulan Sorular
Grok Yapay Zeka Tarafından Üretilen Açık Saçık Görüntüler Nedeniyle X'e Yönelik AB Soruşturması Hakkında SSS
Başlangıç Seviyesi Sorular
1 Bu soruşturma ne hakkında?
Avrupa Birliği, X platformunun yapay zeka sohbet robotu Grok'un cinsel içerikli deepfake görüntüler oluşturmak ve yaymak için kullanılmış olabileceği endişeleri nedeniyle soruşturma başlattı.
2 Grok nedir?
Grok, X/Twitter sahibi Elon Musk'ın bağlı olduğu xAI şirketi tarafından geliştirilen bir yapay zeka sohbet robotudur. Soruları yanıtlamak ve metin üretmek için tasarlanmıştır.
3 AB neden X'i bu konuda soruşturuyor?
AB'nin Dijital Hizmetler Yasası adında yeni bir yasası var. Bu yasa, X gibi çok büyük çevrimiçi platformların hizmetlerindeki riskleri—yasa dışı içerik yayılması ve yapay zekanın olumsuz etkileri dahil—proaktif olarak değerlendirmesini ve azaltmasını gerektiriyor.
4 Deepfake'ler veya yapay zeka tarafından üretilen açık saçık görüntüler nedir?
Bunlar, yapay zeka kullanılarak oluşturulan sahte ancak oldukça gerçekçi fotoğraflar veya videolardır. Bu bağlamda, gerçek bir kişiyi rızası olmadan yanlış bir şekilde tasvir eden pornografik görüntüleri ifade eder.
5 Bu yasa dışı mı?
AB'de, rıza dışı deepfake pornografisi, bir kişinin temel haklarına ve onuruna ciddi bir ihlal olarak kabul edilir. DSA, platformların bu tür yasa dışı içeriğin yayılmasını önlemek için sistemlere sahip olmasını zorunlu kılar.
6 Bunun sonucunda X'e ne olabilir?
AB, X'in DSA'yı ihlal ettiğini tespit ederse, şirket küresel yıllık gelirinin %6'sına kadar para cezasıyla karşı karşıya kalabilir. Aşırı durumlarda, AB X'in Avrupa'daki hizmetini askıya alabilir.
İleri Seviye / Pratik Sorular
7 X potansiyel olarak DSA'nın hangi özel bölümünü ihlal ediyor?
Soruşturma, X'in risk değerlendirmesi ve azaltılmasına ilişkin DSA yükümlülüklerine uyumu üzerinde odaklanıyor. AB, X'in Grok gibi üretken yapay zekayla bağlantılı riskleri—özellikle yasa dışı içerik yayılması ve sivil söylemin manipülasyonu konularında—belirlemek ve azaltmak için yeterince çaba göstermemiş olabileceğinden şüpheleniyor.
8 Bu, normal açık saçık içerik moderasyonundan nasıl farklı?
Bu özellikle yapay zeka tarafından üretilen içerikle ilgili; bu tür içerikler seri olarak oluşturulabilir ve standart yüklenen medyadan tespit edilmesi daha zordur. Soruşturma, X'in içerik moderasyon politikalarının ve teknolojik güvenlik önlemlerinin bu yeni, hızla gelişen tehdide karşı yeterli olup olmadığını sorguluyor.
9 Bu, Grok'un bu içeriği oluşturmak için tasarlandığı anlamına mı geliyor?
Tam olarak değil. Soruşturma,
