İspanya hükümeti, sosyal medya şirketleri X, Meta ve TikTok'un yapay zekalarının çocuk cinsel istismarı materyali üretip yaydığı iddialarıyla suç işleyip işlemediğini belirlemek için savcılardan soruşturma başlatmalarını isteyecek.
Başbakan Pedro Sánchez, bu kararın "çocuklarımızın ruh sağlığı, onuru ve haklarını" korumayı ve büyük sosyal medya platformlarının "cezasızlığına" son vermeyi amaçladığını söyledi.
Bu eylem, derin sahte veya manipüle edilmiş görüntüler yoluyla cinsel içerik ve çocuk cinsel istismarı oluşturma ve yayma gibi uygulamaların potansiyel cezai sorumluluğunu analiz eden bir uzman raporuna dayanıyor; bu uygulamalar mağdurların onurunu ihlal ediyor. Rapor, sosyal medya firmalarının bu tür materyallerin hızlı, yaygın ve şeffaf olmayan bir şekilde yayılmasını sağlayarak, tespiti zorlaştırarak ve bunu üreten, paylaşan ve bundan kâr elde eden ağları kolaylaştırarak suça karışabileceği konusunda uyardı.
Bakanlar Kurulu, hükümetin 16 yaş altı için sosyal medya yasağı ve teknoloji şirketlerini zararlı içerikten sorumlu tutacak mevzuat gibi önlemler hazırlarken, bu hareketi Salı günü onayladı. Bu, Avrupa Komisyonu'nun X hakkında, yapay zeka sohbet robotu Grok tarafından üretilen cinsel içerikli görüntüler ve olası çocuk cinsel istismarı materyalleri nedeniyle bir aydan kısa bir süre önce başlattığı soruşturmanın ardından geldi.
Salı günü, İrlanda Veri Koruma Komisyonu (DPC), Grok'un üretici yapay zeka işlevine odaklanan "büyük ölçekli" bir soruşturma başlattığını duyurdu. Komisyon Başkan Yardımcısı Graham Doyle, DPC'nin kullanıcıların Grok'u çocuklar da dahil olmak üzere gerçek kişilerin cinselleştirilmiş görüntülerini üretmeye teşvik edip edemeyeceğini ve X'in AB/AEA vatandaşlarının kişisel verileri konusundaki GDPR yükümlülüklerine uyup uymadığını incelediğini söyledi.
İspanya hükümeti sözcüsü Elma Saiz, Madrid'in çocuklara yönelik dijital cinsel şiddetin algoritmalar tarafından "büyütülmesine veya korunmasına" izin vermeyeceğini belirterek, çocukların güvenliği, mahremiyeti ve özgürlüğünü vurguladı. Bakanlar Kurulu, savcıdan resmi olarak soruşturma yapmasını ve uygunsa suçlu şirketlere dava açmasını isteyecek.
Meta, ayrıntılı bilgi olmadan önerilen soruşturma hakkında yorum yapamayacağını, ancak gerçek veya yapay zeka tarafından üretilmiş olsun, çocuk cinsel istismarı ve rızasız mahrem görüntülere karşı güçlü duruşunu ve bu tür içeriği kaldırma politikasını vurguladığını belirtti. X ve TikTok'tan da yorum istenmiştir.
Sánchez'in sosyal medya şirketlerini sorumlu tutma ve çocukları onun tabiriyle "dijital vahşi batı"dan koruma çabaları, bazı büyük teknoloji firması sahiplerinden güçlü tepkiler çekti. Bu ayın başlarında, sosyal medyanın "yasaların görmezden gelindiği ve suçların hoş görüldüğü başarısız bir devlet" haline geldiği için acil eylem gerektiğini savundu.
Ayrıca, Elon Musk'ı hükümetin 500.000 kayıt dışı işçi ve sığınmacıyı düzenleme kararı hakkında X'i kullanarak "dezenformasyonu büyütmekle" eleştirdi ve Musk'ın kendisinin de bir göçmen olduğuna dikkat çekti. Musk ise Sánchez'i "bir tiran ve İspanya halkına ihanet eden biri" ve "gerçek bir faşist totaliter" olarak nitelendirdi.
İspanya hükümetinin planları, Rus teknoloji girişimcisi ve Telegram'ın kurucu ortağı Pavel Durov'dan da eleştiri aldı. İspanya'daki tüm Telegram kullanıcılarına gönderdiği toplu mesajda, Sánchez yönetimini "internet özgürlüklerinizi tehdit eden tehlikeli yeni düzenlemeleri dayatmakla" suçlayarak, bu önlemlerin İspanya'yı "'koruma' kisvesi altında bir gözetim devletine dönüştürebileceği" uyarısında bulundu.
İspanya hükümeti kaynakları, Durov'un milyonlarca kullanıcıya benzeri görülmemiş mesajının kurumlara olan güveni zayıflatmak amacıyla olduğunu ve sosyal medya ve mesajlaşma uygulamalarını düzenleme ihtiyacını vurguladığını belirterek yanıt verdi. "İspanyollar, yabancı teknoloji oligarklarının, hükümet sadece reşit olmayanları korumak ve yasayı uygulamak için önlemler açıkladı diye, telefonlarımızı keyfiyle propaganda ile doldurabildiği bir dünyada yaşayamaz" dediler.
Sosyal medyanın zararlı etkilerine yönelik artan endişeler, İspanya, İngiltere, Yunanistan ve Fransa hükümetleri de dahil olmak üzere birçok hükümeti daha katı mevzuat benimsemeye veya düşünmeye sevk etti. Aralık ayında, Avustralya 16 yaş altı çocukları bu platformlardan yasaklayan ilk ülke oldu.
Sıkça Sorulan Sorular
Elbette İspanya'nın yapay zeka tarafından üretilen çocuk istismarı içeriğine yaklaşımı hakkında, sosyal medya tartışması için hazırlanmış SSS listesi aşağıdadır.
Başlangıç Seviyesi Sorular
1 Yapay zeka tarafından üretilen çocuk istismarı içeriği tam olarak nedir?
Üretiminde gerçek çocukların yer almadığı, tamamen yapay zeka tarafından oluşturulan, çocuk cinsel istismarının gerçekçi görüntü veya videolarıdır. Ancak yine de yasa dışı ve zararlıdır.
2 Bu İspanya'da gerçekten bir sorun mu?
Evet, İspanyol yetkililer (Guardia Civil gibi) bunu, doğrudan bir mağdur fotoğraflanmasa bile talebi körüklediği ve istismarı normalleştirdiği için büyüyen ve ciddi bir tehdit olarak tanımladı.
3 Bu tür şeyler İspanya'da yasa dışı mı?
Kesinlikle. İspanyol yasası, yapay zeka tarafından üretilen çocuk cinsel istismarı materyalini, gerçek çocukları içeren materyal ile aynı şekilde ele alır. Bulundurmak, dağıtmak veya oluşturmak ciddi bir suçtur.
4 Şüpheli bir yapay zeka görüntüsü gördüm. Ne yapmalıyım?
Paylaşmayın. Hemen gördüğünüz platforma bildirin. Ayrıca Guardia Civil'in web sitesi veya çocuk koruma için ANAR Vakfı sıcak hattı aracılığıyla İspanyol yetkililere anonim olarak da bildirebilirsiniz.
5 Görüntü yapılırken gerçek bir çocuk zarar görmüyorsa neden zararlı?
Çocukların cinselleştirilmesini sürdürür, gerçek mağdurları kandırmak için kullanılabilir ve tehlikeli bir pazarı besler. Ayrıca, yüzleri çalınıp üzerine bindirilen çocuklara derin psikolojik zarar verir.
İleri Seviye / Pratik Sorular
6 İspanyol yasası bu yeni teknolojiyle mücadele etmek için nasıl uyum sağlıyor?
İspanya, platformların bu gibi riskleri değerlendirmesini ve azaltmasını zorunlu kılan AB Dijital Hizmetler Yasası'nı uyguluyor. Ayrıca, teknoloji şirketlerinin bu tür içeriği tespit etmesini ve bildirmesini gerektirecek önerilen AB Yapay Zeka Yasası ve düzenlemelerine güçlü destek var.
7 İspanyol polisi için bu davaları soruşturmada en büyük zorluklar nelerdir?
İçerik hacmi, şifreleme ve karanlık ağ kullanımı ve yapay zeka araçlarının gelişme hızı. Dijital ayak izlerini takip etmek ve uluslararası işbirliği anahtar ve kaynak yoğun.
8 Sosyal medya platformlarının yapay zeka araçları bu içeriği etkili bir şekilde tespit edebilir mi?
Bu bir silahlanma yarışı. Platformlar bilinen kalıpları tespit etmek için yapay zeka kullanırken, yeni yapay zeka üreticileri sürekli olarak mevcut filtrelerden kaçan yeni, benzersiz görüntüler oluşturuyor. Tespit gelişiyor ancak mükemmel değil.
9 İspanya'da istemci tarafı tarama etrafındaki tartışma nedir?
Bu,
