Rząd Hiszpanii zwróci się do prokuratury o zbadanie firm mediów społecznościowych X, Meta i TikTok w celu ustalenia, czy dopuściły się przestępstw, rzekomo pozwalając swoim systemom AI na generowanie i rozpowszechnianie materiałów przedstawiających seksualne wykorzystywanie dzieci.
Premier Pedro Sánchez powiedział, że decyzja ma na celu ochronę "zdrowia psychicznego, godności i praw naszych synów i córek" oraz położenie kresu "bezkarności" głównych platform społecznościowych.
Działanie opiera się na raporcie ekspertów analizującym potencjalną odpowiedzialność karną za praktyki takie jak tworzenie i rozpowszechnianie treści o charakterze seksualnym oraz seksualne wykorzystywanie dzieci za pomocą deepfake'ów lub zmanipulowanych obrazów, które naruszają godność ofiar. Raport ostrzegał, że firmy mediów społecznościowych mogą być zamieszane, umożliwiając szybką, szeroką i nieprzejrzystą dystrybucję takich materiałów, utrudniając ich wykrycie i ułatwiając działanie sieci, które je produkują, udostępniają i czerpią z nich zyski.
Rada Ministrów zgodziła się na ten krok we wtorek, gdy rząd przygotowuje środki, w tym zakaz korzystania z mediów społecznościowych dla osób poniżej 16 roku życia oraz przepisy mające pociągać firmy technologiczne do odpowiedzialności za szkodliwe treści. Następuje to po mniej niż miesiąc od wszczęcia przez Komisję Europejską dochodzenia w sprawie X dotyczącego obrazów o charakterze seksualnym i możliwych materiałów przedstawiających seksualne wykorzystywanie dzieci generowanych przez jego chatbot AI, Grok.
We wtorek irlandzka Komisja Ochrony Danych (DPC) ogłosiła "zakrojone na szeroką skalę" dochodzenie skupiające się na generatywnej funkcjonalności AI Groka. Zastępca komisarza Graham Doyle powiedział, że DPC bada, czy użytkownicy mogli nakłonić Groka do generowania seksualizowanych obrazów prawdziwych osób, w tym dzieci, oraz czy X wywiązał się z obowiązków wynikających z RODO dotyczących danych osobowych obywateli UE/EOG.
Rzeczniczka hiszpańskiego rządu Elma Saiz stwierdziła, że Madryt nie pozwoli, aby cyfrowa przemoc seksualna wobec dzieci była "wzmacniana lub chroniona" przez algorytmy, podkreślając bezpieczeństwo, prywatność i wolność dzieci. Rada Ministrów formalnie zwróci się do prokuratora generalnego o zbadanie sprawy i, jeśli będzie to miało zastosowanie, ściganie winnych firm.
Meta oświadczyła, że nie może skomentować proponowanego dochodzenia bez szczegółowych informacji, ale podkreśliła swoje stanowcze stanowisko przeciwko seksualnemu wykorzystywaniu dzieci i niechcianym intymnym obrazom, zarówno prawdziwym, jak i generowanym przez AI, oraz swoją politykę usuwania takich treści. Zwrócono się również o komentarz do X i TikTok.
Wysiłki Sáncheza, aby pociągnąć firmy mediów społecznościowych do odpowiedzialności i chronić dzieci przed tym, co nazywa "cyfrowym dzikim zachodem", wywołały silne reakcje niektórych właścicieli dużych firm technologicznych. Wcześniej w tym miesiącu argumentował, że potrzebne są pilne działania, ponieważ media społecznościowe stały się "państwem upadłym, w którym ignoruje się prawo i toleruje przestępstwa".
Sánchez skrytykował również Elona Muska za wykorzystanie X do "wzmacniania dezinformacji" na temat decyzji rządu o uregulowaniu sytuacji 500 000 nieudokumentowanych pracowników i osób ubiegających się o azyl, zauważając, że Musk sam jest migrantem. Musk odpowiedział, nazywając Sáncheza "tyranem i zdrajcą narodu hiszpańskiego" oraz "prawdziwym faszystowskim totalitarystą".
Plany hiszpańskiego rządu spotkały się również z krytyką rosyjskiego przedsiębiorcy technologicznego i współzałożyciela Telegrama, Pavła Durowa. W masowej wiadomości wysłanej do wszystkich użytkowników Telegrama w Hiszpanii oskarżył on administrację Sáncheza o "przepychanie niebezpiecznych nowych przepisów, które zagrażają waszym wolnościom w internecie", ostrzegając, że środki te mogą zamienić Hiszpanię "w państwo inwigilacyjne pod pretekstem 'ochrony'".
Źródła rządowe w Hiszpanii odpowiedziały, stwierdzając, że bezprecedensowa wiadomość Durowa skierowana do milionów użytkowników miała na celu podważenie zaufania do instytucji i podkreśliła potrzebę regulacji mediów społecznościowych i aplikacji do przesyłania wiadomości. "Hiszpanie nie mogą żyć w świecie, w którym zagraniczni oligarchowie technologiczni mogą dowolnie zalewać nasze telefony propagandą, tylko dlatego, że rząd ogłosił środki mające chronić nieletnich i egzekwować prawo" – powiedzieli.
Rosnące obawy dotyczące szkodliwych skutków mediów społecznościowych skłoniły kilka rządów, w tym Hiszpanii, Wielkiej Brytanii, Grecji i Francji, do przyjęcia lub rozważenia surowszych przepisów. W grudniu Australia stała się pierwszym krajem, który zakazał dzieciom poniżej 16 roku życia korzystania z takich platform.
Często zadawane pytania
Oczywiście. Oto lista często zadawanych pytań dotyczących podejścia Hiszpanii do treści przedstawiających wykorzystywanie dzieci generowanych przez AI, sformułowanych pod kątem dyskusji w mediach społecznościowych.
Pytania na poziomie podstawowym
1. Czym dokładnie są treści przedstawiające wykorzystywanie dzieci generowane przez AI?
To realistyczne obrazy lub filmy przedstawiające seksualne wykorzystywanie dzieci, stworzone całkowicie przez sztuczną inteligencję, bez udziału prawdziwych dzieci w produkcji. Jednak nadal są one nielegalne i szkodliwe.
2. Czy to w ogóle jest problem w Hiszpanii?
Tak. Hiszpańskie władze, takie jak Guardia Civil, zidentyfikowały to jako rosnące i poważne zagrożenie, ponieważ napędza popyt i normalizuje nadużycia, nawet jeśli żadna bezpośrednia ofiara nie została sfotografowana.
3. Czy takie rzeczy są nielegalne w Hiszpanii?
Absolutnie. Hiszpańskie prawo traktuje materiały przedstawiające seksualne wykorzystywanie dzieci generowane przez AI tak samo jak materiały z udziałem prawdziwych dzieci. Posiadanie, rozpowszechnianie lub tworzenie ich jest poważnym przestępstwem.
4. Widziałem podejrzany obraz AI w sieci. Co powinienem zrobić?
Nie udostępniaj go. Natychmiast zgłoś to na platformie, na której go zobaczyłeś. Możesz również zgłosić to anonimowo hiszpańskim władzom za pośrednictwem strony internetowej Guardia Civil lub infolinii Fundacji ANAR zajmującej się ochroną dzieci.
5. Dlaczego to jest szkodliwe, skoro żadne prawdziwe dziecko nie jest krzywdzone podczas tworzenia obrazu?
Utrwala seksualizację dzieci, może być wykorzystywane do uwodzenia prawdziwych ofiar i napędza niebezpieczny rynek. Powoduje również głęboką szkodę psychiczną u dzieci, których twarze są kradzione i nakładane.
Pytania zaawansowane / praktyczne
6. Jak hiszpańskie prawo dostosowuje się do zwalczania tej nowej technologii?
Hiszpania wdraża unijną Ustawę o usługach cyfrowych (DSA), która zobowiązuje platformy do oceny i ograniczania takich ryzyk. Istnieje również silne poparcie dla proponowanej unijnej Ustawy o AI oraz przepisów, które wymagałyby od firm technologicznych wykrywania i zgłaszania takich treści.
7. Jakie są największe wyzwania dla hiszpańskiej policji w śledztwach w takich sprawach?
Objętość treści, użycie szyfrowania i dark webu oraz tempo, w jakim rozwijają się narzędzia AI. Śledzenie cyfrowych śladów i współpraca międzynarodowa są kluczowe i wymagają dużych zasobów.
8. Czy narzędzia AI platform społecznościowych mogą skutecznie wykrywać takie treści?
To wyścig zbrojeń. Podczas gdy platformy używają AI do wykrywania znanych wzorców, nowe generatory AI nieustannie tworzą nowe, unikalne obrazy, które omijają obecne filtry. Wykrywanie się poprawia, ale nie jest doskonałe.
9. Na czym polega debata wokół skanowania po stronie klienta w Hiszpanii?
To jest
