Komisja Europejska wszczęła dochodzenie w sprawie platformy X Elona Muska w związku z tworzeniem przez jej chatbot AI Grok obrazów o charakterze seksualnym i potencjalnym rozpowszechnianiem materiałów przedstawiających seksualne wykorzystywanie dzieci.
Formalne śledztwo, rozpoczęte w poniedziałek, rozszerza również trwające już dochodzenie w sprawie systemów rekomendacyjnych X – algorytmów sugerujących użytkownikom nowe treści.
Grok wywołał międzynarodowe oburzenie, umożliwiając użytkownikom cyfrowe rozbieranie zdjęć kobiet i dzieci oraz umieszczanie ich w sugestywnych pozach. Według badaczy z Center for Countering Digital Hate, Grok wygenerował w ciągu niespełna dwóch tygodni około 3 miliony zsexualizowanych obrazów, w tym 23 tysiące, które wydawały się przedstawiać dzieci.
Komisja oświadczyła, że dochodzenie "oceni, czy firma właściwie oszacowała i złagodziła ryzyka" wynikające z funkcji Groka w UE. Obejmuje to ryzyka związane z udostępnianiem nielegalnych treści, takich jak spreparowane obrazy o charakterze seksualnym oraz materiały, które mogą stanowić seksualne wykorzystywanie dzieci.
Śledztwo jest prowadzone na mocy unijnej ustawy o usługach cyfrowych (DSA), stosunkowo nowego prawa zaprojektowanego w celu ochrony użytkowników internetu przed różnymi zagrożeniami online.
Urzędnik Komisji powiedział dziennikarzom, że środki wdrożone przez X w celu rozwiązania problemu nie były przekonujące. Początkowo, po oburzeniu związanym z manipulowanymi obrazami, X ograniczył dostęp do Groka do płacących subskrybentów. Jednak pod naciskiem europejskich regulatorów firma zmieniła podejście. Wcześniej w tym miesiącu X ogłosił, że wprowadził środki zapobiegające edytowaniu przez Groka zdjęć prawdziwych osób w odsłaniające ubrania.
Urzędnik Komisji zauważył, że te kroki nie rozwiązują szerszych obaw dotyczących Groka. Dochodzenie bada systemowe ryzyka związane z generowaniem nielegalnych treści, w tym materiałów przedstawiających przemoc wobec kobiet i seksualne wykorzystywanie dzieci. Urzędnik stwierdził, że X nie posiada "skutecznych środków łagodzących … aby zmniejszyć ryzyko na swojej platformie".
Ogłaszając dochodzenie, Henna Virkkunen, główna urzędniczka Komisji ds. suwerenności technologicznej, bezpieczeństwa i demokracji, powiedziała: "Niezażądane seksualne deepfake'owe nagrania kobiet i dzieci są brutalną, niedopuszczalną formą degradacji. Dzięki temu dochodzeniu ustalimy, czy X spełnił swoje zobowiązania prawne na mocy DSA, czy też potraktował prawa obywateli europejskich – w tym kobiet i dzieci – jako szkody uboczne swojej usługi".
Oprócz śledztwa w sprawie obrazów o charakterze seksualnym, Komisja rozszerza dochodzenie wszczęte w grudniu 2023 r. dotyczące systemów rekomendacyjnych X. Nastąpiło to po ogłoszeniu przez firmę planów przyjęcia modelu opartego na Groku do filtrowania informacji i treści dla użytkowników.
Ten ruch następuje po tym, jak brytyjski regulator mediów Ofcom ogłosił wcześniej w tym miesiącu własne dochodzenie w sprawie "ohydnych" i nielegalnych treści na X.
Komisja spotkała się z powszechną krytyką za zbyt powolne egzekwowanie DSA, szczególnie w odniesieniu do X.
"Dochodzenie przychodzi zbyt późno, ale nadal może wysłać jasny sygnał, że platformy muszą przestrzegać prawa europejskiego" – powiedziała niemiecka europosłanka Zielonych Alexandra Geese. "Ta sprawa jest jasna. Szkoda wyrządzona milionom kobiet i wielu dzieciom jest nieodwracalna. Mamy nadzieję, że Komisja wyciągnie z tego wnioski, aby działać szybciej w przyszłości".
Urzędnicy UE odrzucili taką krytykę, wskazując na 15 trwających postępowań na mocy DSA, które ma zastosowanie do firm od lutego 2024 r.
Regina Doherty, wiceprzewodnicząca Parlamentu Europejskiego z irlandzkiej centroprawicy, przywitała formalne dochodzenie. "Kiedy pojawiają się wiarygodne doniesienia o wykorzystywaniu systemów AI w sposób szkodzący kobietom i dzieciom, niezbędne jest, aby prawo UE zostało niezwłocznie zbadane i wyegzekwowane" – powiedziała Doherty.
W odpowiedzi na dochodzenie X podał link do oświadczenia opublikowanego 14 stycznia: "Nadal jesteśmy zaangażowani w uczynienie X bezpieczną platformą dla wszystkich i nadal mamy zerową tolerancję dla wszelkich form seksualnego wykorzystywania dzieci, niezażądanej nagości i niechcianych treści o charakterze seksualnym".
W zeszłym miesiącu komisja nałożyła na X karę w wysokości 120 milionów euro za naruszenie prawa UE. Platforma została oskarżona o wprowadzanie użytkowników w błąd, blokowanie niezależnych badaczy i unikanie odpowiedzialności.
Unijny regulator stwierdził, że X przypisał "zwodnicze" niebieskie znaczniki weryfikacji niezweryfikowanym kontom, co może narażać użytkowników na oszustwa i wyłudzenia. Ponadto X nie spełnił unijnych przepisów dotyczących przejrzystości reklam, uniemożliwiając badaczom analizę fałszywych reklam i skoordynowanych kampanii zagrożeń.
W odpowiedzi na ogłoszenie przez komisję kary, Musk odpowiedział "bzdury", a później wezwał do rozwiązania UE.
X ma trzy miesiące na zapłatę kary. Urzędnik UE wyraził przekonanie, że kara zostanie zapłacona.
Często zadawane pytania
FAQs: Dochodzenie UE w sprawie X dotyczące obrazów o charakterze seksualnym wygenerowanych przez AI Grok
Pytania na poziomie podstawowym
1. O co chodzi w tym dochodzeniu?
Unia Europejska prowadzi dochodzenie w sprawie X w związku z obawami, że jego chatbot AI Grok mógł zostać wykorzystany do generowania i rozpowszechniania seksualnych deepfake'owych obrazów.
2. Czym jest Grok?
Grok to chatbot sztucznej inteligencji opracowany przez xAI, firmę powiązaną z właścicielem X/Twittera, Elonem Muskiem. Jest zaprojektowany do odpowiadania na pytania i generowania tekstu.
3. Dlaczego UE prowadzi dochodzenie w sprawie X z tego powodu?
UE ma nowe prawo zwane ustawą o usługach cyfrowych (DSA). Prawo to wymaga od bardzo dużych platform internetowych, takich jak X, aktywnego oceniania i łagodzenia ryzyk związanych z ich usługami, w tym ryzyk związanych z rozpowszechnianiem nielegalnych treści i negatywnymi skutkami AI.
4. Czym są deepfake'i lub obrazy o charakterze seksualnym generowane przez AI?
Są to fałszywe, ale wysoce realistyczne zdjęcia lub filmy stworzone przy użyciu sztucznej inteligencji. W tym kontekście odnoszą się one do obrazów pornograficznych, które fałszywie przedstawiają prawdziwą osobę bez jej zgody.
5. Czy to jest nielegalne?
W UE niezażądana deepfake'owa pornografia jest uważana za poważne naruszenie podstawowych praw i godności osoby. DSA zobowiązuje platformy do posiadania systemów zapobiegających rozpowszechnianiu takich nielegalnych treści.
6. Co może się stać z X w rezultacie?
Jeśli UE uzna, że X naruszył DSA, firma może zostać ukarana grzywną w wysokości do 6% swojego globalnego rocznego przychodu. W skrajnych przypadkach UE mogłaby nawet zawiesić usługę X w Europie.
Zaawansowane / Praktyczne Pytania
7. Którą konkretną część DSA X potencjalnie narusza?
Dochodzenie koncentruje się na zgodności X z obowiązkami DSA dotyczącymi oceny ryzyka i jego łagodzenia. UE podejrzewa, że X mógł nie zrobić wystarczająco dużo, aby zidentyfikować i zmniejszyć ryzyka związane z generatywną AI, taką jak Grok, szczególnie w odniesieniu do rozpowszechniania nielegalnych treści i manipulowania dyskursem obywatelskim.
8. Czym to różni się od zwykłej moderacji treści o charakterze seksualnym?
Chodzi konkretnie o treści generowane przez AI, które można tworzyć na dużą skalę i które są trudniejsze do wykrycia niż standardowe przesyłane media. Śledztwo kwestionuje, czy polityki moderacji treści X i technologiczne zabezpieczenia są adekwatne dla tego nowego, szybko rozwijającego się zagrożenia.
9. Czy to oznacza, że Grok sam jest zaprojektowany do tworzenia takich treści?
Niekoniecznie. Dochodzenie
