Evropská komise zahájila vyšetřování platformy X Elona Muska kvůli vytváření sexuálně explicitních obrazů a potenciálnímu šíření materiálů zobrazujících sexuální zneužívání dětí prostřednictvím jejího AI chatbotu Grok.
Formální šetření, zahájené v pondělí, také rozšiřuje stávající vyšetřování doporučovacích systémů X – algoritmů, které uživatelům navrhují nový obsah.
Grok vyvolal mezinárodní pobouření tím, že umožňoval uživatelům digitálně svlékat obrazy žen a dětí a umisťovat je do sugestivních póz. Podle výzkumníků z Centra pro potírání digitální nenávisti vygeneroval Grok za necelé dva týdny přibližně 3 miliony sexualizovaných obrazů, včetně 23 000, které zobrazovaly děti.
Komise uvedla, že vyšetřování bude „posuzovat, zda společnost řádně vyhodnotila a zmírnila rizika“ vyplývající z funkcí Groku v EU. To zahrnuje rizika spojená se sdílením nezákonného obsahu, jako jsou upravené explicitní snímky a materiály, které mohou představovat sexuální zneužívání dětí.
Šetření se provádí podle relativně nového zákona EU o digitálních službách (DSA), který má chránit uživatele internetu před různými online hrozbami.
Úředník Komise novinářům řekl, že opatření, která X zavedla k řešení tohoto problému, nejsou přesvědčivá. Zpočátku, po pobouření nad upravenými snímky, X omezila přístup k Groku pouze pro placené předplatitele. Po tlaku evropských regulátorů však společnost změnila přístup. Na začátku tohoto měsíce X oznámila, že zavedla opatření, aby Grok nemohl upravovat snímky skutečných lidí do odhalujícího oblečení.
Úředník Komise poznamenal, že tyto kroky neřeší širší obavy týkající se Groku. Šetření zkoumá systémová rizika spojená s generováním nezákonného obsahu, včetně materiálů zobrazujících násilí na ženách a sexuální zneužívání dětí. Úředník uvedl, že X postrádá „účinná zmírňující opatření … ke snížení rizika na své platformě“.
Při oznámení vyšetřování řekla Henna Virkkunenová, vedoucí úřednice Komise pro technologickou suverenitu, bezpečnost a demokracii: „Nekonsensuální sexuální deepfake videa žen a dětí jsou násilnou, nepřijatelnou formou degradace. Tímto vyšetřením zjistíme, zda X splnila své zákonné povinnosti podle DSA, nebo zda práva evropských občanů – včetně práv žen a dětí – považovala za vedlejší škody své služby.“
Kromě šetření explicitních snímků Komise rozšiřuje vyšetřování doporučovacích systémů X, zahájené v prosinci 2023. To následuje po oznámení společnosti, že plánuje přijmout model založený na Groku pro filtrování informací a obsahu pro uživatele.
Tento krok přichází poté, co britský mediální regulátor Ofcom na začátku tohoto měsíce oznámil vlastní vyšetřování „odporného“ a nezákonného obsahu na X.
Komise čelila rozsáhlé kritice za příliš pomalé prosazování DSA, zejména pokud jde o X.
„Šetření přichází pozdě, ale stále může vyslat jasný signál, že platformy musí dodržovat evropský zákon,“ řekla německá poslankyně Evropského parlamentu za Zelené Alexandra Geeseová. „Tento případ je jasný. Škoda způsobená milionům žen a mnoha dětem je nenapravitelná. Doufáme, že se z toho Komise poučí a v budoucnu bude jednat rychleji.“
Úředníci EU takovou kritiku odmítli a poukázali na 15 probíhajících šetření podle DSA, které platí pro společnosti od února 2024.
Regina Dohertyová, irská místopředsedkyně Evropského parlamentu za středopravicovou stranu, formální vyšetřování uvítala. „Když se objeví důvěryhodné zprávy o tom, že systémy AI jsou používány způsobem, který poškozuje ženy a děti, je nezbytné, aby byl zákon EU bezodkladně prozkoumán a vynucen,“ řekla Dohertyová.
V reakci na vyšetřování X poskytla odkaz na prohlášení, které zveřejnila 14. ledna: „Zůstáváme odhodláni učinit z X bezpečnou platformu pro všechny a nadále máme nulovou toleranci vůči jakýmkoli formám sexuálního vykořisťování dětí, nekonsensuální nahoty a nežádoucího sexuálního obsahu.“
Minulý měsíc Komise uložila X pokutu 120 milionů eur za porušení práva EU. Platforma byla obviněna z klamání uživatelů, blokování nezávislých výzkumníků a vyhýbání se odpovědnosti.
Regulátor EU uvedl, že X přiřadila „klamavé“ modré fajfky neověřeným účtům, což by mohlo uživatele vystavit podvodům. Kromě toho X nesplnila pravidla EU týkající se transparentnosti reklamy tím, že zabránila výzkumníkům zkoumat falešné reklamy a koordinované kampaně hrozeb.
V reakci na oznámení Komise o pokutě Musk odpověděl „bullshit“ a později vyzval k rozpuštění EU.
X má tři měsíce na zaplacení pokuty. Úředník EU vyjádřil důvěru, že pokuta bude zaplacena.
Často kladené otázky
Často kladené otázky k vyšetřování EU týkajícímu se X kvůli explicitním snímkům generovaným AI Grokem
Základní otázky
1 O co jde v tomto vyšetřování?
Evropská unie vyšetřuje X kvůli obavám, že její AI chatbot Grok mohl být použit k vytváření a šíření sexuálně explicitních deepfake snímků.
2 Co je Grok?
Grok je chatbot s umělou inteligencí vyvinutý společností xAI, která je spojena s majitelem X/Twitteru Elonem Muskem. Je navržen tak, aby odpovídal na otázky a generoval text.
3 Proč EU kvůli tomu vyšetřuje X?
EU má nový zákon nazvaný Zákon o digitálních službách (DSA). Tento zákon vyžaduje, aby velmi velké online platformy, jako je X, aktivně vyhodnocovaly a zmírňovaly rizika na svých službách, včetně rizik souvisejících se šířením nezákonného obsahu a negativních dopadů AI.
4 Co jsou deepfake nebo explicitní snímky generované AI?
Jedná se o falešné, ale vysoce realistické fotografie nebo videa vytvořená pomocí umělé inteligence. V tomto kontextu se jedná o pornografické snímky, které falešně zobrazují skutečnou osobu bez jejího souhlasu.
5 Je to nezákonné?
V EU je nekonsensuální deepfake pornografie považována za závažné porušení základních práv a důstojnosti osoby. DSA ukládá platformám povinnost mít systémy, které zabrání šíření takového nezákonného obsahu.
6 Co se může X v důsledku toho stát?
Pokud EU zjistí, že X porušila DSA, společnost by mohla čelit pokutě až 6 % svého celosvětového ročního obratu. V extrémních případech by EU mohla dokonce pozastavit službu X v Evropě.
Pokročilé / praktické otázky
7 Kterou konkrétní část DSA X potenciálně porušuje?
Šetření se zaměřuje na dodržování povinností X podle DSA týkajících se hodnocení a zmírňování rizik. EU má podezření, že X možná neudělala dost pro identifikaci a snížení rizik spojených s generativní AI, jako je Grok, zejména pokud jde o šíření nezákonného obsahu a manipulaci s občanským diskurzem.
8 Jak se to liší od běžné moderace explicitního obsahu?
Týká se to konkrétně obsahu generovaného AI, který lze vytvářet ve velkém měřítku a je obtížněji detekovatelný než standardně nahraná média. Šetření zpochybňuje, zda jsou zásady moderování obsahu a technologické záruky X přiměřené této nové, rychle se vyvíjející hrozbě.
9 Znamená to, že Grok je sám navržen k vytváření tohoto obsahu?
Ne nutně. Vyšetřování je
