Španělská vláda požádá státní zástupce, aby prošetřili společnosti provozující sociální sítě X, Meta a TikTok, aby zjistili, zda nespáchaly trestný čin tím, že údajně umožnily své umělé inteligenci vytvářet a šířit materiály zobrazující sexuální zneužívání dětí.
Premiér Pedro Sánchez uvedl, že cílem tohoto rozhodnutí je chránit „duševní zdraví, důstojnost a práva našich synů a dcer“ a ukončit „beztrestnost“ velkých platforem sociálních sítí.
Tento krok vychází z odborné zprávy analyzující potenciální trestní odpovědnost za praktiky, jako je vytváření a šíření sexuálního obsahu a sexuálního zneužívání dětí prostřednictvím deepfake videí nebo upravených obrázků, které porušují důstojnost obětí. Zpráva varovala, že společnosti provozující sociální sítě by se mohly na těchto činech podílet tím, že umožňují rychlé, rozsáhlé a neprůhledné šíření takového materiálu, což ztěžuje jeho odhalování a usnadňuje fungování sítí, které jej vyrábějí, sdílejí a z něj profitují.
Kabinet tento krok schválil v úterý, zatímco vláda připravuje opatření včetně zákazu sociálních sítí pro osoby mladší 16 let a legislativy, která by technologické společnosti činila odpovědnými za škodlivý obsah. Následuje to po vyšetřování, které Evropská komise zahájila před méně než měsícem vůči společnosti X kvůli sexuálně explicitním obrázkům a možnému materiálu zobrazujícímu sexuální zneužívání dětí generovanému jejím chatbotem s umělou inteligencí Grok.
V úterý irská Komise pro ochranu údajů (DPC) oznámila „rozsáhlé“ šetření zaměřené na generativní funkce umělé inteligence Groku. Zástupce komisaře Graham Doyle uvedl, že DPC zkoumá, zda uživatelé mohli vyzvat Groka k vytváření sexualizovaných obrázků skutečných lidí včetně dětí, a zda společnost X splnila povinnosti podle GDPR týkající se osobních údajů občanů EU/EHP.
Mluvčí španělské vlády Elma Saiz uvedla, že Madrid nenechá digitální sexuální násilí na dětech „zesilovat nebo chránit“ algoritmy, a zdůraznila bezpečnost, soukromí a svobodu dětí. Kabinet oficiálně požádá generálního prokurátora, aby případ prošetřil a pokud to bude vhodné, aby proti provinilým společnostem zahájil trestní stíhání.
Společnost Meta uvedla, že se nemůže k navrhovanému vyšetřování vyjádřit bez podrobných informací, ale zdůraznila svůj pevný postoj proti sexuálnímu zneužívání dětí a nechtěným intimním snímkům, ať už skutečným nebo generovaným umělou inteligencí, a svou politiku odstraňování takového obsahu. O vyjádření byly požádány také společnosti X a TikTok.
Sánchezovy snahy o přiměření společností provozujících sociální sítě k odpovědnosti a ochranu dětí před tím, co nazývá „digitálním divokým západem“, vyvolaly silné reakce některých významných majitelů technologických firem. Na začátku tohoto měsíce argumentoval, že je nutné jednat neprodleně, protože sociální sítě se staly „selhávajícím státem, kde se zákony ignorují a zločiny tolerují“.
Kritizoval také Elona Muska za to, že pomocí X „zesiluje dezinformace“ o rozhodnutí vlády legalizovat postavení 500 000 pracovníků bez dokladů a žadatelů o azyl, a poznamenal, že Musk je sám migrant. Musk odpověděl tím, že Sáncheze nazval „tyranem a zrádcem španělského lidu“ a „skutečným fašistickým totalitářem“.
Plány španělské vlády také vyvolaly kritiku ruského technologického podnikatele a spoluzakladatele Telegramu Pavla Durova. V hromadné zprávě zaslané všem uživatelům Telegramu ve Španělsku obvinil Sánchezovu vládu z „prosazování nebezpečných nových předpisů, které ohrožují vaši internetovou svobodu“, a varoval, že tato opatření by mohla Španělsko proměnit „v dozorový stát pod záminkou ‚ochrany‘“.
Zdroje španělské vlády na to reagovaly prohlášením, že Durovova bezprecedentní zpráva milionům uživatelů měla podkopat důvěru v instituce a zdůraznila potřebu regulovat sociální sítě a aplikace pro zasílání zpráv. „Španělé nemohou žít ve světě, kde zahraniční technologičtí oligarchové mohou naše telefony libovolně zaplavovat propagandou, jen proto, že vláda oznámila opatření na ochranu nezletilých a prosazování zákona,“ uvedli.
Rostoucí obavy ze škodlivých účinků sociálních sítí přiměly několik vlád, včetně španělské, britské, řecké a francouzské, aby přijaly nebo zvažovaly přísnější legislativu. V prosinci se Austrálie stala první zemí, která na takových platformách zakázala dětem mladším 16 let.
Často kladené otázky
Samozřejmě Zde je seznam často kladených otázek o španělském přístupu k obsahu zobrazujícímu sexuální zneužívání dětí generovanému umělou inteligencí, formulovaných pro diskusi na sociálních sítích.
Základní otázky
1. Co přesně je obsah zobrazující sexuální zneužívání dětí generovaný umělou inteligencí?
Jsou to realistické obrázky nebo videa znázorňující sexuální zneužívání dětí vytvořené výhradně umělou inteligencí, při jejichž výrobě nejsou zapojeny skutečné děti. Přesto je to nezákonné a škodlivé.
2. Je to vůbec ve Španělsku problém?
Ano, španělské orgány, jako je Guardia Civil, to identifikovaly jako rostoucí a závažnou hrozbu, protože to podněcuje poptávku a normalizuje zneužívání, i když není fotografována přímá oběť.
3. Je toto ve Španělsku nezákonné?
Absolutně. Španělský zákon zachází s materiálem zobrazujícím sexuální zneužívání dětí generovaným umělou inteligencí stejně jako s materiálem zahrnujícím skutečné děti. Držení, šíření nebo vytváření je závažným trestným činem.
4. Viděl(a) jsem online podezřelý obrázek vytvořený umělou inteligencí. Co bych měl(a) dělat?
Nesdílejte jej. Okamžitě jej nahlaste na platformě, kde jste jej viděli. Můžete jej také anonymně nahlásit španělským úřadům prostřednictvím webových stránek Guardia Civil nebo horké linky nadace ANAR pro ochranu dětí.
5. Proč je to škodlivé, pokud při vytváření obrázku není zraněno skutečné dítě?
Udržuje sexualizaci dětí, může být použito k navazování kontaktu se skutečnými oběťmi a podněcuje nebezpečný trh. Způsobuje také hluboké psychické trauma dětem, jejichž tváře jsou ukradeny a použity.
Pokročilé / praktické otázky
6. Jak se španělský zákon přizpůsobuje, aby čelil této nové technologii?
Španělsko zavádí digitální zákon EU o digitálních službách, který ukládá platformám povinnost vyhodnocovat a zmírňovat taková rizika. Existuje také silná podpora navrhovaného zákona EU o umělé inteligenci a předpisů, které by vyžadovaly, aby technologické společnosti takový obsah detekovaly a hlásily.
7. Jaké jsou největší výzvy pro španělskou policii při vyšetřování těchto případů?
Objem obsahu, používání šifrování a dark webu a rychlost, s jakou se vyvíjejí nástroje umělé inteligence. Sledování digitálních stop a mezinárodní spolupráce jsou klíčové a náročné na zdroje.
8. Mohou nástroje umělé inteligence platforem sociálních sítí tento obsah účinně detekovat?
Je to závod ve zbrojení. Zatímco platformy používají umělou inteligenci k detekci známých vzorů, nové generátory umělé inteligence neustále vytvářejí nové jedinečné obrázky, které unikají současným filtrům. Detekce se zlepšuje, ale není dokonalá.
9. Jaká je debata kolem skenování na straně klienta ve Španělsku?
Toto je
