Spanyolország vizsgálatot indít a közösségi média platformok ellen mesterséges intelligenciával létrehozott gyermekpornográfiai tartalom miatt.

A spanyol kormány a bírósági ügyészséget kéri fel arra, hogy vizsgálja ki a közösségi média vállalatokat, köztük az X-et, a Metát és a TikToko-t, hogy megállapítsa, vétkesek-e bűncselekmény elkövetésében azáltal, hogy állítólag lehetővé tették mesterséges intelligenciájuknak, hogy gyermekek szexuális visszaélését ábrázoló anyagokat állítson elő és terjesszen.

Pedro Sánchez miniszterelnök szerint a döntés célja, hogy megvédje „fiai és lányaink mentális egészségét, méltóságát és jogait”, és véget vessen a nagy közösségi média platformok „büntetlenségének”.

Az intézkedés egy szakértői jelentésen alapul, amely elemzi a lehetséges büntetőjogi felelősséget olyan gyakorlatokért, mint a szexuális tartalmak és a gyermekek szexuális visszaélésének létrehozása és terjesztése deepfake-ek vagy manipulált képek útján, amelyek sértik az áldozatok méltóságát. A jelentés figyelmeztetett arra, hogy a közösségi média vállalatok érintettek lehetnek azáltal, hogy lehetővé teszik az ilyen anyagok gyors, széles körű és átláthatatlan terjesztését, megnehezítik a felderítésüket, és elősegítik azokat a hálózatokat, amelyek előállítják, megosztják és profitálnak belőlük.

A kormány a keddi minisztertanácsi ülésen egyetértett az intézkedésben, miközben olyan lépéseket készít elő, mint a 16 év alattiak közösségi média tilalma, és olyan jogszabályok, amelyek a technológiai vállalatokat felelőssé teszik a káros tartalmakért. Ez kevesebb mint egy hónappal ezelőtt indított Európai Bizottsági vizsgálatot követi, amely az X-et vizsgálja szexuálisan explicit képek és lehetséges gyermekek szexuális visszaélését ábrázoló anyagok miatt, amelyeket Grok mesterséges intelligencia chatbotja állított elő.

Kedden az ír Adatvédelmi Bizottság (DPC) bejelentette, hogy „nagyszabású” vizsgálatot indít, amely a Grok generatív mesterséges intelligencia funkcióira összpontosít. Graham Doyle alelnök szerint a DPC azt vizsgálja, hogy a felhasználók rávehették-e a Grok-ot, hogy valódi emberek, köztük gyermekek szexualizált képeit állítsa elő, és hogy az X betartotta-e az Európai Unióban és az Európai Gazdasági Térségben élők személyes adataira vonatkozó GDPR kötelezettségeit.

A spanyol kormányszóvivő, Elma Saiz kijelentette, hogy Madrid nem engedi, hogy a gyermekek elleni digitális szexuális erőszakot algoritmusok „felerősítsék vagy védelmezzék”, és hangsúlyozta a gyermekek biztonságát, magánéletét és szabadságát. A minisztertanács hivatalosan felkéri az ügyészséget, hogy vizsgálja ki, és ha szükséges, büntetőeljárást indítson a vétkes vállalatok ellen.

A Meta kijelentette, hogy nem tud kommentálni a javasolt vizsgálatot részletes információk nélkül, de hangsúlyozta erős álláspontját a gyermekek szexuális kizsákmányolása és a beleegyezés nélküli intim képek, akár valódiak, akár mesterséges intelligencia által generáltak ellen, valamint az ilyen tartalmak eltávolítására vonatkozó politikáját. Az X-et és a TikToko-t is megkeresték véleményükkel.

Sánchez erőfeszítései, hogy a közösségi média vállalatokat felelősségre vonja, és megvédje a gyermekeket attól, amit „digitális vadnyugatnak” nevez, erős reakciókat váltott ki néhány nagy technológiai vállalat tulajdonosából. A hónap elején azt állította, hogy sürgős intézkedésre van szükség, mert a közösségi média „bukott állammá vált, ahol a törvényeket figyelmen kívül hagyják, és a bűncselekményeket tűrik”.

Elon Muskot is bírálta, amiért az X-et használta arra, hogy „felerősítse a dezinformációt” a kormány döntéséről, hogy 500 000 papírjai nélküli munkavállalót és menedékkérőt rendszeresít, megjegyezve, hogy Musk maga is bevándorló. Musk válaszul „zsarnoknak és a spanyol nép árulójának”, valamint „igazi fasiszta totalitáriusnak” nevezte Sánchezt.

A spanyol kormány tervei kritikát váltottak ki Pavel Durov orosz technológiai vállalkozó és a Telegram társalapítója részéről is. Egy tömeges üzenetben, amelyet Spanyolország összes Telegram felhasználójának küldött, azzal vádolta meg a Sánchez-kormányt, hogy „veszélyes új szabályozásokat tol át, amelyek fenyegetik az internetes szabadságot”, figyelmeztetve, hogy az intézkedések Spanyolországot „felügyeleti állammá tehetik a 'védelem' ürügye alatt”.

Spanyol kormányforrások válaszul kijelentették, hogy Durov példátlan üzenete több millió felhasználónak az intézményekbe vetett bizalom aláásását szolgálta, és rávilágított a közösségi média és az üzenetküldő alkalmazások szabályozásának szükségességére. „A spanyolok nem élhetnek egy olyan világban, ahol a külföldi technológiai oligarchák szabadon áraszthatják el a telefonjainkat propagandával, pusztán azért, mert a kormány bejelentett intézkedéseket a kiskorúak védelmére és a törvény betartatására” – mondták.

A közösségi média káros hatásaival kapcsolatos egyre növekvő aggodalmak számos kormányt, köztük Spanyolország, Nagy-Britannia, Görögország és Franciaország kormányait arra késztettek, hogy szigorúbb jogszabályokat fogadjanak el vagy fontoljanak meg. Decemberben Ausztrália lett az első ország, amely betiltotta a 16 év alattiak számára az ilyen platformokat.

**Gyakran Ismételt Kérdések**

Természetesen. Íme egy lista a Spanyolország mesterséges intelligencia által generált gyermekvédelmi tartalmakhoz való hozzáállásával kapcsolatos GYIK-ről, közösségi média vitákhoz szabva.

**Kezdő szintű kérdések**

1. Pontosan mi az a mesterséges intelligencia által generált gyermekvédelmi tartalom?
Valósághű képek vagy videók gyermekek szexuális visszaéléséről, amelyeket teljes egészében mesterséges intelligencia hoz létre, és nem vonnak be valódi gyermekeket a gyártásba. Ennek ellenére továbbra is illegális és káros.

2. Ez egyáltalán probléma Spanyolországban?
Igen, a spanyol hatóságok, mint a Guardia Civil, növekvő és súlyos fenyegetésként azonosították, mivel ez növeli a keresletet és normalizálja a visszaélést, még akkor is, ha nincs közvetlen áldozat fotózva.

3. Ez a cucc illegális Spanyolországban?
Teljes mértékben. A spanyol jog a mesterséges intelligencia által generált gyermekek szexuális visszaélését ábrázoló anyagokat ugyanúgy kezeli, mint a valódi gyermekeket érintő anyagokat. A birtoklás, terjesztés vagy létrehozás súlyos bűncselekmény.

4. Gyanús mesterséges intelligencia által generált képet láttam online. Mit tegyek?
Ne ossza meg. Azonnal jelentse a platformon, ahol látta. Névtelenül is bejelentheti a spanyol hatóságoknak a Guardia Civil weboldalán vagy az ANAR Alapítvány gyermekvédelmi hotline-ján.

5. Miért káros, ha a kép készítése során nincs valódi gyermek megsérülve?
Fenntartja a gyermekek szexualizálását, felhasználható valódi áldozatok becserzésére, és táplál egy veszélyes piacot. Emélyen károsítja azoknak a gyermekeknek a pszichés egészségét is, akik arcát ellopják és ráillesztik.

**Haladó / Gyakorlati kérdések**

6. Hogyan alkalmazkodik a spanyol jog ehhez az új technológiához?
Spanyolország végrehajtja az EU Digitális Szolgáltatások Törvényét, amely kötelezi a platformokat, hogy felmérjék és enyhítsék az ilyen kockázatokat. Erős támogatás van az EU javasolt Mesterséges Intelligencia Törvénye és olyan szabályozások mellett is, amelyek megkövetelnék a technológiai vállalatoktól, hogy észleljenek és jelentsenek ilyen tartalmakat.

7. Mik a legnagyobb kihívások a spanyol rendőrség számára ezeknek az ügyeknek a nyomozásában?
A tartalom mennyisége, a titkosítás és a sötét web használata, valamint a mesterséges intelligencia eszközök gyors fejlődése. A digitális lábnyomok nyomon követése és a nemzetközi együttműködés kulcsfontosságú és erőforrás-igényes.

8. A közösségi média platformok mesterséges intelligencia eszközei hatékonyan képesek észlelni ezt a tartalmat?
Ez egy fegyverkezési verseny. Míg a platformok mesterséges intelligenciát használnak az ismert minták észlelésére, az új mesterséges intelligencia generátorok folyamatosan új, egyedi képeket hoznak létre, amelyek kikerülik a jelenlegi szűrőket. Az észlelés javul, de nem tökéletes.

9. Mi a vita az ügyféloldali szkennelés körül Spanyolországban?
Ez egy