Az én fotóm gyermekbántalmazási képekben szerepelt. Most a mesterséges intelligencia másokat is kényszerít, hogy újra átéljék a rémálmom.

Amikor kislány voltam, semmi sem volt ijesztőbb egy idegentől. A nyolcvanas évek végén és a kilencvenes évek elején szüleink, a különleges TV-műsorok és tanáraink mind arra figyelmeztettek, hogy az idegenek bántani akarnak minket. A "Stranger Danger" (Vigyázz, idegen!) mindenhol jelen volt. Ez jó szándékú tanulság volt, de a kockázatot eltúlozták: a gyermekbántalmazások nagy részét a gyermek által ismert személyek követik el. Az idegenek által elkövetett bántalmazás sokkal ritkább.

Ritkább, de nem lehetetlen. Én tudom, mert engem is szexuálisan kihasználtak idegenek.

Öt éves koromtól 13 éves koromig gyermekszínész voltam. Bár mostanában sok szörnyű történetet hallunk a háttérben zajló bántalmazásokról, én mindig biztonságban éreztem magam a forgatáson. A filmkészletek szabályozott terek voltak, ahol az emberek a munkára koncentráltak. Támogató szüleim voltak, és rendezők, színészek és tanárok vettek körül, akik megértették és törődtek a gyerekekkel.

Az egyetlen módja annak, hogy a show-business veszélyeztetett, az az volt, hogy a nyilvánosság elé állított. Minden kegyetlenség és kihasználás, amivel szembesültem, a nyilvánosságtól származott.

"A Hollywood beleveti a medencébe," szoktam mondani, "de a nyilvánosság tartja a fejedet a víz alatt."

Még mielőtt elkezdtem volna a középiskolát, a képemet már felhasználták gyermekek szexuális bántalmazásával kapcsolatos anyagokban. Megjelentem fétis weboldalakon, és belefotósoppoltak a pornográfiába. Felnőtt férfiak ijesztő leveleket küldtek nekem. Nem voltam gyönyörű lány – a kínos fázisom kb. 10 éves koromtól 25 éves koromig tartott – és szinte kizárólag családbarát filmekben játszottam. De nyilvános személyiség voltam, így hozzáférhető voltam. Ez az, amit a ragadozók keresnek: hozzáférés. És semmi sem tett hozzáférhetőbbé, mint az internet.

Nem számított, hogy azok a képek "nem én voltam", vagy hogy a weboldalak "technikailag" legálisak voltak. Ez egy fájdalmas, megsértő élmény volt – egy élő rémálom, amit reméltem, hogy más gyerek nem él át. Felnőttként aggódtam az utánam jövő gyerekekért. Hasonló dolgok történnek a Disney sztárokkal, a Stranger Things szereplőivel, vagy a tiktok-táncokat készítő és családi vlogokban megjelenő serdülőkkel? Nem voltam biztos benne, hogy tudni akarom.

Amikor néhány éve a generatív mesterséges intelligencia (MI) lendületet kapott, a legrosszabbtól féltem. Hallottam a "deepfake"-ekről, és tudtam, hogy a technológia egyre valósághűbbé válik exponenciálisan.

Aztán megtörtént – vagy legalábbis a világ észrevette. A generatív MI-t már sokszor használtak felnőtt nők szexualizált képeinek létrehozására az engedélyük nélkül. A barátaimmal is megtörtént. De nemrég arról számoltak be, hogy az X MI-eszköze, a Grok nyíltan felhasználható volt egy kiskorú színész meztelen képeinek generálására. Néhány héttel korábban egy 13 éves lányt kirúgtak az iskolából, mert megütött egy osztálytársát, aki állítólag deepfake pornót készített róla – nagyjából abban a korban, amikor velem is hamis szexualizált képeket készítettek.

2024 júliusában az Internet Watch Foundation több mint 3500 MI által generált gyermekek szexuális bántalmazását ábrázoló képet talált egy sötét webes fórumon. Azóta hány ezer további készült?

A generatív MI újra feltalálta a "Stranger Danger"-t. És ezúttal az aggodalom indokolt. Most végtelenül könnyebbé vált, hogy bármely olyan gyermek, akinek az arca online elérhető, szexuálisan kihasználható legyen. Több millió gyermek kényszerülhet arra, hogy átélje a rémálmomat.

A deepfake válság megállításához meg kell vizsgálnunk, hogyan képezik ki az MI-t.

A generatív MI egy ismétlődő "nézd, készíts, hasonlítsd össze, frissíts, ismételd" folyamaton keresztül "tanul" – mondja Patrick LaVictoire matematikus, korábbi MI-biztonsági kutató. Megjegyzett információk alapján hoz létre modelleket, de mivel nem tud mindent megjegyezni, mintákat keres, és válaszait ezekre alapozza. LaVictoire elmagyarázza, hogy a hasznos MI-viselkedéseket megerősítik, míg a haszontalan vagy károsakat kivágják. A generatív MI által előállítható dolgok teljes mértékben a képzési adatoktól függenek. Egy 2023-as Stanfordi tanulmány feltárta, hogy egy népszerű képzési adatkészlet több mint 1000 példányt tartalmazott gyermekek szexuális bántalmazásával kapcsolatos anyagokból (CSAM). Bár ezek a linkek azóta eltávolításra kerültek, a kutatók egy másik veszélyre figyelmeztetnek: az MI CSAM-ot generálhat ártatlan gyermekképek és felnőtt pornográfia kombinálásával, ha mindkét típus jelen van az adatokban.

A Google és az OpenAI olyan vállalatok szerint vannak biztonsági intézkedéseik, például gondosan válogatják a képzési adatokat. Fontos azonban megjegyezni, hogy számos felnőtt előadóművész és szexmunkás képét engedély nélkül gyűjtötték be MI számára.

LaVictoire rámutat, hogy a generatív MI maga nem tud különbséget tenni ártalmatlan kérések (például "készíts egy képet egy Jedi szamurájról") és káros kérések (például "vetkőztesd le ezt a hírességet") között. Ennek kezelésére egy másik MI-réteg, hasonlóan a spam-szűrőhöz, blokkolhatja az ilyen lekérdezéseket. A Grok mögött álló xAI vállalat ennél a szűrőnél laza volt.

A helyzet romolhat. A Meta és mások javasolták, hogy a jövőbeli MI-modellek nyílt forráskódúak legyenek, ami azt jelenti, hogy bárki hozzáférhetne, letölthetné és módosíthatná a kódot. Bár a nyílt forráskódú szoftverek általában ösztönzik a kreativitást és az együttműködést, ez a szabadság katasztrofális lehet a gyermekek biztonsága szempontjából. Egy letöltött, nyílt forráskódú MI-platform finomhangolható lehet explicit vagy illegális képekkel korlátlan CSAM vagy "bosszúpornó" létrehozására, biztonsági intézkedések nélkül.

A Meta úgy tűnik, visszalépett attól, hogy újabb MI-platformjait teljesen nyílt forráskódúvá tegye. Talán Mark Zuckerberg fontolóra vette a lehetséges örökséget, eltávolodva egy olyan úttól, amely inkább egy "CSAM Oppenheimere"-hez, mintsem egy római császárhoz hasonlítaná.

Néhány ország cselekszik. Kína előírja, hogy az MI által generált tartalmakat fel kell címkézni. Dánia olyan jogszabályt készít, amely a személyeknek szerzői jogot biztosít a hasonmásuk és hangjuk felett, bírságokkal a nem megfelelő platformok ellen. Európában és az Egyesült Királyságban a védelem a GDPR hasonló szabályozásaiból is származhat.

Az Egyesült Államok kilátásai sivárabbnak tűnnek. A szerzői jogi igények gyakran kudarcot vallanak, mert a felhasználói megállapodások általában széles jogokat biztosítanak a platformoknak a feltöltött tartalmakhoz. Az MI-szabályozással szembeni végrehajtási rendeletekkel és olyan vállalatokkal, mint az xAI, amelyek a hadsereggel együttműködnek, az amerikai kormány úgy tűnik, előnyben részesíti az MI nyereségét a közvédelemmel szemben.

New York-i ügyvéd, Akiva Cohen megjegyzi a legutóbbi törvényeket, amelyek büntetik néhány digitális manipulációt, de szerinte ezek gyakran túlzottan korlátozóak. Például egy olyan deepfake létrehozása, amely valakit meztelenül vagy szexuális cselekedetben mutat, bűncselekmény lehet, de az MI használata egy nő – vagy akár egy kiskorú lány – bikinis megjelenítésére valószínűleg nem az.

"Ez sokszor nagyon tudatosan marad éppen a 'szörnyű, de legális' oldalán a vonalnak," mondja Cohen. Bár az ilyen cselekedetek nem lehetnek bűncselekmények az állam ellen, Cohen szerint polgári felelősség lehetnek, megsértve egy személy jogait és kártérítést igényelve. Szerinte ez olyan jogsértések alá tartozik, mint a "hamis fény" vagy a "magánélet megsértése". A jogsértés egyik formája, hogy valakit sértő állításokkal illetnek, hamis fényben tüntetik fel – lényegében olyat mutatnak, amit soha nem tett meg.

"Az igazi deterrálás módja az ilyen viselkedésre az, hogy a lehetővé tevő vállalatokat felelősségre vonjuk," mondja Cohen.

Erre van jogi precedens: New York Raise Act-je és Kalifornia 53. szenátusi törvényjavaslata kimondja, hogy az MI-vállalatok felelősek lehetnek az általuk okozott károkért egy bizonyos ponton túl. Eközben az X bejelentette, hogy blokkolja Grok MI-eszközét, hogy ne generálhasson szexualizált képeket valódi emberekről a platformján – bár ez a szabályváltozás úgy tűnik, nem vonatkozik a különálló Grok alkalmazásra.

Josh Saviano, New York-i korábbi ügyvéd és gyermekszínész szerint a törvényhozás mellett azonnali intézkedésekre is szükség van.

"A lobbizás és a bíróságok végül kezelni fogják ezt," mondja Saviano. "De addig két lehetőség van: teljesen tartózkodni azáltal, hogy eltávolítod a teljes digitális lábnyomodat az internetről, vagy találni egy technológiai megoldást."

A fiatalok védelme különösen fontos Saviano számára, aki ismer olyanokat, akiket deepfake-ek érintettek, és saját gyerekszínészi tapasztalataiból tudja, milyen elveszíteni a saját történeted feletti irányítást. Ő és csapata egy eszközt fejleszt, amely észleli és figyelmezteti az embereket, amikor képeiket vagy kreatív munkájukat kaparják össze online. Mottójuk, mondja: "Védjük a babákat."

Bárhogy is történik, hiszem, hogy ennek a fenyegetésnek a kivédése jelentős közösségi erőfeszítést igényel.

Bár sokan kötődnek MI-chatbotjaikhoz, a legtöbb ember még mindig csak közműként tekint a techcégekre. Lehet, hogy személyes vagy politikai okokból jobban szeretünk egy alkalmazást, mint egy másikat, de az erős márkahűség ritka. A techcégek – különösen a közösségi médiaplatformok, mint a Meta és az X – ne feledjék, hogy csak eszközök egy cél eléréséhez. Ha valaki, mint én, aki több mint egy évtizeden át minden nap Twitteren volt, elhagyhatja, akkor bárki képes rá.

De a bojkott önmagában nem elég. Meg kell követelnünk, hogy a gyermekek szexuális bántalmazásával kapcsolatos anyagok létrehozását lehetővé tevő vállalatok felelősséget vállaljanak. Törvényhozásra és technológiai biztonsági intézkedésekre kell törekednünk. Meg kell vizsgálnunk a saját viselkedésünket is: senki sem akarja azt gondolni, hogy gyermeke fényképének megosztása abúzív anyagokban való felhasználáshoz vezethet. Mégis ez egy valós kockázat – amely ellen a szülőknek védeniük kell a kisgyermekeket, és a nagyobb gyermekeket fel kell világosítaniuk.

Ha a múltbeli "Stranger Danger"-re összpontosításunk tanított valamit, az az, hogy a legtöbb ember meg akarja akadályozni a gyermekek veszélyeztetését és zaklatását. Most itt az ideje bizonyítani.

Mara Wilson író és színész Los Angelesben él.

**Gyakran Ismételt Kérdések**

Természetesen. Íme egy lista a személyes fényképek visszaélésszerű tartalmakban való visszaéléséről és az MI által generált képek új fenyegetéséről szóló gyakran ismételt kérdésekről.

**A probléma megértése**

K: Mit jelent az, ha valaki azt mondja, hogy a fényképét gyermekbántalmazási anyagban használták fel?
V: Ez azt jelenti, hogy személyes, nem szexuális fényképét engedély nélkül vették fel, és digitálisan módosították vagy szexuálisan visszaélő képekbe