En österrikisk EU-parlamentariker har uttalat sig om att ha blivit "avklädd naken" online utan sitt samtycke och uppmanat EU att vidta åtgärder, efter att en rapport funnit att en av sex kvinnliga EU-parlamentariker hade varit måltavla för sexualiserat AI-genererat innehåll. Lena Schilling från Green party sade att hon förra månaden fick veta att nakna deepfakes av henne cirkulerade online. När hon öppnade länkarna fann hon sig titta på bilder från en av hennes första presskonferenser – men bilderna hade digitalt manipulerats för att ta bort hennes kläder.
Det var en chockerande twist på ett avgörande ögonblick i hennes karriär. "Jag kände mig äcklad", sade hon. "Jag minns hur nervös jag var och hur mycket jag hade förberett mig för presskonferensen. Och sedan se någon använda den här bilden på ett sätt som syftade till att skada och förödmjuka mig var verkligen svårt att greppa."
Schilling är en av 50 EU-parlamentariker – 46 av dem kvinnor – som har varit måltavla för sexualiserade deepfakes, enligt en rapport från Agora Digitale Transformation (ADT). Den Berlinbaserade tankesmedjan, som larmade Schilling om bilderna online, sade att fyndet visade hur deepfake-porr hade blivit ett "systemiskt hot mot kvinnor i europeisk politik."
En tidigare ADT-rapport fann att 138 kvinnliga parlamentariker från 22 EU-länder hade drabbats, och att kvinnor var 33 gånger mer benägna än sina manliga kollegor att avbildas i eller förknippas med deepfake-porr.
Schilling beskrev bilderna som en form av "digitalt våld mot kvinnor", vilket lägger till den redan oproportionerliga mängden sexistiska övergrepp, trakasserier och våld som kvinnor i politiken möter. Resultatet var ett allvarligt hot mot demokratin, sade hon: "Dessa saker gör det ännu svårare att gå in i politiken än det redan är. Tänk bara vad som skulle hända med vårt samhälle om fler och fler kvinnor försvann från det offentliga livet."
Schilling sade att hon hade talat med några av de andra kvinnliga EU-parlamentariker som varit måltavlor, men de hade uttryckt rädsla för att träda fram. "Men det finns inget att skämmas för. Folk missbrukade dina foton, du gjorde inget fel", sade hon. "Och jag tror att det är ögonblicket när man säger: 'Okej, detta måste få ett slut.'"
Känslan fångades i ett nyligen brev till EU som initierades av Schilling och den tyska gröna EU-parlamentarikern Terry Reintke. Undertecknat av 119 EU-parlamentariker uppmanade det tjänstemän att säkerställa att ett kommande förbud mot appar och webbplatser som använder AI för att klä av kvinnor, planerat att träda i kraft i hela EU den 2 december, skulle paras ihop med mekanismer som kan upprätthålla förbudet.
"Ett förbud på papper skyddar ingen förrän det upprätthålls", stod det i brevet, som pekade på den utbredda användningen av "nudifier"-appar där foton av kvinnor kan kläs av med bara ett klick.
"Dess syfte är förödmjukelse och kontroll över kvinnors kroppar, och dess effekt är att göra det offentliga livet mer fientligt för kvinnliga politiker", stod det i brevet. "Varje ung kvinna som överväger en politisk karriär måste nu räkna med att detta kan hända henne."
Schilling sade att målet var att pressa nationella myndigheter att stänga eventuella kryphål eller kringgåenden som skulle tillåta apparna att fortsätta fungera i EU. "Vi kläddes nakna utan vårt samtycke", sade hon. "Detta kan inte bli det nya normala."
Hon sade att uppmaningen till handling var anledningen till att hon hade beslutat att tala ut, i hopp om att dela sin historia skulle övertyga medlemsstaterna att slå ner på teknikföretag för vilka denna typ av digitalt våld kunde vara en lönsam affär."Det är ganska enkelt", sade hon. "Varje kvinna som vill kandidera till ämbete borde kunna göra det utan att frukta att hon kommer att kläs av mot sin vilja."
Vanliga frågor
Vanliga frågor Jag kände mig äcklad EU-parlamentariker talar ut om nakna deepfakes och uppmanar EU att agera
1 Vad hände med EU-parlamentarikern och de nakna deepfakes
En ledamot av Europaparlamentet upptäckte att sexuellt explicita deepfake-bilder av henne cirkulerade online Hon beskrev att hon kände sig äcklad och uppmanade offentligt EU att vidta starkare åtgärder mot denna typ av övergrepp
2 Vad är en deepfake
En deepfake är en falsk bild video eller ljudklipp skapad med AI som får det att se ut eller låta som om en verklig person sade eller gjorde något de aldrig gjorde
3 Vad är en naken deepfake
Det är en digitalt manipulerad bild eller video som får en verklig person att framstå naken eller i en sexuell situation utan deras samtycke Personen har aldrig poserat för den den genereras eller manipuleras med AI
4 Varför är detta så viktigt
Det är en form av bildbaserat sexuellt övergrepp Det förödmjukar och skadar de personer som utsätts mestadels kvinnor och kan spridas snabbt och permanent online Det gör också människor rädda för att vara synliga online
5 Är det olagligt att göra en naken deepfake av någon
Det beror på landet Vissa EU-länder kriminaliserar det redan men reglerna varierar kraftigt EU-parlamentarikern driver på för tydliga konsekventa EU-omfattande åtgärder så att det inte finns några luckor
6 Vilka EU-lagar gäller redan
EU:s förordning om digitala tjänster kräver att plattformar agerar mot olagligt innehåll och AI-förordningen innehåller transparensregler för deepfakes EU-parlamentarikern hävdar att dessa inte är tillräckliga och vill ha explicita regler som riktar sig mot icke-samtyckta sexuella deepfakes
7 Vad ber EU-parlamentarikern faktiskt EU att göra
Hon vill att EU ska behandla icke-samtyckta sexuella deepfakes som ett allvarligt brott få plattformar att ta bort dem snabbt och ge offer tydliga snabba sätt att få hjälp och få innehållet nedtaget
8 Vilka är oftast måltavlor
Kvinnor och flickor utgör den stora majoriteten av offren men vem som helst kan vara måltavla inklusive offentliga personer journalister och privatpersoner
9 Vad ska jag göra om jag hittar en naken deepfake av mig själv online
Dela den inte och engagera dig inte i den Rapportera den till plattformen omedelbart spara bevis och kontakta polisen eller en offerstödsorganisation i ditt land Många
Jag kände äckel": EU-parlamentariker talar ut om nakna deepfakes och kräver EU-åtgärder
