Den spanske regering vil bede anklagemyndighederne om at undersøge de sociale medievirksomheder X, Meta og TikTok for at afgøre, om de har begået forbrydelser ved angiveligt at tillade deres AI at generere og sprede materiale med seksuelle overgreb mod børn.
Statsminister Pedro Sánchez sagde, at beslutningen har til formål at beskytte "vores børns mentale helbred, værdighed og rettigheder" og at sætte en stopper for de store sociale medieplatformes "straffrihed".
Handlingen er baseret på en ekspertrapport, der analyserer den potentielle strafferetlige ansvar for praksisser som at skabe og sprede seksuelt indhold og overgreb mod børn via deepfakes eller manipulerede billeder, som krænker ofrenes værdighed. Rapporten advarede om, at sociale medievirksomheder kan være involveret ved at muliggøre en hurtig, udbredt og uigennemsigtig spredning af sådant materiale, hvilket gør det svært at opdage og lettere for netværk, der producerer, deler og tjener penge på det.
Regeringen besluttede at handle på tirsdag, mens den forbereder foranstaltninger, herunder et forbud mod sociale medier for under 16-årige og lovgivning, der skal gøre tech-virksomheder ansvarlige for skadeligt indhold. Dette kommer efter, at EU-Kommissionen for mindre end en måned siden indledte en undersøgelse af X på grund af seksuelt eksplicitte billeder og muligt materiale med overgreb mod børn, genereret af dens AI-chatbot, Grok.
På tirsdag meddelte Irlands Databeskyttelseskommission (DPC), at de iværksætter en "storskala"-undersøgelse med fokus på Groks generative AI-funktionalitet. Vicekommissær Graham Doyle sagde, at DPC undersøger, om brugere kunne få Grok til at generere sexualiserede billeder af rigtige mennesker, herunder børn, og om X overholdt GDPR-forpligtelserne vedrørende EU/EØS-borgernes personoplysninger.
Den spanske regerings talsmand, Elma Saiz, erklærede, at Madrid ikke vil tillade, at digital seksuel vold mod børn "forstærkes eller beskyttes" af algoritmer, og understregede børns sikkerhed, privatliv og frihed. Regeringen vil formelt anmode rigsadvokaten om at undersøge og, hvis relevant, retsforfølge de skyldige virksomheder.
Meta sagde, at de ikke kunne kommentere den foreslåede undersøgelse uden detaljerede oplysninger, men understregede deres stærke holdning mod seksuel udnyttelse af børn og ikke-konsensuelle intime billeder, uanset om de er ægte eller AI-genererede, samt deres politik om at fjerne sådant indhold. Der er også henvendt sig til X og TikTok for en kommentar.
Sánchez' bestræbelser på at gøre sociale medievirksomheder ansvarlige og beskytte børn mod det, han kalder det "digitale vilde vesten", har udløst stærke reaktioner fra nogle store tech-virksomhedsejere. Tidligere på måneden hævdede han, at der er behov for handling, fordi sociale medier er blevet en "sviget stat, hvor love ignoreres og forbrydelser tolereres."
Han kritiserede også Elon Musk for at bruge X til at "forstærke misinformation" om regeringens beslutning om at legalisere 500.000 papirløse arbejdere og asylansøgere, og bemærkede, at Musk selv er migrant. Musk svarede ved at kalde Sánchez "en tyrann og en forræder mod det spanske folk" og en "ægte fascistisk totalitær."
De spanske regerings planer har også fået kritik fra den russiske tech-iværksætter og Telegram-medstifter Pavel Durov. I en massebeskad sendt til alle Telegram-brugere i Spanien beskyldte han Sánchez-administrationen for at "skubbe til farlige nye reguleringer, der truer jeres internetfriheder" og advarede om, at foranstaltningerne kunne gøre Spanien "til en overvågningsstat under dække af 'beskyttelse'."
Kilder i den spanske regering svarede ved at erklære, at Durovs hidtil usete besked til millioner af brugere havde til formål at underminere tilliden til institutionerne og understregede behovet for at regulere sociale medier og messaging-apps. "Spanierne kan ikke leve i en verden, hvor udenlandske tech-oligarker kan oversvømme vores telefoner med propaganda efter forgodtbefindende, blot fordi regeringen har annonceret foranstaltninger til at beskytte mindreårige og håndhæve loven," sagde de.
Stigende bekymring over de skadelige virkninger af sociale medier har fået flere regeringer, herunder Spanien, Storbritannien, Grækenland og Frankrig, til at vedtage eller overveje strengere lovgivning. I december blev Australien det første land, der forbød børn under 16 at bruge sådanne platforme.
**Ofte stillede spørgsmål**
Selvfølgelig. Her er en liste over ofte stillede spørgsmål om Spaniens tilgang til AI-genereret overgrebsmateriale med børn, formuleret til diskussion på sociale medier.
**Begynder-niveau spørgsmål**
1. **Hvad er AI-genereret overgrebsmateriale med børn præcist?**
Det er realistiske billeder eller videoer af seksuelle overgreb mod børn, der er skabt udelukkende af kunstig intelligens uden at involvere rigtige børn i produktionen. Det er dog stadig ulovligt og skadeligt.
2. **Er dette overhovedet et problem i Spanien?**
Ja, spanske myndigheder som Guardia Civil har identificeret det som en voksende og alvorlig trussel, da det brændstof til efterspørgsel og normaliserer overgreb, selvom der ikke er fotograferet et direkte offer.
3. **Er dette stof ulovligt i Spanien?**
Absolut. Spansk lov behandler AI-genereret materiale med seksuelle overgreb mod børn på samme måde som materiale, der involverer rigtige børn. Besiddelse, distribution eller skabelse er en alvorlig forbrydelse.
4. **Jeg så et mistænkeligt AI-billede online. Hvad skal jeg gøre?**
Del det ikke. Anmeld det straks til platformen, hvor du så det. Du kan også anmelde det anonymt til de spanske myndigheder via Guardia Civils hjemmeside eller ANAR Foundation's hotline for børnebeskyttelse.
5. **Hvorfor er det skadeligt, hvis der ikke er sket noget rigtigt barn ved at lave billedet?**
Det fastholder sexualiseringen af børn, kan bruges til at lokke rigtige ofre og brændstof til et farligt marked. Det forårsager også dyb psykologisk skade på de børn, hvis ansigter bliver stjålet og overført.
**Avancerede og praktiske spørgsmål**
6. **Hvordan tilpasser spansk lov sig for at tackle denne nye teknologi?**
Spanien implementerer EU's Digital Services Act, som pålægger platforme at vurdere og afbøde risici som denne. Der er også stærk støtte til den foreslåede EU AI Act og reguleringer, der vil kræve, at tech-virksomheder opdager og rapporterer sådant indhold.
7. **Hvad er de største udfordringer for den spanske politi i at undersøge disse sager?**
Mængden af indhold, brugen af kryptering og det mørke net samt den hastighed, hvormed AI-værktøjer udvikler sig. Sporing af digitale fodspor og internationalt samarbejde er afgørende og ressourcetunge.
8. **Kan sociale medieplatformes AI-værktøjer effektivt opdage dette indhold?**
Det er et kapløb. Mens platforme bruger AI til at opdage kendte mønstre, skaber nye AI-generatorer konstant nye, unikke billeder, der omgår nuværende filtre. Detektion forbedres, men er ikke perfekt.
9. **Hvad er debatten omkring klientscanning i Spanien?**
