Den spanske regjeringen vil be påtalemyndighetene om å etterforske sosiale medie-selskapene X, Meta og TikTok for å fastslå om de har begått forbrytelser ved å angivelig tillatt sin kunstige intelligens å generere og spre materiale som viser seksuelle overgrep mot barn.
Statsminister Pedro Sánchez sa at beslutningen tar sikte på å beskytte «den mentale helsen, verdigheten og rettighetene til våre sønner og døtre» og å sette en stopper for «straffefriheten» til store sosiale medie-plattformer.
Tiltaket er basert på en ekspertrapport som analyserer potensiell strafferettslig ansvarlighet for praksiser som å skape og spre seksuelt innhold og overgrep mot barn gjennom deepfakes eller manipulerte bilder, som krenker ofrenes verdighet. Rapporten advarte om at sosiale medie-selskaper kan være involvert ved å muliggjøre rask, utbredt og ugjennomsiktig spredning av slikt materiale, noe som gjør det vanskelig å oppdage og lettere for nettverk som produserer, deler og tjener penger på det.
Regjeringen godkjente tiltaket på tirsdag mens den forbereder tiltak som inkluderer forbud mot sosiale medier for personer under 16 år og lovgivning for å holde teknologiselskaper ansvarlige for skadelig innhold. Dette kommer etter at EU-kommisjonen for mindre enn en måned siden innledet en undersøkelse av X angående seksuelt eksplisitte bilder og mulig materiale om seksuelle overgrep mot barn generert av dens AI-chatbot, Grok.
På tirsdag kunngjorde Irlands databeskyttelseskommisjon (DPC) en «storskala» undersøkelse som fokuserer på Groks generative AI-funksjonalitet. Visekommissær Graham Doyle sa at DPC undersøker om brukere kunne be Grok om å generere seksualiserte bilder av ekte personer, inkludert barn, og om X overholdt GDPR-forpliktelser angående personopplysninger til EU/EØS-borgere.
Spansk regjerings talsperson Elma Saiz opplyste at Madrid ikke vil tillate digitalt seksuelt vold mot barn å bli «forsterket eller beskyttet» av algoritmer, og understreket barns sikkerhet, privatliv og frihet. Regjeringen vil formelt be riksadvokaten om å etterforske og, hvis aktuelt, reise tiltale mot de skyldige selskapene.
Meta sa at de ikke kunne kommentere den foreslåtte etterforskningen uten detaljert informasjon, men understreket sin sterke holdning mot seksuell utnyttelse av barn og ikke-samtykkebasert intimt bilde-materiale, enten det er ekte eller AI-generert, og sin politikk om å fjerne slikt innhold. Også X og TikTok er blitt kontaktet for kommentarer.
Sánchez' forsøk på å holde sosiale medie-selskaper ansvarlige og beskytte barn mot det han kaller det «digitale ville vesten» har vekket sterke reaksjoner fra noen store teknologiselskap-eiere. Tidligere denne måneden hevdet han at det trengs hurtige tiltak fordi sosiale medier har blitt en «sviktende stat hvor lover ignoreres og forbrytelser tolereres.»
Han kritiserte også Elon Musk for å bruke X til å «forsterke desinformasjon» om regjeringens beslutning om å regularisere 500 000 papirløse arbeidere og asylsøkere, og påpekte at Musk selv er migrant. Musk svarte ved å kalle Sánchez «en tyrann og en forræder mot det spanske folk» og en «ekte fascistisk totalitær.»
De spanske regjeringens planer fikk også kritikk fra den russiske teknologientreprenøren og Telegram-medgründeren Pavel Durov. I en massebeskjed sendt til alle Telegram-brukere i Spania, anklaget han Sánchez-administrasjonen for å «dytte på farlige nye reguleringer som truer din internettfrihet», og advarte om at tiltakene kunne gjøre Spania om til «en overvåkingsstat under dekke av 'beskyttelse'.»
Kilder i den spanske regjeringen svarte ved å si at Durovs enestående beskjed til millioner av brukere hadde til hensikt å undergrave tilliten til institusjoner og understreket behovet for å regulere sosiale medier og meldingsapper. «Spanjoler kan ikke leve i en verden hvor utenlandske teknologioligarker kan oversvømme telefonene våre med propaganda etter forgodtbefinnende, bare fordi regjeringen har kunngjort tiltak for å beskytte mindreårige og håndheve loven,» sa de.
Økende bekymring over de skadelige effektene av sosiale medier har fått flere regjeringer, inkludert Spania, Storbritannia, Hellas og Frankrike, til å innføre eller vurdere strengere lovgivning. I desember ble Australia det første landet som forbød barn under 16 år fra slike plattformer.
Ofte stilte spørsmål
Selvfølgelig. Her er en liste over vanlige spørsmål om Spanias tilnærming til AI-generert overgrepsmateriale mot barn, formulert for diskusjon på sosiale medier.
Begynner-spørsmål
1. Hva er egentlig AI-generert overgrepsmateriale mot barn?
Det er realistiske bilder eller videoer av seksuelle overgrep mot barn som er skapt helt av kunstig intelligens, uten at ekte barn er involvert i produksjonen. Likevel er det ulovlig og skadelig.
2. Er dette i det hele tatt et problem i Spania?
Ja, spanske myndigheter som Guardia Civil har identifisert det som en voksende og alvorlig trussel, da det driver etterspørsel og normaliserer overgrep, selv om ingen direkte offer blir fotografert.
3. Er dette ulovlig i Spania?
Absolutt. Spansk lov behandler AI-generert materiale om seksuelle overgrep mot barn på samme måte som materiale som involverer ekte barn. Besittelse, distribusjon eller skapelse er en alvorlig forbrytelse.
4. Jeg så et mistenkelig AI-bilde på nettet. Hva bør jeg gjøre?
Ikke del det. Rapporter det umiddelbart til plattformen hvor du så det. Du kan også rapportere det anonymt til de spanske myndighetene gjennom Guardia Civils nettside eller ANAR-stiftelsens hotline for barns beskyttelse.
5. Hvorfor er det skadelig hvis ingen ekte barn blir skadet i å lage bildet?
Det opprettholder seksualiseringen av barn, kan brukes til å lokke ekte ofre og driver et farlig marked. Det forårsaker også dyp psykologisk skade på barna hvis ansikter blir stjålet og overført.
Avanserte / praktiske spørsmål
6. Hvordan tilpasser spansk seg seg for å takle denne nye teknologien?
Spania implementerer EUs Digitaltjenestelov, som pålegger plattformer å vurdere og begrense risikoer som dette. Det er også sterk støtte for den foreslåtte EU AI-loven og reguleringer som vil kreve at teknologiselskaper oppdager og rapporterer slikt innhold.
7. Hva er de største utfordringene for spansk politi i å etterforske disse sakene?
Mengden av innhold, bruken av kryptering og det mørke nettet, og hastigheten som AI-verktøy utvikler seg med. Sporing av digitale fotavtrykk og internasjonalt samarbeid er avgjørende og ressurskrevende.
8. Kan sosiale medie-plattformers AI-verktøy effektivt oppdage dette innholdet?
Det er en kappløp. Mens plattformer bruker AI for å oppdage kjente mønstre, lager nye AI-generatorer stadig nye, unike bilder som omgår nåværende filtre. Deteksjon forbedres, men er ikke perfekt.
9. Hva er debatten om klientsidesskanning i Spania?
Dette er
