Den spanska regeringen kommer att be åklagare att utreda sociala medieföretagen X, Meta och TikTok för att fastställa om de har begått brott genom att påstås ha tillåtit sin AI att generera och sprida material som visar sexuella övergrepp mot barn.
Statsminister Pedro Sánchez sa att beslutet syftar till att skydda "våra söners och döttrars psykiska hälsa, värdighet och rättigheter" och att sätta stopp för "straffriheten" för stora sociala medieplattformar.
Åtgärden baseras på en expertrapport som analyserar den potentiella brottsliga ansvarsutkrävandet för praktiker som att skapa och sprida sexuellt innehåll och material som visar sexuella övergrepp mot barn genom deepfakes eller manipulerade bilder, vilket kränker offrens värdighet. Rapporten varnade för att sociala medieföretag kan vara inblandade genom att möjliggöra snabb, utbredd och ogenomskinlig spridning av sådant material, vilket gör det svårt att upptäcka och underlättar nätverk som producerar, delar och tjänar pengar på det.
Regeringen beslutade om åtgärden på tisdagen medan regeringen förbereder åtgärder inklusive ett förbud mot sociala medier för personer under 16 år och lagstiftning för att hålla teknikföretag ansvariga för skadligt innehåll. Detta följer på en utredning som EU-kommissionen inledde för mindre än en månad sedan mot X angående sexuellt explicita bilder och möjligt material som visar sexuella övergrepp mot barn som genererats av dess AI-chattrobot Grok.
På tisdagen meddelade Irlands dataskyddsmyndighet (DPC) en "storskalig" utredning som fokuserar på Groks generativa AI-funktionalitet. Vicekommissionären Graham Doyle sa att DPC undersöker om användare kunde få Grok att generera sexualiserade bilder av verkliga människor, inklusive barn, och om X har uppfyllt sina GDPR-förpliktelser gällande EU/EES-medborgares personuppgifter.
Den spanska regeringens talesperson Elma Saiz uppgav att Madrid inte kommer att tillåta att digitalt sexuellt våld mot barn "förstärks eller skyddas" av algoritmer, och betonade barns säkerhet, integritet och frihet. Regeringen kommer formellt att be riksåklagaren att utreda och, om tillämpligt, väcka åtal mot brottsliga företag.
Meta sade att de inte kunde kommentera den föreslagna utredningen utan detaljerad information men betonade sitt starka motstånd mot sexuell exploatering av barn och oönskade intima bilder, oavsett om de är verkliga eller AI-genererade, samt sin policy att ta bort sådant innehåll. X och TikTok har också tillfrågats om kommentarer.
Sánchez ansträngningar att hålla sociala medieföretag ansvariga och skydda barn från vad han kallar den "digitala vilda västern" har väckt starka reaktioner från några ägare av stora teknikföretag. I början av månaden hävdade han att brådskande åtgärder behövs eftersom sociala medier har blivit en "misslyckad stat där lagar ignoreras och brott tolereras."
Han kritiserade också Elon Musk för att använda X för att "förstärka desinformation" om regeringens beslut att legalisera 500 000 papperslösa arbetare och asylsökande, och noterade att Musk själv är migrant. Musk svarade genom att kalla Sánchez "en tyrann och en förrädare mot det spanska folket" och en "sann fascistisk totalitär."
Den spanska regeringens planer mötte också kritik från den ryske teknikentreprenören och Telegram-medgrundaren Pavel Durov. I ett massmeddelande skickat till alla Telegram-användare i Spanien anklagade han Sánchez administration för att "driva på farlig ny lagstiftning som hotar era internetfriheter" och varnade för att åtgärderna kunde förvandla Spanien "till en övervakningsstat under täckmantel av 'skydd'."
Spanska regeringskällor svarade genom att säga att Durovs oöverträffade meddelande till miljontals användare syftade till att underminera förtroendet för institutioner och belyste behovet av att reglera sociala medier och meddelandeappar. "Spanjorerna kan inte leva i en värld där utländska teknikoligarker kan översvämma våra telefoner med propaganda efter eget tycke, bara för att regeringen har meddelat åtgärder för att skydda minderåriga och verkställa lagen", sade de.
Växande oro över de skadliga effekterna av sociala medier har fått flera regeringar, inklusive Spaniens, Storbritanniens, Greklands och Frankrikes, att införa eller överväga strängare lagstiftning. I december blev Australien det första landet att förbjuda barn under 16 år från sådana plattformar.
Vanliga frågor
Självklart. Här är en lista med vanliga frågor om Spaniens tillvägagångssätt för AI-genererat övergreppsmaterial mot barn, formulerad för diskussion på sociala medier.
**Nyborjarnivå**
1. **Vad exakt är AI-genererat övergreppsmaterial mot barn?**
Det är realistiska bilder eller videor som visar sexuella övergrepp mot barn, skapade helt av artificiell intelligens utan att verkliga barn är inblandade i produktionen. Det är dock fortfarande olagligt och skadligt.
2. **Är detta verkligen ett problem i Spanien?**
Ja, spanska myndigheter som Guardia Civil har identifierat det som ett växande och allvarligt hot, eftersom det driver på efterfrågan och normaliserar övergrepp, även om inget direkt offer fotograferas.
3. **Är sådant här olagligt i Spanien?**
Absolut. Spansk lag behandlar AI-genererat material som visar sexuella övergrepp mot barn på samma sätt som material med verkliga barn. Innehav, distribution eller skapande är ett allvarligt brott.
4. **Jag såg en misstänkt AI-bild på nätet. Vad ska jag göra?**
Dela inte den. Anmäl den omedelbart till plattformen där du såg den. Du kan också anmäla den anonymt till de spanska myndigheterna via Guardia Civils webbplats eller ANAR-stiftelsens hotline för barnskydd.
5. **Varför är det skadligt om inget verkligt barn skadas när bilden skapas?**
Det förevigar sexualiseringen av barn, kan användas för att grooma verkliga offer och driver på en farlig marknad. Det orsakar också djup psykologisk skada för de barn vars ansikten stjäls och används.
**Avancerade/praktiska frågor**
6. **Hur anpassar sig spansk lagstiftning för att tackla denna nya teknologi?**
Spanien implementerar EU:s Digital Services Act, som kräver att plattformar bedömer och mildrar risker som denna. Det finns också starkt stöd för det föreslagna EU AI Act och regelverk som skulle kräva att teknikföretag upptäcker och rapporterar sådant innehåll.
7. **Vilka är de största utmaningarna för spanska polisen när de utreder dessa fall?**
Mängden innehåll, användningen av kryptering och dark web, och hastigheten med vilken AI-verktyg utvecklas. Spårning av digitala fotavtryck och internationellt samarbete är nyckelfaktorer och resurskrävande.
8. **Kan sociala medieplattformars AI-verktyg effektivt upptäcka detta innehåll?**
Det är en kapprustning. Medan plattformar använder AI för att upptäcka kända mönster skapar nya AI-generatorer ständigt nya, unika bilder som kringgår nuvarande filter. Upptäckten förbättras men är inte perfekt.
9. **Vad är debatten kring klientskannning i Spanien?**
