Il governo spagnolo chiederà ai pubblici ministeri di indagare sulle società dei social media X, Meta e TikTok per determinare se abbiano commesso reati consentendo presuntamente alla loro intelligenza artificiale di generare e diffondere materiale di abuso sessuale minorile.
Il primo ministro Pedro Sánchez ha dichiarato che la decisione mira a proteggere "la salute mentale, la dignità e i diritti dei nostri figli e figlie" e a porre fine all'"impunità" delle principali piattaforme di social media.
L'azione si basa su un rapporto di esperti che analizza la potenziale responsabilità penale per pratiche come la creazione e diffusione di contenuti sessuali e abusi sessuali su minori tramite deepfake o immagini manipolate, che violano la dignità delle vittime. Il rapporto ha avvertito che le aziende dei social media potrebbero essere coinvolte consentendo la diffusione rapida, ampia e opaca di tale materiale, rendendo difficile il rilevamento e facilitando reti che lo producono, condividono e ne traggono profitto.
Il consiglio dei ministri ha approvato la mossa martedì, mentre il governo prepara misure tra cui il divieto di social media per i minori di 16 anni e una legislazione per ritenere responsabili le aziende tecnologiche per i contenuti dannosi. Ciò segue un'indagine della Commissione europea avviata meno di un mese fa su X per immagini sessualmente esplicite e possibile materiale di abuso sessuale minorile generato dal suo chatbot AI, Grok.
Martedì, la Commissione irlandese per la protezione dei dati (DPC) ha annunciato un'indagine "su larga scala" incentrata sulla funzionalità AI generativa di Grok. Il vicecommissario Graham Doyle ha dichiarato che la DPC sta esaminando se gli utenti potessero spingere Grok a generare immagini sessualizzate di persone reali, inclusi bambini, e se X abbia rispettato gli obblighi GDPR riguardanti i dati personali dei cittadini UE/SEE.
La portavoce del governo spagnolo Elma Saiz ha dichiarato che Madrid non permetterà che la violenza sessuale digitale contro i bambini venga "amplificata o protetta" dagli algoritmi, sottolineando la sicurezza, la privacy e la libertà dei bambini. Il consiglio dei ministri chiederà formalmente al procuratore generale di indagare e, se del caso, perseguire le aziende trasgressrici.
Meta ha dichiarato di non poter commentare l'indagine proposta senza informazioni dettagliate, ma ha sottolineato la sua forte posizione contro lo sfruttamento sessuale minorile e le immagini intime non consensuali, siano esse reali o generate da AI, e la sua politica di rimozione di tali contenuti. Anche X e TikTok sono stati contattati per un commento.
Gli sforzi di Sánchez per ritenere responsabili le aziende dei social media e proteggere i bambini da quello che definisce il "far west digitale" hanno suscitato forti reazioni da parte di alcuni proprietari di grandi aziende tecnologiche. All'inizio di questo mese, ha sostenuto che è necessaria un'azione urgente perché i social media sono diventati uno "stato fallito dove le leggi vengono ignorate e i crimini tollerati".
Ha anche criticato Elon Musk per aver usato X per "amplificare la disinformazione" sulla decisione del governo di regolarizzare 500.000 lavoratori senza documenti e richiedenti asilo, notando che Musk è lui stesso un migrante. Musk ha risposto definendo Sánchez "un tiranno e un traditore del popolo spagnolo" e un "vero totalitario fascista".
I piani del governo spagnolo hanno anche attirato critiche dall'imprenditore tecnologico russo e co-fondatore di Telegram Pavel Durov. In un messaggio di massa inviato a tutti gli utenti di Telegram in Spagna, ha accusato l'amministrazione Sánchez di "spingere nuove regolamentazioni pericolose che minacciano le vostre libertà su internet", avvertendo che le misure potrebbero trasformare la Spagna "in uno stato di sorveglianza sotto le spoglie della 'protezione'".
Fonti del governo spagnolo hanno risposto affermando che il messaggio senza precedenti di Durov a milioni di utenti mirava a minare la fiducia nelle istituzioni e ha evidenziato la necessità di regolamentare social media e app di messaggistica. "Gli spagnoli non possono vivere in un mondo dove oligarchi tecnologici stranieri possono inondare i nostri telefoni con propaganda a piacimento, semplicemente perché il governo ha annunciato misure per proteggere i minori e far rispettare la legge", hanno dichiarato.
Le crescenti preoccupazioni sugli effetti dannosi dei social media hanno spinto diversi governi, tra cui quelli di Spagna, Gran Bretagna, Grecia e Francia, ad adottare o considerare una legislazione più severa. A dicembre, l'Australia è diventata il primo paese a vietare tali piattaforme ai minori di 16 anni.
Domande Frequenti
Naturalmente. Ecco un elenco di FAQ sull'approccio della Spagna ai contenuti di abuso minorile generati da AI, formulate per la discussione sui social media.
Domande di livello base
1. Cosa sono esattamente i contenuti di abuso minorile generati da AI?
Sono immagini o video realistici di abuso sessuale minorile creati interamente da intelligenza artificiale, senza coinvolgere bambini reali nella produzione. Tuttavia, sono comunque illegali e dannosi.
2. Questo è davvero un problema in Spagna?
Sì, le autorità spagnole come la Guardia Civil lo hanno identificato come una minaccia crescente e seria, poiché alimenta la domanda e normalizza l'abuso, anche se nessuna vittima diretta viene fotografata.
3. Questa roba è illegale in Spagna?
Assolutamente. La legge spagnola tratta il materiale di abuso sessuale minorile generato da AI allo stesso modo di quello che coinvolge bambini reali. Possesso, distribuzione o creazione sono reati gravi.
4. Ho visto un'immagine AI sospetta online. Cosa dovrei fare?
Non condividerla. Segnalala immediatamente alla piattaforma dove l'hai vista. Puoi anche segnalarla in modo anonimo alle autorità spagnole tramite il sito web della Guardia Civil o la hotline della Fondazione ANAR per la protezione dei minori.
5. Perché è dannoso se nessun bambino reale viene ferito nella creazione dell'immagine?
Perpetua la sessualizzazione dei bambini, può essere usato per adescare vittime reali e alimenta un mercato pericoloso. Provoca anche profondo danno psicologico ai bambini i cui volti vengono rubati e sovrapposti.
Domande avanzate/pratiche
6. Come si sta adattando la legge spagnola per affrontare questa nuova tecnologia?
La Spagna sta implementando il Digital Services Act dell'UE, che impone alle piattaforme di valutare e mitigare rischi come questo. C'è anche forte sostegno per il proposto AI Act dell'UE e regolamentazioni che richiederebbero alle aziende tecnologiche di rilevare e segnalare tali contenuti.
7. Quali sono le maggiori sfide per la polizia spagnola nell'indagare su questi casi?
Il volume dei contenuti, l'uso della crittografia e del dark web, e la velocità con cui evolvono gli strumenti AI. Tracciare le impronte digitali e la collaborazione internazionale sono chiave, ma richiedono molte risorse.
8. Gli strumenti AI delle piattaforme di social media possono rilevare efficacemente questo contenuto?
È una corsa agli armamenti. Mentre le piattaforme usano l'AI per rilevare pattern noti, i nuovi generatori AI creano costantemente immagini nuove e uniche che eludono i filtri attuali. Il rilevamento sta migliorando, ma non è perfetto.
9. Qual è il dibattito in Spagna sullo scanning lato client?
Questo è
