La Commissione europea ha aperto un'indagine sulla piattaforma X di Elon Musk riguardo alla creazione di immagini sessualmente esplicite e alla potenziale diffusione di materiale di abuso sessuale minorile da parte del suo chatbot AI, Grok.
L'inchiesta formale, avviata lunedì, amplia anche un'indagine già in corso sui sistemi di raccomandazione di X, algoritmi che suggeriscono nuovi contenuti agli utenti.
Grok ha suscitato indignazione a livello internazionale consentendo agli utenti di spogliare digitalmente immagini di donne e bambini e di posizionarli in pose suggestive. Secondo i ricercatori del Center for Countering Digital Hate, Grok ha generato circa 3 milioni di immagini sessualizzate in meno di due settimane, comprese 23.000 che sembravano raffigurare bambini.
La Commissione ha dichiarato che l'indagine "valuterà se la società ha valutato e mitigato adeguatamente i rischi" derivanti dalle funzioni di Grok nell'UE. Ciò include i rischi legati alla condivisione di contenuti illegali, come immagini esplicite manipolate e materiale che potrebbe costituire abuso sessuale minorile.
L'indagine è condotta ai sensi del Digital Services Act (DSA) dell'UE, una legge relativamente nuova progettata per proteggere gli utenti di Internet da vari danni online.
Un funzionario della Commissione ha dichiarato ai giornalisti che le misure implementate da X per affrontare il problema non sono state convincenti. Inizialmente, dopo le proteste per le immagini manipolate, X ha limitato l'accesso a Grok agli abbonati a pagamento. Tuttavia, a seguito delle pressioni dei regolatori europei, l'azienda ha cambiato approccio. All'inizio di questo mese, X ha annunciato di aver introdotto misure per impedire a Grok di modificare immagini di persone reali con indumenti rivelatori.
Un funzionario della Commissione ha osservato che questi passi non affrontano le preoccupazioni più ampie su Grok. L'indagine sta esaminando i rischi sistemici legati alla generazione di contenuti illegali, compreso materiale che raffigura violenza contro le donne e abuso sessuale minorile. Il funzionario ha dichiarato che X non dispone di "misure di mitigazione efficaci... per ridurre il rischio sulla loro piattaforma".
Annunciando l'indagine, Henna Virkkunen, principale funzionario della Commissione per la sovranità tecnologica, la sicurezza e la democrazia, ha dichiarato: "I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione. Con questa indagine, determineremo se X ha adempiuto ai suoi obblighi legali ai sensi del DSA, o se ha trattato i diritti dei cittadini europei, compresi quelli di donne e bambini, come danni collaterali del suo servizio".
Oltre all'indagine sulle immagini esplicite, la Commissione sta estendendo un'inchiesta avviata a dicembre 2023 sui sistemi di raccomandazione di X. Ciò segue l'annuncio dell'azienda di pianificare l'adozione di un modello basato su Grok per filtrare informazioni e contenuti per gli utenti.
Questa mossa arriva dopo che il regolatore dei media britannico Ofcom ha annunciato all'inizio di questo mese la propria indagine su contenuti "vili" e illegali su X.
La Commissione ha affrontato ampie critiche per essere stata troppo lenta nell'applicare il DSA, in particolare riguardo a X.
"L'indagine arriva troppo tardi, ma può ancora inviare un segnale chiaro che le piattaforme devono rispettare la legge europea", ha dichiarato l'eurodeputata dei Verdi tedesca Alexandra Geese. "Questo caso è chiaro. Il danno a milioni di donne e molti bambini è irreparabile. Speriamo che la Commissione utilizzi questa esperienza per agire più rapidamente in futuro".
I funzionari dell'UE hanno respinto tali critiche, indicando 15 indagini in corso ai sensi del DSA, che è applicabile alle aziende dal febbraio 2024.
Regina Doherty, vicepresidente del Parlamento europeo di centrodestra irlandese, ha accolto con favore l'indagine formale. "Quando emergono rapporti credibili sull'uso di sistemi di AI in modi che danneggiano donne e bambini, è essenziale che la legge dell'UE sia esaminata e applicata senza ritardo", ha dichiarato Doherty.
In risposta all'indagine, X ha fornito un link a una dichiarazione pubblicata il 14 gennaio: "Rimaniamo impegnati a rendere X una piattaforma sicura per tutti e continuiamo ad avere tolleranza zero per qualsiasi forma di sfruttamento sessuale minorile, nudità non consensuale e contenuti sessuali indesiderati". Lo scorso mese, la commissione ha multato X di 120 milioni di euro per violazione della legge UE. La piattaforma è stata accusata di ingannare gli utenti, bloccare ricercatori indipendenti ed evitare la responsabilità.
Il regolatore UE ha dichiarato che X aveva assegnato spunte blu "ingannevoli" ad account non verificati, il che potrebbe lasciare gli utenti vulnerabili a truffe e frodi. Inoltre, X non ha rispettato le norme UE sulla trasparenza pubblicitaria impedendo ai ricercatori di esaminare annunci falsi e campagne di minaccia coordinate.
In risposta all'annuncio della multa da parte della commissione, Musk ha risposto "bullshit" e in seguito ha chiesto lo scioglimento dell'UE.
A X sono stati concessi tre mesi per pagare la sanzione. Un funzionario UE si è detto fiducioso che la multa sarà pagata.
Domande Frequenti
FAQ Indagine UE su X per Immagini Esplicite Generate da Grok AI
Domande di Livello Base
1 Di cosa tratta questa indagine
L'Unione Europea sta indagando su X a causa di preoccupazioni che il suo chatbot AI Grok possa essere stato utilizzato per generare e diffondere deepfake sessualmente espliciti
2 Cos'è Grok
Grok è un chatbot di intelligenza artificiale sviluppato da xAI, un'azienda affiliata al proprietario di X/Twitter Elon Musk. È progettato per rispondere a domande e generare testo
3 Perché l'UE sta indagando su X per questo
L'UE ha una nuova legge chiamata Digital Services Act. Questa legge richiede alle piattaforme online molto grandi come X di valutare e mitigare proattivamente i rischi sui loro servizi, compresi i rischi legati alla diffusione di contenuti illegali e agli effetti negativi dell'AI
4 Cosa sono i deepfake o le immagini esplicite generate da AI
Sono foto o video falsi ma altamente realistici creati utilizzando l'intelligenza artificiale. In questo contesto, si riferisce a immagini pornografiche che raffigurano falsamente una persona reale senza il suo consenso
5 Questo è illegale
Nell'UE, la pornografia deepfake non consensuale è considerata una grave violazione dei diritti fondamentali e della dignità di una persona. Il DSA impone alle piattaforme di avere sistemi per prevenire la diffusione di tali contenuti illegali
6 Cosa potrebbe succedere a X come risultato
Se l'UE riscontrasse che X viola il DSA, l'azienda potrebbe affrontare una multa fino al 6% del suo fatturato annuo globale. In casi estremi, l'UE potrebbe persino sospendere il servizio di X in Europa
Domande Avanzate / Pratiche
7 Quale parte specifica del DSA X sta potenzialmente violando
L'indagine si concentra sulla conformità di X agli obblighi del DSA riguardanti la valutazione e la mitigazione del rischio. L'UE sospetta che X potrebbe non aver fatto abbastanza per identificare e ridurre i rischi legati all'AI generativa come Grok, in particolare riguardo alla diffusione di contenuti illegali e alla manipolazione del discorso civico
8 In che modo questo è diverso dalla moderazione regolare dei contenuti espliciti
Questo riguarda specificamente i contenuti generati da AI, che possono essere creati su larga scala e sono più difficili da rilevare rispetto ai media caricati standard. L'indagine mette in dubbio se le politiche di moderazione dei contenuti e le salvaguardie tecnologiche di X siano adeguate per questa nuova minaccia in rapida evoluzione
9 Significa che Grok stesso è progettato per creare questo contenuto
Non necessariamente. L'indagine è
