Comisia Europeană a deschis o anchetă privind platforma X a lui Elon Musk, în legătură cu crearea de imagini sexual explicite și potențiala răspândire a materialelor de abuz sexual asupra copiilor de către chatbot-ul său AI, Grok.
Ancheta formală, lansată luni, extinde și o investigație existentă privind sistemele de recomandare ale X – algoritmii care sugerează utilizatorilor conținut nou.
Grok a stârnit indignare internațională permițând utilizatorilor să dezbrace digital imagini cu femei și copii și să le plaseze în poze sugestive. Potrivit cercetătorilor de la Centrul pentru Combaterea Urii Digitale, Grok a generat aproximativ 3 milioane de imagini sexualizate în mai puțin de două săptămâni, inclusiv 23.000 care păreau să înfățișeze copii.
Comisia a declarat că investigația va "evalua dacă compania a evaluat și a atenuat corespunzător riscurile" rezultate din funcțiile lui Grok în UE. Aceasta include riscuri legate de distribuirea de conținut ilegal, cum ar fi imagini explicite manipulate și materiale care pot constitui abuz sexual asupra copiilor.
Ancheta este desfășurată în baza Legii serviciilor digitale (DSA) a UE, o lege relativ nouă concepută pentru a proteja utilizatorii de internet de diverse prejudicii online.
Un oficial al Comisiei a declarat jurnaliștilor că măsurile implementate de X pentru a aborda problema nu au fost convingătoare. Inițial, după scandalul legat de imaginile manipulate, X a limitat accesul la Grok doar pentru abonații plătitori. Cu toate acestea, după presiunea autorităților de reglementare europene, compania și-a schimbat abordarea. La începutul acestei luni, X a anunțat că a introdus măsuri pentru a împiedica ca Grok să editeze imaginile unor persoane reale în haine revelatoare.
Un oficial al Comisiei a remarcat că acești pași nu abordează preocupările mai largi legate de Grok. Ancheta examinează riscurile sistematice legate de generarea de conținut ilegal, inclusiv materiale care înfățișează violența împotriva femeilor și abuzul sexual asupra copiilor. Oficialul a declarat că X nu are "măsuri eficiente de atenuare ... pentru a reduce riscul pe platforma lor".
Anunțând ancheta, Henna Virkkunen, oficialul principal al Comisiei pentru suveranitate tehnologică, securitate și democrație, a declarat: "Deepfake-urile sexuale fără consimțământ ale femeilor și copiilor reprezintă o formă violentă și inacceptabilă de degradare. Prin această investigație, vom determina dacă X și-a îndeplinit obligațiile legale în temeiul DSA sau dacă a tratat drepturile cetățenilor europeni – inclusiv ale femeilor și copiilor – ca daune colaterale ale serviciului său."
Pe lângă ancheta privind imaginile explicite, Comisia extinde o anchetă lansată în decembrie 2023 privind sistemele de recomandare ale X. Aceasta vine după anunțul companiei că intenționează să adopte un model bazat pe Grok pentru filtrarea informațiilor și conținutului pentru utilizatori.
Această mișcare vine după ce regulatorul britanic pentru media, Ofcom, a anunțat la începutul acestei luni propria anchetă privind conținutul "scârbos" și ilegal de pe X.
Comisia a fost criticată pe scară largă pentru că a fost prea lentă în aplicarea DSA, în special în ceea ce privește X.
"Ancheta vine prea târziu, dar poate trimite încă un semnal clar că platformele trebuie să respecte legea europeană", a declarat europarlamentarul german Verzilor, Alexandra Geese. "Acest caz este clar. Paguba adusă milioanelor de femei și multor copii este ireparabilă. Sperăm că Comisia va folosi această lecție pentru a acționa mai rapid în viitor."
Oficialii UE au respins astfel de critici, menționând 15 anchete în curs în temeiul DSA, care se aplică companiilor din februarie 2024.
Regina Doherty, vicepreședinte irlandez de centru-drept al Parlamentului European, a salutat ancheta formală. "Când apar rapoarte credibile despre sistemele AI folosite în moduri care vătămă femei și copii, este esențial ca dreptul UE să fie examinat și aplicat fără întârziere", a spus Doherty.
Ca răspuns la anchetă, X a furnizat un link către o declarație pe care a publicat-o pe 14 ianuarie: "Rămânem dedicați să facem din X o platformă sigură pentru toată lumea și continuăm să avem toleranță zero pentru orice forme de exploatare sexuală a copiilor, nuditate fără consimțământ și conținut sexual nedorit."
Luna trecută, comisia a amendat X cu 120 de milioane de euro pentru încălcarea legislației UE. Platforma a fost acuzată că a înșelat utilizatorii, a blocat cercetătorii independenți și a evitat responsabilitatea.
Regulatorul UE a declarat că X a atribuit bifă albastră "înșelătoare" unor conturi neverificate, ceea ce ar putea lăsa utilizatorii vulnerabili la înșelăciuni și fraudă. În plus, X nu a respectat normele UE privind transparența publicității, împiedicând cercetătorii să examineze reclame false și campanii de amenințare coordonate.
Ca răspuns la anunțul comisiei privind amendă, Musk a răspuns "prostii" și a cerut mai târziu dizolvarea UE.
X a primit trei luni pentru a plăti penalitatea. Un oficial UE și-a exprimat încrederea că amenda va fi plătită.
Întrebări frecvente
Întrebări frecvente: Ancheta UE privind X și imaginile explicite generate de AI-ul Grok
Întrebări de nivel începător
1. Despre ce este această anchetă?
Uniunea Europeană investighează X din cauza îngrijorărilor că chatbot-ul său AI, Grok, ar fi putut fi folosit pentru a genera și răspândi imagini deepfake sexual explicite.
2. Ce este Grok?
Grok este un chatbot de inteligență artificială dezvoltat de xAI, o companie afiliată proprietarului X/Twitter, Elon Musk. Este conceput să răspundă la întrebări și să genereze text.
3. De ce investighează UE X pentru asta?
UE are o lege nouă numită Legea serviciilor digitale (DSA). Această lege impune platformelor online foarte mari, precum X, să evalueze și să atenueze proactiv riscurile pe serviciile lor, inclusiv riscurile legate de răspândirea conținutului ilegal și efectele negative ale AI.
4. Ce sunt deepfake-urile sau imaginile explicite generate de AI?
Acestea sunt fotografii sau videoclipuri false, dar extrem de realiste, create folosind inteligența artificială. În acest context, se referă la imagini pornografice care înfățișează fals o persoană reală fără consimțământul acesteia.
5. Este acest lucru ilegal?
În UE, pornografia deepfake fără consimțământ este considerată o încălcare gravă a drepturilor fundamentale și a demnității unei persoane. DSA obligă platformele să aibă sisteme pentru a preveni răspândirea unui astfel de conținut ilegal.
6. Ce s-ar putea întâmpla cu X ca urmare?
Dacă UE constată că X încalcă DSA, compania ar putea primi o amendă de până la 6% din venitul său anual global. În cazuri extreme, UE ar putea chiar să suspende serviciul X în Europa.
Întrebări avansate / practice
7. Ce parte specifică a DSA o încalcă potențial X?
Ancheta se concentrează pe conformitatea X cu obligațiile DSA privind evaluarea și atenuarea riscurilor. UE suspectează că X nu ar fi făcut destul pentru a identifica și reduce riscurile legate de AI generativă, precum Grok, în special în ceea ce privește răspândirea conținutului ilegal și manipularea discursului civic.
8. Cum diferă aceasta de moderarea obișnuită a conținutului explicit?
Aceasta se referă în mod specific la conținutul generat de AI, care poate fi creat la scară largă și este mai greu de detectat decât media standard încărcată. Ancheta pune la îndoială dacă politicile de moderare a conținutului și garanțiile tehnologice ale X sunt adecvate pentru această nouă amenințare în evoluție rapidă.
9. Înseamnă asta că Grok este conceput în mod specific pentru a crea acest conținut?
Nu neapărat. Ancheta este
