Guvernul spaniol va solicita procurorilor să investigheze companiile de social media X, Meta și TikTok pentru a stabili dacă au comis infracțiuni prin faptul că au permis, se presupune, inteligenței lor artificiale să genereze și să răspândească materiale cu abuzuri sexuale asupra copiilor.
Prim-ministrul Pedro Sánchez a declarat că decizia urmărește să protejeze „sănătatea mintală, demnitatea și drepturile fiilor și fiicelor noastre” și să pună capăt „impunității” marilor platforme de social media.
Acțiunea se bazează pe un raport de experți care analizează potențiala răspundere penală pentru practici precum crearea și răspândirea de conținut sexual și abuzuri sexuale asupra copiilor prin deepfake-uri sau imagini manipulate, care încalcă demnitatea victimelor. Raportul a avertizat că firmele de social media ar putea fi implicate prin facilitarea diseminării rapide, pe scară largă și opace a unor astfel de materiale, ceea ce face detectarea dificilă și facilitează rețelele care le produc, distribuie și profită de pe urma lor.
Cabinetul a aprobat măsura marți, în timp ce guvernul pregătește măsuri care includ interzicerea rețelelor sociale pentru sub 16 ani și legislație pentru a trage companiile tech la răspundere pentru conținutul dăunător. Aceasta vine după ce Comisia Europeană a demarat acum mai puțin de o lună o anchetă asupra X privind imaginile cu conținut sexual explicit și posibile materiale cu abuzuri sexuale asupra copiilor generate de chatbot-ul său AI, Grok.
Marți, Comisia Irlandeză pentru Protecția Datelor (DPC) a anunțat o anchetă „la scară largă” concentrată pe funcționalitatea de inteligență artificială generativă a lui Grok. Comisarul adjunct Graham Doyle a declarat că DPC examinează dacă utilizatorii ar putea solicita lui Grok să genereze imagini sexualizate cu persoane reale, inclusiv copii, și dacă X a respectat obligațiile GDPR privind datele personale ale cetățenilor din UE/SEE.
Purtața de cuvânt a guvernului spaniol, Elma Saiz, a declarat că Madrid nu va permite ca violența sexuală digitală împotriva copiilor să fie „amplificată sau protejată” de algoritmi, subliniind siguranța, intimitatea și libertatea copiilor. Cabinetul va solicita în mod oficial procurorului general să investigheze și, după caz, să acționeze în justiție împotriva companiilor infractoare.
Meta a declarat că nu poate comenta asupra anchetei propuse fără informații detaliate, dar a subliniat poziția sa fermă împotriva exploatării sexuale a copiilor și a imaginilor intime fără consimțământ, fie ele reale sau generate de IA, precum și politica sa de eliminare a unui astfel de conținut. X și TikTok au fost, de asemenea, contactate pentru comentarii.
Eforturile lui Sánchez de a trage companiile de social media la răspundere și de a proteja copiii de ceea ce el numește „vestul sălbatic digital” au stârnit reacții puternice de la unii proprietari de firme tech majore. La începutul acestei luni, el a susținut că este nevoie de acțiune urgentă deoarece rețelele sociale au devenit un „stat eșuat în care legile sunt ignorate și crimele sunt tolerate”.
El l-a criticat, de asemenea, pe Elon Musk pentru că a folosit X pentru a „amplifica dezinformarea” cu privire la decizia guvernului de a regulariza 500.000 de muncitori și solicitanți de azil fără acte, observând că Musk este el însuși un migrant. Musk a răspuns numindu-l pe Sánchez „un tiran și un trădător al poporului Spaniei” și un „adevărat totalitar fascist”.
Planurile guvernului spaniol au atras, de asemenea, critici din partea antreprenorului rus în tehnologie și cofondator al Telegram, Pavel Durov. Într-un mesaj în masă trimis tuturor utilizatorilor Telegram din Spania, el a acuzat administrația Sánchez că „promovează noi reglementații periculoase care amenință libertățile dumneavoastră pe internet”, avertizând că măsurile ar putea transforma Spania „într-un stat de supraveghere sub pretextul 'protecției'”.
Surse ale guvernului spaniol au răspuns afirmând că mesajul fără precedent al lui Durov către milioane de utilizatori avea scopul de a submina încrederea în instituții și a evidențiat necesitatea de a reglementa rețelele sociale și aplicațiile de mesagerie. „Spaniolii nu pot trăi într-o lume în care oligarhii străini din tech să ne poată inunda telefoanele cu propagandă după bunul plac, doar pentru că guvernul a anunțat măsuri pentru a proteja minorii și a aplica legea”, au declarat ei.
Preocupările tot mai mari cu privire la efectele dăunătoare ale rețelelor sociale au determinat mai multe guverne, inclusiv cele din Spania, Marea Britanie, Grecia și Franța, să adopte sau să ia în considerare o legislație mai strictă. În decembrie, Australia a devenit prima țară care a interzis copiilor sub 16 ani accesul pe astfel de platforme.
Întrebări frecvente
Desigur. Iată o listă de întrebări frecvente despre abordarea Spaniei privind conținutul generat de IA cu abuzuri asupra copiilor, structurată pentru discuții pe rețelele sociale.
Întrebări de nivel începător
1. Ce este exact conținutul cu abuzuri asupra copiilor generat de IA?
Sunt imagini sau videoclipuri realiste cu abuzuri sexuale asupra copiilor create în întregime de inteligența artificială, fără a implica copii reali în producție. Cu toate acestea, este în continuare ilegal și dăunător.
2. Este aceasta o problemă reală în Spania?
Da, autoritățile spaniole, precum Guardia Civil, l-au identificat ca pe o amenințare în creștere și gravă, deoarece alimentează cererea și normalizează abuzul, chiar dacă nicio victimă directă nu este fotografiată.
3. Este acest lucru ilegal în Spania?
Absolut. Legea spaniolă tratează materialul cu abuzuri sexuale asupra copiilor generat de IA la fel ca materialul care implică copii reali. Deținerea, distribuirea sau crearea acestuia este o infracțiune gravă.
4. Am văzut o imagine AI suspectă online. Ce ar trebui să fac?
Nu o distribuiți. Raportați-o imediat pe platforma pe care ați văzut-o. De asemenea, o puteți raporta anonim autorităților spaniole prin site-ul web al Guardia Civil sau prin linia telefonică a Fundației ANAR pentru protecția copilului.
5. De ce este dăunător dacă niciun copil real nu este rănit în crearea imaginii?
Perpetuează sexualizarea copiilor, poate fi folosită pentru a ademeni victime reale și alimentează o piață periculoasă. De asemenea, provoacă un prejudiciu psihologic profund copiilor ale căror fețe sunt furate și suprapuse.
Întrebări avansate/practice
6. Cum se adaptează legea spaniolă pentru a aborda această nouă tehnologie?
Spania implementează Legea serviciilor digitale a UE, care obligă platformele să evalueze și să atenueze riscuri ca acestea. Există, de asemenea, un sprijin puternic pentru propunerea de Lege a IA a UE și pentru reglementările care ar impune companiilor tech să detecteze și să raporteze astfel de conținut.
7. Care sunt cele mai mari provocări pentru poliția spaniolă în investigarea acestor cazuri?
Volumul de conținut, utilizarea criptării și a dark web-ului și viteza cu care evoluează instrumentele de IA. Trasarea amprentelor digitale și colaborarea internațională sunt cheie și necesită resurse intensive.
8. Pot instrumentele de AI ale platformelor de social media să detecteze eficient acest conținut?
Este o cursă a înarmării. În timp ce platformele folosesc IA pentru a detecta modele cunoscute, noile generatoare de IA creează constant imagini noi și unice care evită filtrele actuale. Detectarea se îmbunătățește, dar nu este perfectă.
9. Care este dezbaterea în jurul scanării pe partea clientului în Spania?
Aceasta este
