Den Europæiske Kommission har indledt en undersøgelse af Elon Musks platform X i forbindelse med skabelsen af seksuelt eksplicitte billeder og den potentielle spredning af materiale om seksuelt misbrug af børn via dens AI-chatbot, Grok.
Den formelle undersøgelse, som blev iværksat mandag, udvider også en eksisterende undersøgelse af X's anbefalersystemer – algoritmer, der foreslår nyt indhold til brugere.
Grok har vakt international forargelse ved at give brugerne mulighed for digitalt at afklæde billeder af kvinder og børn og placere dem i suggestive positurer. Ifølge forskere fra Center for Countering Digital Hate genererede Grok omkring 3 millioner sexualiserede billeder på under to uger, herunder 23.000, der tilsyneladende afbildede børn.
Kommissionen erklærede, at undersøgelsen vil "vurdere, om virksomheden har vurderet og afhjulpet risici korrekt" som følge af Groks funktioner i EU. Dette omfatter risici relateret til deling af ulovligt indhold, såsom manipulerede eksplicitte billeder og materiale, der kan udgøre seksuelt misbrug af børn.
Undersøgelsen gennemføres i henhold til EU's lov om digitale tjenester (DSA), en relativt ny lov, der er designet til at beskytte internetbrugere mod forskellige online-skader.
En kommissionsembedsmand fortalte journalister, at de foranstaltninger, X har implementeret for at løse problemet, ikke har været overbevisende. Oprindeligt, efter protesterne over manipulerede billeder, begrænsede X adgangen til Grok til betalende abonnenter. Men efter pres fra europæiske tilsynsmyndigheder ændrede virksomheden tilgang. Tidligere på måneden meddelte X, at de havde indført foranstaltninger for at forhindre Grok i at redigere billeder af rigtige mennesker til at vise afslørende tøj.
En kommissionsembedsmand bemærkede, at disse skridt ikke adresserer bredere bekymringer omkring Grok. Undersøgelsen ser på systemiske risici relateret til generering af ulovligt indhold, herunder materiale, der afbilder vold mod kvinder og seksuelt misbrug af børn. Embedsmanden erklærede, at X mangler "effektive afbødede foranstaltninger … for at reducere risikoen på deres platform."
Da undersøgelsen blev annonceret, sagde Henna Virkkunen, kommissionens ledende embedsmand for teknologisk suverænitet, sikkerhed og demokrati: "Ikke-konsensuelle seksuelle deepfakes af kvinder og børn er en voldelig, uacceptabel form for nedværdigelse. Med denne undersøgelse vil vi afgøre, om X har opfyldt sine lovmæssige forpligtelser i henhold til DSA, eller om de behandlede europæiske borgeres rettigheder – herunder kvinders og børns – som kollateralskade af deres tjeneste."
Udover undersøgelsen af eksplicitte billeder udvider Kommissionen en undersøgelse indledt i december 2023 af X's anbefalersystemer. Dette følger virksomhedens meddelelse om, at de planlægger at indføre en Grok-baseret model til at filtrere information og indhold for brugere.
Denne handling kommer efter, at den britiske medietilsynsmyndighed Ofcom tidligere på måneden annoncerede sin egen undersøgelse af "afskyeligt" og ulovligt indhold på X.
Kommissionen har mødt udbredt kritik for at være for langsom til at håndhæve DSA, især med hensyn til X.
"Undersøgelsen kommer for sent, men kan stadig sende et klart signal om, at platforme skal overholde europæisk lovgivning," sagde den tyske grønne Europa-parlamentariker Alexandra Geese. "Denne sag er klar. Skaden på millioner af kvinder og mange børn er uoprettelig. Vi håber, at Kommissionen vil bruge denne erfaring til at handle hurtigere i fremtiden."
EU-embedsmænd har afvist sådan kritik og peget på 15 igangværende undersøgelser i henhold til DSA, som har været gældende for virksomheder siden februar 2024.
Regina Doherty, en irsk centrum-højre vicepræsident for Europa-Parlamentet, ønskede den formelle undersøgelse velkommen. "Når troværdige rapporter dukker op om, at AI-systemer bruges på måder, der skader kvinder og børn, er det afgørende, at EU-lovgivningen undersøges og håndhæves uden forsinkelse," sagde Doherty.
Som svar på undersøgelsen leverede X et link til en erklæring, de offentliggjorde den 14. januar: "Vi forbliver forpligtede til at gøre X til en sikker platform for alle og har fortsat nul tolerance over for alle former for seksuel udnyttelse af børn, ikke-konsensuel nøgenhed og uønsket seksuelt indhold." Sidste månede bødeidømte kommissionen X med 120 millioner euro for at overtræde EU-lovgivning. Platformen blev beskyldt for at vildlede brugere, blokere uafhængige forskere og undgå ansvar.
Den EU-regulerende myndighed erklærede, at X havde tildelt "vildledende" blå hakmærker til ikke-verificerede konti, hvilket kunne efterlade brugere sårbare over for svindel og bedrageri. Derudover opfyldte X ikke EU's gennemsigtighedsregler vedrørende reklamer ved at forhindre forskere i at undersøge falske annoncer og koordinerede trusselskampagner.
Som svar på kommissionens meddelelse om bøden svarede Musk "bullshit" og kaldte senere for, at EU skulle opløses.
X har fået tre måneder til at betale straffen. En EU-embedsmand udtrykte tillid til, at bøden vil blive betalt.
Ofte stillede spørgsmål
FAQ om EU's undersøgelse af X i forbindelse med Grok AI-genererede eksplicitte billeder
Begynderspørgsmål
1 Hvad handler denne undersøgelse om?
Den Europæiske Union undersøger X på grund af bekymringer om, at dens AI-chatbot Grok kan være blevet brugt til at generere og sprede seksuelt eksplicitte deepfake-billeder.
2 Hvad er Grok?
Grok er en kunstig intelligens-chatbot udviklet af xAI, et selskab tilknyttet X/Twitter-ejeren Elon Musk. Den er designet til at besvare spørgsmål og generere tekst.
3 Hvorfor undersøger EU X for dette?
EU har en ny lov kaldet loven om digitale tjenester (DSA). Denne lov kræver, at meget store onlineplatforme som X proaktivt vurderer og afhjælper risici på deres tjenester, herunder risici relateret til spredning af ulovligt indhold og de negative effekter af AI.
4 Hvad er deepfakes eller AI-genererede eksplicitte billeder?
Dette er falske, men meget realistiske fotos eller videoer skabt ved hjælp af kunstig intelligens. I denne sammenhæng refererer det til pornografiske billeder, der falskt afbilder en rigtig person uden deres samtykke.
5 Er dette ulovligt?
I EU betragtes ikke-konsensuel deepfake-pornografi som en alvorlig krænkelse af en persons grundlæggende rettigheder og værdighed. DSA pålægger platforme at have systemer til at forhindre spredning af sådant ulovligt indhold.
6 Hvad kan der ske med X som følge heraf?
Hvis EU finder, at X overtræder DSA, kan virksomheden risikere en bøde på op til 6 % af dens globale årlige omsætning. I ekstreme tilfælde kunne EU endda suspendere X's tjeneste i Europa.
Avancerede / Praktiske Spørgsmål
7 Hvilken specifik del af DSA overtræder X potentielt?
Undersøgelsen fokuserer på X's overholdelse af DSA-forpligtelser vedrørende risikovurdering og -afhjælpning. EU mistænker, at X muligvis ikke har gjort nok for at identificere og reducere risici forbundet med generativ AI som Grok, især vedrørende spredning af ulovligt indhold og manipulation af den borgerlige diskurs.
8 Hvordan adskiller dette sig fra almindelig moderering af eksplicit indhold?
Dette handler specifikt om AI-genereret indhold, som kan skabes i stor skala og er sværere at opdage end standard uploadet medie. Undersøgelsen stiller spørgsmålstegn ved, om X's indholdsmodereringspolitikker og teknologiske sikkerhedsforanstaltninger er tilstrækkelige for denne nye, hurtigt udviklende trussel.
9 Betyder dette, at Grok selv er designet til at skabe dette indhold?
Ikke nødvendigvis. Undersøgelsen er
