Den europeiske kommisjonen har innledet en granskning av Elon Musks plattform X på grunn av skapelsen av seksuelt eksplisitte bilder og den potensielle spredningen av materiale som viser seksuelle overgrep mot barn av dens AI-chatbot, Grok.
Den formelle undersøkelsen, som ble igangsatt mandag, utvider også en eksisterende granskning av Xs anbefalingssystemer – algoritmer som foreslår nytt innhold til brukere.
Grok har vakt internasjonal oppstandelse ved å gjøre det mulig for brukere å kle av bilder av kvinner og barn digitalt og plassere dem i suggestive positurer. Ifølge forskere ved Center for Countering Digital Hate genererte Grok omtrent 3 millioner seksualiserte bilder på under to uker, inkludert 23 000 som tilsynelatende avbildet barn.
Kommisjonen opplyste at undersøkelsen vil "vurdere om selskapet har vurdert og begrenset risikoene på riktig måte" som oppstår fra Groks funksjoner i EU. Dette inkluderer risikoer knyttet til deling av ulovlig innhold, som manipulert eksplisitt bildemateriale og materiale som kan utgjøre seksuelle overgrep mot barn.
Undersøkelsen gjennomføres i henhold til EUs digitale tjenestelov (DSA), en relativt ny lov som er designet for å beskytte internettbrukere mot ulike skader på nettet.
En kommisjonstjenestemann fortalte journalister at tiltakene X har iverksatt for å håndtere problemet ikke har vært overbevisende. Opprinnelig, etter oppstyret rundt manipulerte bilder, begrenset X tilgangen til Grok til betalende abonnenter. Men etter press fra europeiske tilsynsmyndigheter endret selskapet tilnærmingen. Tidligere denne måneden kunngjorde X at de hadde innført tiltak for å hindre Grok i å redigere bilder av ekte mennesker til å vise avslørende klær.
En kommisjonstjenestemann påpekte at disse skrittene ikke adresserer bredere bekymringer knyttet til Grok. Undersøkelsen ser på systemrisikoer knyttet til generering av ulovlig innhold, inkludert materiale som skildrer vold mot kvinner og seksuelle overgrep mot barn. Tjenestemannen uttalte at X mangler "effektive risikoreduserende tiltak ... for å redusere risikoen på plattformen sin."
Da undersøkelsen ble kunngjort, sa Henna Virkkunen, kommisjonens ledende tjenestemann for teknologisk suverenitet, sikkerhet og demokrati: "Ikke-samtykkebaserte seksuelle deepfakes av kvinner og barn er en voldelig, uakseptabel form for nedverdigelse. Med denne undersøkelsen vil vi fastslå om X har oppfylt sine juridiske forpliktelser i henhold til DSA, eller om de behandlet rettighetene til europeiske borgere – inkludert kvinner og barn – som kollateralskade av tjenesten sin."
I tillegg til granskningen av eksplisitte bilder, utvider kommisjonen en undersøkelse som ble igangsatt i desember 2023 av Xs anbefalingssystemer. Dette kommer etter at selskapet kunngjorde at de planlegger å innføre en Grok-basert modell for å filtrere informasjon og innhold for brukere.
Dette skrittet kommer etter at den britiske medietilsynsmyndigheten Ofcom kunngjorde sin egen undersøkelse tidligere denne måneden av "avskyelig" og ulovlig innhold på X.
Kommisjonen har møtt utbredt kritikk for å være for treg med å håndheve DSA, spesielt når det gjelder X.
"Undersøkelsen kommer for sent, men kan fortsatt sende et klart signal om at plattformer må følge europeisk lov," sa den tyske grønne EU-parlamentarikeren Alexandra Geese. "Denne saken er klar. Skaden på millioner av kvinner og mange barn er uopprettelig. Vi håper at kommisjonen vil bruke denne erfaringen til å handle raskere i fremtiden."
EU-tjenestemenn har avvist slik kritikk og peker på 15 pågående undersøkelser i henhold til DSA, som har vært gjeldende for selskap siden februar 2024.
Regina Doherty, en irsk visepresident i Europaparlamentet fra det kristeligdemokratiske partiet, ønsket den formelle undersøkelsen velkommen. "Når det kommer troverdige rapporter om at AI-systemer brukes på måter som skader kvinner og barn, er det avgjørende at EU-lov undersøkes og håndheves uten forsinkelse," sa Doherty.
Som svar på undersøkelsen ga X en lenke til en uttalelse de publiserte 14. januar: "Vi forblir forpliktet til å gjøre X til en trygg plattform for alle og har fortsatt nulltoleranse for alle former for seksuell utnyttelse av barn, ikke-samtykkebasert nakenhet og uønsket seksuelt innhold." I fjor måned ila kommisjonen X en bot på 120 millioner euro for brudd på EU-lov. Plattformen ble beskyldt for å villede brukere, blokkere uavhengige forskere og unngå ansvar.
EU-regulatoren opplyste at X hadde tildelt "villedende" blå hake-merker til ikke-verifiserte kontoer, noe som kunne gjøre brukere sårbare for svindel og bedrageri. I tillegg oppfylte ikke X EUs åpenhetsregler for annonsering ved å hindre forskere i å undersøke falske annonser og koordinerte trusselkampanjer.
Som svar på kommisjonens kunngjøring om boten, svarte Musk "tull" og ba senere om at EU skulle oppløses.
X har fått tre måneder på seg til å betale boten. En EU-tjenestemann uttrykte tillit til at boten vil bli betalt.
Ofte stilte spørsmål
Ofte stilte spørsmål om EUs granskning av X på grunn av Grok AI-genererte eksplisitte bilder
Spørsmål for nybegynnere
1 Hva handler denne granskningen om?
Den europeiske union undersøker X på grunn av bekymringer for at dens AI-chatbot Grok kan ha blitt brukt til å generere og spre seksuelt eksplisitte deepfake-bilder.
2 Hva er Grok?
Grok er en kunstig intelligens-chatbot utviklet av xAI, et selskap tilknyttet X/Twitter-eier Elon Musk. Den er designet for å svare på spørsmål og generere tekst.
3 Hvorfor undersøker EU X for dette?
EU har en ny lov kalt den digitale tjenesteloven (DSA). Denne loven krever at svært store nettplattformer som X proaktivt må vurdere og begrense risikoer på tjenestene sine, inkludert risikoer knyttet til spredning av ulovlig innhold og negative effekter av AI.
4 Hva er deepfakes eller AI-genererte eksplisitte bilder?
Dette er falske, men svært realistiske bilder eller videoer skapt ved hjelp av kunstig intelligens. I denne sammenhengen refererer det til pornografiske bilder som falskt avbilder en ekte person uten deres samtykke.
5 Er dette ulovlig?
I EU anses ikke-samtykkebasert deepfake-pornografi som et alvorlig brudd på en persons grunnleggende rettigheter og verdighet. DSA pålegger plattformer å ha systemer for å forhindre spredning av slikt ulovlig innhold.
6 Hva kan skje med X som et resultat?
Hvis EU finner at X har brutt DSA, kan selskapet få en bot på opptil 6 % av sin globale årlige omsetning. I ekstreme tilfeller kan EU til og med suspendere Xs tjeneste i Europa.
Avanserte / praktiske spørsmål
7 Hvilken spesifikk del av DSA bryter X potensielt?
Granskningen fokuserer på Xs overholdelse av DSA-forpliktelser knyttet til risikovurdering og risikoreduksjon. EU mistenker at X kanskje ikke har gjort nok for å identifisere og redusere risikoene knyttet til generativ AI som Grok, spesielt angående spredning av ulovlig innhold og manipulering av sivile diskurser.
8 Hvordan skiller dette seg fra vanlig moderering av eksplisitt innhold?
Dette handler spesifikt om AI-generert innhold, som kan skapes i stor skala og er vanskeligere å oppdage enn standard opplastet media. Undersøkelsen stiller spørsmål ved om Xs innholdsmodereringspolicyer og teknologiske sikringstiltak er tilstrekkelige for denne nye, raskt utviklende trusselen.
9 Betyr dette at Grok i seg selv er designet for å skape dette innholdet?
Ikke nødvendigvis. Undersøkelsen er
