Euroopan unioni on aloittanut tutkinnan X:ää vastaan sen Grok-tekoälyn tuottamien seksuaalisesti eksplisiittisten kuvien vuoksi.

Euroopan komissio on avannut tutkinnan Elon Muskin X-alustasta koskien seksuaalisesti eksplisiittisten kuvien luomista ja sen tekoälychatbotin Grokin mahdollista levittämää lapsiseksuaalista hyväksikäyttöaineistoa.

Maanantaina käynnistetty virallinen tutkinta laajentaa myös olemassa olevaa tutkimusta X:n suosittelujärjestelmistä – algoritmeista, jotka ehdottavat käyttäjille uutta sisältöä.

Grok on aiheuttanut kansainvälistä pahennusta mahdollistamalla käyttäjien digitaalisesti riisua naisten ja lasten kuvia sekä asettaa ne vihjaileviin asentoihin. Digital Hate -vastaisen keskuksen tutkijoiden mukaan Grok tuotti alle kahdessa viikossa noin 3 miljoonaa seksualisoitua kuvaa, mukaan lukien 23 000, jotka näyttivät kuvaavan lapsia.

Komissio totesi, että tutkinta "arvioi, onko yritys asianmukaisesti arvioitu ja lievittänyt riskejä", jotka johtuvat Grokin toiminnoista EU:ssa. Tämä sisältää riskejä, jotka liittyvät laittoman sisällön jakamiseen, kuten manipuloituihin eksplisiittisiin kuviin ja aineistoon, joka voi muodostaa lapsiseksuaalista hyväksikäyttöä.

Tutkinta toteutetaan EU:n digitaalisten palvelusten lain (DSA) nojalla, suhteellisen uuden lain, jonka tarkoituksena on suojata internet-käyttäjiä erilaisilta verkkohaitalta.

Komission virkamies kertoi toimittajille, että X:n toteuttamat toimenpiteet ongelman ratkaisemiseksi eivät ole olleet vakuuttavia. Aluksi, manipuloitujen kuvien aiheuttaman pahennuksen jälkeen, X rajoitti pääsyn Grokiin maksaville tilaajille. Eurooppalaisten sääntelijöiden painostuksen jälkeen yritys kuitenkin muutti lähestymistapaansa. Aikaisemmin tässä kuussa X ilmoitti ottaneensa käyttöön toimenpiteitä estääkseen Grokia muokkaamasta oikeiden ihmisten kuvia paljastaviin vaatteisiin.

Komission virkamies totesi, että nämä toimet eivät käsitä laajempia huolenaiheita Grokista. Tutkinta tarkastelee systemaattisia riskejä, jotka liittyvät laittoman sisällön tuottamiseen, mukaan lukien väkivaltaa naisia ja lapsiseksuaalista hyväksikäyttöä kuvaava aineisto. Virkamies totesi, että X:llä ei ole "tehokkaita lieventäviä toimenpiteitä … riskin vähentämiseksi alustallaan".

Komission teknologiasuvereniteetin, turvallisuuden ja demokratian vastaava johtava virkamies Henna Virkkunen sanoi tutkinnan julkistamisen yhteydessä: "Naisten ja lasten suostumuksetta luodut seksuaaliset syvätekot ovat väkivaltainen, mahdoton alentumisen muoto. Tällä tutkimuksella selvitämme, onko X täyttänyt lain velvoitteensa DSA:n mukaisesti vai onko se kohdellut eurooppalaisten kansalaisten – mukaan lukien naisten ja lasten – oikeuksia palvelunsa sivuvahinkoina."

Eksplisiittisiin kuvin liittyvän tutkinnan lisäksi komissio laajentaa joulukuussa 2023 käynnistettyä tutkimusta X:n suosittelujärjestelmistä. Tämä seuraa yrityksen ilmoitusta, että se aikoo ottaa käyttöön Grokiin perustuvan mallin käyttäjien tiedon ja sisällön suodattamiseen.

Tämä liike tapahtuu sen jälkeen, kun Britannian median sääntelyviranomainen Ofcom ilmoitti aikaisemmin tässä kuussa omasta tutkimuksestaan "iljettävästä" ja laittomasta sisällöstä X:ssä.

Komissiota on arvosteltu laajalti liian hitaasta DSA:n täytäntöönpanosta, erityisesti X:n osalta.

"Tutkinta tulee liian myöhään, mutta voi silti lähettää selkeän signaalin, että alustojen on noudatettava eurooppalaista lakia", saksalainen vihreä europarlamentaarikko Alexandra Geese sanoi. "Tämä tapaus on selkeä. Miljoonien naisten ja monien lasten vahinko on korjaamatonta. Toivomme, että komissio käyttää tätä oppia toimimaan nopeammin tulevaisuudessa."

EU-virkamiehet ovat torjuneet tällaiset arvostelut viitaten 15 käynnissä olevaan tutkintaan DSA:n nojalla, joka on ollut sovellettavissa yrityksiin helmikuusta 2024 lähtien.

Euroopan parlamentin keskustaoikeistolainen irlantilainen varapuheenjohtaja Regina Doherty toivotti virallisen tutkimuksen tervetulleeksi. "Kun uskottavia raportteja ilmaantuu tekoälyjärjestelmien käytöstä tavalla, joka vahingoittaa naisia ja lapsia, on välttämätöntä, että EU-lakia tarkastellaan ja täytetään viivyttelemättä", Doherty sanoi.

Vastauksena tutkintaan X tarjosi linkin 14. tammikuuta julkaisemaansa lausuntoon: "Pysymme sitoutuneina tekemään X:stä turvallisen alustan kaikille ja jatkamme nollatoleranssia kaikenlaisille lapsiseksuaaliselle hyväksikäytölle, suostumuksettomille alastomuudelle ja ei-toivotulle seksuaaliselle sisällölle." Viime kuussa komissio määräsi X:lle 120 miljoonan euron sakon EU-lain rikkomisesta. Alustaa syytettiin käyttäjien harhaanjohtamisesta, itsenäisten tutkijoiden estämisestä ja vastuun välttämisestä.

EU-sääntelijä totesi, että X oli antanut "harhaanjohtavia" sinisiä valintamerkkejä vahvistamattomille tileille, mikä saattaa altistaa käyttäjät huijauksille ja petoksille. Lisäksi X ei täyttänyt EU:n läpinäkyvyyssääntöjä mainontaa koskien estämällä tutkijoita tarkastelemasta väärennettyjä mainoksia ja koordinoiduja uhkakampanjoita.

Vastauksena komission sakkoilmoitukseen Musk vastasi "paskapuhetta" ja myöhemmin vaati EU:n hajottamista.

X:lle on annettu kolme kuukautta maksaa rangaistus. EU-virkamies ilmaisi luottamuksen siihen, että sakko maksetaan.



Usein kysytyt kysymykset
Usein kysytyt kysymykset EU:n tutkinnasta X:stä Grokin tekoälyn luomien eksplisiittisten kuvien vuoksi



Aloittelijatason kysymykset



1 Mistä tämä tutkinta koskee

Euroopan unioni tutkii X:ää huolista, että sen tekoälychatbotia Grokia on mahdollisesti käytetty seksuaalisesti eksplisiittisten syvätekokuvien luomiseen ja levittämiseen



2 Mikä on Grok

Grok on tekoälychatbot, jonka on kehittänyt xAI, X:n/Twitterin omistajan Elon Muskin yritys. Sen on tarkoitus vastata kysymyksiin ja luoda tekstiä



3 Miksi EU tutkii X:ää tästä

EU:lla on uusi laki nimeltä digitaalisten palvelusten laki. Tämä laki edellyttää erittäin suurilta verkkoplatformeilta, kuten X:ltä, että ne arvioivat ja lievittävät proaktiivisesti riskejä palveluissaan, mukaan lukien riskit, jotka liittyvät laittoman sisällön leviämiseen ja tekoälyn negatiivisiin vaikutuksiin



4 Mitä ovat syvätekot tai tekoälyn luomat eksplisiittiset kuvat

Nämä ovat väärennettyjä mutta erittäin realistisia valokuvia tai videoita, jotka on luotu tekoälyä käyttäen. Tässä yhteydessä se viittaa pornografisiin kuvin, jotka väärin esittävät oikeaa henkilöä ilman hänen suostumustaan



5 Onko tämä laitonta

EU:ssa suostumukseton syvätekopornografia katsotaan vakavaksi henkilön perusoikeuksien ja ihmisarvon loukkaukseksi. DSA määrää alustoille järjestelmät estämään tällaisten laittomien sisältöjen leviämisen



6 Mitä X:lle voi tapahtua seurauksena

Jos EU toteaa X:n rikkoneen DSA:ta, yritys voi saada sakon jopa 6 prosenttia sen maailmanlaajuisesta vuosittaisesta liikevaihdosta. Äärimmäisissä tapauksissa EU voi jopa keskeyttää X:n palvelun Euroopassa



Edistyneet / käytännön kysymykset



7 Mitä tiettyä DSA:n osaa X mahdollisesti rikkoo

Tutkinta keskittyy X:n noudattamiseen DSA-velvoitteita riskien arvioinnissa ja lieventämisessä. EU epäilee, että X ei ole tehnyt tarpeeksi tunnistaakseen ja vähentääkseen generatiiviseen tekoälyyn, kuten Grokiin, liittyviä riskejä, erityisesti laittoman sisällön leviämisen ja kansalaisten keskustelun manipuloinnin suhteen



8 Miten tämä eroaa tavallisesta eksplisiittisen sisällön moderointiin

Tämä koskee erityisesti tekoälyn luomaa sisältöä, jota voidaan luoda suuressa mittakaavassa ja joka on vaikeampi havaita kuin tavallinen ladattu media. Tutkinta kyseenalaistaa, ovatko X:n sisällön moderointikäytännöt ja teknologiset suojatoimet riittäviä tälle uudelle, nopeasti kehittyvälle uhalta



9 Tarkoittaako tämä, että Grok itse on suunniteltu luomaan tätä sisältöä

Ei välttämättä. Tutkinta on