Espanjan hallitus pyytää syyttäjiä tutkimaan sosiaalisen median yrityksiä X, Metaa ja Tiktokia selvittääkseen, ovatko ne syyllistyneet rikoksiin väitetysti sallimalla tekoälynsä luoda ja levittää lapsipornoa.
Pääministeri Pedro Sánchez sanoi päätöksen tavoittelevan "lastemme ja tyttäremme mielenterveyttä, arvokkuutta ja oikeuksia" suojellen ja lopettaa suurten sosiaalisen median alustojen "rangaistamattomuuden".
Toimenpide perustuu asiantuntijaraporttiin, joka analysoi mahdollista rikosoikeudellista vastuuta käytännöistä kuten seksuaalisen sisällön luominen ja levittäminen sekä lasten seksuaalinen hyväksikäyttö syväväärennösten tai manipuloitujen kuvien kautta, jotka loukkaavat uhrien arvokkuutta. Raportti varoitti, että sosiaalisen median yritykset voivat olla mukana mahdollistamalla tällaisten materiaalien nopean, laajan ja läpinäkymättömän levittämisen, mikä vaikeuttaa havaitsemista ja helpottaa verkostoja, jotka tuottavat, jakavat ja hyötyvät siitä.
Hallitus hyväksyi toimenpiteen tiistaina, kun hallitus valmistelee toimenpiteitä kuten alle 16-vuotiaiden sosiaalisen median käyttökieltoa ja lainsäädäntöä, joka velvoittaa teknologiayhtiöt vastuulliseksi haitallisesta sisällöstä. Tämä seuraa alle kuukausi sitten käynnistettyä Euroopan komission tutkintaa X:stä seksuaalisesti eksplisiittisistä kuvista ja mahdollisesta sen tekoälychatbotin Grokin luomasta lapsipornosta.
Tiistaina Irlannin tietosuojavaltuutetun (DPC) toimisto ilmoitti "laajamittaisesta" tutkimuksesta, joka keskittyy Grokin generatiiviseen tekoälytoimintoon. Apulaisvaltuutettu Graham Doyle sanoi DPC:n tutkivan, voisivatko käyttäjät kehottaa Grokia luomaan seksualisoituja kuvia oikeista ihmisistä, mukaan lukien lapsista, ja noudattiko X GDPR-velvoitteitaan EU/ETA-kansalaisten henkilötietojen suhteen.
Espanjan hallituksen tiedottaja Elma Saiz totesi, että Madrid ei salli lasten digitaalista seksuaaliväkivaltaa "vahvistettavan tai suojeltavan" algoritmien avulla, korostaen lasten turvallisuutta, yksityisyyttä ja vapautta. Hallitus pyytää virallisesti pääsyyttäjää tutkimaan ja tarvittaessa syyttämään rikoksista syyllistyneitä yrityksiä.
Meta sanoi, ettei voi kommentoida ehdotettua tutkintaa ilman yksityiskohtaisia tietoja, mutta korosti vahvaa kantaaansa lasten seksuaalisen hyväksikäyttöä ja suostumuksetonta intiimiä kuvamateriaalia vastaan, olipa se todellista vai tekoälyllä luotua, sekä käytäntöään poistaa tällainen sisältö. Myös X:ltä ja Tiktokilta on pyydetty kommenttia.
Sánchezin pyrkimykset saada sosiaalisen median yritykset vastuuseen ja suojella lapsia siitä, mitä hän kutsuu "digitaaliseksi villiksi länniksi", ovat herättäneet voimakkaita reaktioita joiltakin suurten teknologiayhtiöiden omistajilta. Aikaisemmin tässä kuussa hän väitti, että kiireellisiä toimenpiteitä tarvitaan, koska sosiaalinen mediasta on tullut "epäonnistunut valtio, jossa lakeja ei noudateta ja rikoksia siedetään".
Hän arvosteli myös Elon Muskin käyttäneen X:ää "vahvistamaan disinformaatiota" hallituksen päätöksestä säännöllistää 500 000 paperitonta työntekijää ja turvapaikanhakijaa, todennäen, että Musk itse on maahanmuuttaja. Musk vastasi kutsumalla Sánchezia "tyranniksi ja Espanjan kansan petturiksi" sekä "oikeaksi fasistiseksi totalitaristiksi".
Espanjan hallituksen suunnitelmat herättivät kritiikkiä myös venäläiseltä teknologiayrittäjältä ja Telegramin perustajajäseneltä Pavel Durovilta. Massaviestissä, joka lähetettiin kaikille Espanjan Telegram-käyttäjille, hän syytti Sánchezin hallitusta "ajamasta vaarallista uutta lainsäädäntöä, joka uhkaa internetvapauksianne" ja varoitti, että toimenpiteet voivat muuttaa Espanjan "valvontavaltioksi 'suojelun' varjolla".
Espanjan hallituksen lähteet vastasivat toteamalla, että Durovin ennenkuulumaton viesti miljoonille käyttäjille tarkoitti heikentää luottamusta instituutioihin ja korosti sosiaalisen median ja viestintäsovellusten sääntelyn tarvetta. "Espanjalaiset eivät voi elää maailmassa, jossa ulkomaiset teknologiaylijättiläiset voivat täyttää puhelimemme propagandalla haluamallaan tavalla yksinkertaisesti siksi, että hallitus on ilmoittanut toimenpiteistä alaikäisten suojelemiseksi ja lain täytäntöönpanon varmistamiseksi", he sanoivat.
Kasvavat huolenaiheet sosiaalisen median haitallisista vaikutuksista ovat saaneet useat hallitukset, mukaan lukien Espanjan, Britannian, Kreikan ja Ranskan, ottamaan käyttöön tai harkitsemaan tiukempaa lainsäädäntöä. Joulukuussa Australiasta tuli ensimmäinen maa, joka kielsi alle 16-vuotiailta pääsyn tällaisille alustoille.
Usein kysytyt kysymykset
Tässä on luettelo usein kysytyistä kysymyksistä Espanjan lähestymistavasta tekoälyn luomaan lasten hyväksikäyttösisältöön, muotoiltuna sosiaalisen median keskustelua varten.
Aloittelijatason kysymykset
1. Mitä tekoälyn luoma lasten hyväksikäyttösisältö tarkalleen on?
Se on realistisia kuvia tai videoita lapsen seksuaalisesta hyväksikäytöstä, jotka on luotu kokonaan tekoälyllä eikä niiden tuotannossa ole mukana oikeita lapsia. Se on kuitenkin edelleen laitonta ja haitallista.
2. Onko tämä edes ongelma Espanjassa?
Kyllä, Espanjan viranomaiset, kuten Guardia Civil, ovat tunnistaneet sen kasvavaksi ja vakavaksi uhaksi, koska se lisää kysyntää ja normalisoi hyväksikäyttöä, vaikka suoraa uhria ei kuvattaisikaan.
3. Onko tällainen materiaali laitonta Espanjassa?
Ehdottomasti. Espanjan laki kohtelee tekoälyn luomaa lapsipornografiaa samalla tavalla kuin materiaalia, jossa on mukana oikeita lapsia. Sen hallussapito, levittäminen tai luominen on vakava rikos.
4. Näin epäilyttävän tekoälykuvan verkossa. Mitä minun pitäisi tehdä?
Älä jaa sitä. Ilmoita siitä välittömästi alustalle, jolla näit sen. Voit myös ilmoittaa siitä anonyymisti Espanjan viranomaisille Guardia Civilin verkkosivuston kautta tai ANAR-säätiön lastensuojelun puhelinnumerossa.
5. Miksi se on haitallista, jos oikeaa lasta ei satuteta kuvan tekemisessä?
Se ikuistaa lasten seksualisoinnin, sitä voidaan käyttää oikeiden uhrien houkuttelemiseen ja se ruokkii vaarallista markkinaa. Se aiheuttaa myös syvää psykologista vahinkoa lapsille, joiden kasvot varastetaan ja asetetaan kuvien päälle.
Kehittyneet / käytännön kysymykset
6. Miten Espanjan laki sopeutuu käsittelemään tätä uutta teknologiaa?
Espanja toteuttaa EU:n digitaalisten palvelusten lakia, joka velvoittaa alustoja arvioimaan ja lieventämään tällaisia riskejä. Myös ehdotetun EU:n tekoälylain ja säädösten vahvaa tukea on, jotka velvoittaisivat teknologiayhtiöt havaitsemaan ja ilmoittamaan tällaisesta sisällöstä.
7. Mitkä ovat suurimmat haasteet Espanjan poliisille näiden tapausten tutkinnassa?
Sisällön määrä, salauksen ja pimeän verkon käyttö sekä se nopeus, jolla tekoälytyökalut kehittyvät. Digitaalisten jalanjälkien jäljittäminen ja kansainvälinen yhteistyö ovat avainasemassa ja resurssiintensiivisiä.
8. Voivatko sosiaalisen median alustojen tekoälytyökalut havaita tämän sisällön tehokkaasti?
Se on aseidenriento. Vaikka alustat käyttävät tekoälyä tunnistamaan tunnetut mallit, uudet tekoälygeneraattorit luovat jatkuvasti uusia, ainutlaatuisia kuvia, jotka välttävät nykyiset suodattimet. Havaitseminen paranee, mutta se ei ole täydellistä.
9. Mikä on keskustelu asiakaspuolen skannauksen ympärillä Espanjassa?
Tämä on
