Az Európai Unió vizsgálatot indított az X ellen, miután a Grok mesterséges intelligenciája szexuális tartalmú képeket hozott létre.

Az Európai Bizottság vizsgálatot indított Elon Musk X platformja ellen, miután annak Grok nevű mesterséges intelligencia chatbotja szexuális tartalmú képek létrehozására és gyermekek szexuális visszaéléseit ábrázoló anyagok terjesztésére használhatóvá vált.

A hétfőn elindított formális vizsgálat kiterjeszti a már folyamatban lévő vizsgálatot az X ajánlórendszereire – azokra az algoritmusokra, amelyek új tartalmakat javasolnak a felhasználóknak.

A Grok nemzetközi felháborodást váltott ki azzal, hogy lehetővé tette a felhasználók számára, hogy nők és gyermekek képeit digitálisan levetkőztessék és kétértelmű pózokba helyezzék őket. A Center for Countering Digital Hate kutatói szerint a Grok kevesebb mint két hét alatt mintegy 3 millió szexualizált képet generált, amelyek közül 23 000 gyermekeket ábrázolt.

A Bizottság kijelentette, hogy a vizsgálat "felméri, hogy a vállalat megfelelően értékelte-e és enyhítette-e a kockázatokat", amelyek a Grok funkcióiból származnak az EU-ban. Ebbe beletartoznak az illegális tartalmak megosztásával kapcsolatos kockázatok, mint például a manipulált szexuális tartalmú képek és a gyermekek szexuális visszaéléseit jelentő anyagok.

A vizsgálat az EU Digitális Szolgáltatások Törvénye (DSA) keretében zajlik, amely egy viszonylag új jogszabály, amelyet az internetes felhasználók különféle online károktól való védelmére hoztak.

A Bizottság egyik tisztviselője újságíróknak elmondta, hogy az X által a probléma kezelésére bevezetett intézkedések nem voltak meggyőzőek. Kezdetben, a manipulált képek miatti felháborodás után, az X a Grokhoz való hozzáférést fizető előfizetőkre korlátozta. Azonban az európai szabályozók nyomására a vállalat megváltoztatta a stratégiáját. A hónap elején az X bejelentette, hogy olyan intézkedéseket vezetett be, amelyek megakadályozzák, hogy a Grok valódi emberek képeit felfedő ruházatba szerkessze.

A Bizottság tisztviselője megjegyezte, hogy ezek a lépések nem kezelik a Grokkal kapcsolatos szélesebb körű aggodalmakat. A vizsgálat az illegális tartalmak generálásával kapcsolatos rendszerszintű kockázatokat vizsgálja, beleértve a nők elleni erőszakot és a gyermekek szexuális visszaélését ábrázoló anyagokat. A tisztviselő kijelentette, hogy az X-nek nincsenek "hatékony enyhítő intézkedései … a platformjukon lévő kockázat csökkentésére".

A vizsgálat bejelentésekor Virkkunen Henna, a Bizottság technológiai szuverenitásért, biztonságért és demokráciáért felelős vezető tisztviselője kijelentette: "A nőkről és gyermekekről készült beleegyezés nélküli szexuális deepfake-ek erőszakos, elfogadhatatlan méltóságcsorbító formák. Ezzel a vizsgálattal megállapítjuk, hogy az X teljesítette-e a DSA keretében előírt jogi kötelezettségeit, vagy pedig az európai polgárok – köztük a nők és gyermekek – jogait szolgáltatása káros mellékhatásának tekintette."

A szexuális tartalmú képekkel kapcsolatos vizsgálaton túl a Bizottság kiterjeszti a 2023 decemberében indított vizsgálatot az X ajánlórendszereire. Ez a vállalat bejelentése után következik, amely szerint a Grokon alapuló modellt tervez alkalmazni a felhasználók számára történő információk és tartalmak szűrésére.

Ez a lépés azután következik, hogy a brit médiafelügyeleti szerv, az Ofcom a hónap elején saját vizsgálatot indított az X-en található "aljas" és illegális tartalmakkal kapcsolatban.

A Bizottságot széles körű kritika érte, amiért túl lassan hajtja végre a DSA-t, különösen az X kapcsán.

"A vizsgálat túl későn jön, de még mindig egyértelmű jelet adhat arról, hogy a platformoknak be kell tartaniuk az európai jogot" – mondta Alexandra Geese német Zöld EP-képviselő. "Ez az ügy egyértelmű. A több millió nő és sok gyermek számára okozott kár helyrehozhatatlan. Reméljük, hogy a Bizottság ebből tanulva a jövőben gyorsabban fog cselekedni."

Az EU tisztviselői elutasították ezeket a kritikákat, rámutatva a DSA keretében folyamatban lévő 15 vizsgálatra, amely 2024 februárja óta vonatkozik a vállalatokra.

Regina Doherty, az Európai Parlament jobbközép irányultságú ír alelnöke üdvözölte a formális vizsgálatot. "Amikor hiteles jelentések bukkannak fel arról, hogy a mesterséges intelligencia rendszereket oly módon használják, amely károsítja a nőket és gyermekeket, elengedhetetlen, hogy az EU jogát haladéktalanul megvizsgálják és végrehajtsák" – mondta Doherty.

A vizsgálatra válaszul az X egy linket adott meg egy január 14-én közzétett nyilatkozatához: "Továbbra is elkötelezettek vagyunk abban, hogy az X mindenki számára biztonságos platform legyen, és fenntartjuk a nulla toleranciát a gyermekek szexuális kizsákmányolásának, a beleegyezés nélküli meztelenségnek és a nem kívánt szexuális tartalmaknak bármilyen formája iránt."

A múlt hónapban a Bizottság 120 millió eurós bírságot szabott ki az X-re az EU jogának megsértése miatt. A platformot megtévesztő felhasználói gyakorlattal, független kutatók blokkolásával és a felelősség elkerülésével vádolták.

Az EU szabályozója kijelentette, hogy az X "félrevezető" kék pipákat rendelt nem hitelesített fiókokhoz, ami a felhasználókat átverések és csalások kockázatának teheti ki. Ezenkívül az X nem felelt meg az EU reklámozással kapcsolatos átláthatósági szabályainak azáltal, hogy megakadályozta a kutatókat a hamis hirdetések és koordinált fenyegetési kampányok vizsgálatában.

A Bizottság bírságának bejelentésére Musk "baromság" válasszal reagált, majd később felhívott az EU feloszlatására.

Az X-nek három hónapja van a bírság kifizetésére. Egy EU tisztviselője bizalommal nyilatkozott, hogy a bírságot meg fogják fizetni.



Gyakran Ismételt Kérdések



Kezdő szintű kérdések



1. Miről szól ez a vizsgálat?

Az Európai Unió az X-et vizsgálja annak aggodalma miatt, hogy annak Grok nevű mesterséges intelligencia chatbotját felhasználhatták szexuális tartalmú deepfake képek generálására és terjesztésére.



2. Mi az a Grok?

A Grok egy mesterséges intelligencia chatbot, amelyet az xAI fejlesztett ki, egy X/Twitter tulajdonosa, Elon Musk által kapcsolt vállalat. Kérdések megválaszolására és szöveg generálására tervezték.



3. Miért vizsgálja az EU az X-et emiatt?

Az EU-nak van egy új törvénye, a Digitális Szolgáltatások Törvénye (DSA). Ez a törvény megköveteli a nagyon nagy online platformoktól, mint az X, hogy proaktívan értékeljék és enyhítsék a szolgáltatásaikon felmerülő kockázatokat, beleértve az illegális tartalmak terjesztésével és a mesterséges intelligencia negatív hatásaival kapcsolatos kockázatokat.



4. Mik azok a deepfake-ek vagy mesterséges intelligenciával generált szexuális tartalmú képek?

Ezek hamis, de nagyon valósághű fényképek vagy videók, amelyeket mesterséges intelligencia segítségével hoznak létre. Ebben az összefüggésben olyan pornográf képekre utal, amelyek valódi személyeket ábrázolnak beleegyezésük nélkül.



5. Ez illegális?

Az EU-ban a beleegyezés nélküli deepfake pornográfia egy személy alapvető jogainak és méltóságának súlyos megsértésének számít. A DSA előírja a platformok számára, hogy rendszereket hozzanak létre az ilyen illegális tartalmak terjesztésének megakadályozására.



6. Mi történhet az X-szel ennek eredményeként?

Ha az EU úgy találja, hogy az X megsérti a DSA-t, a vállalat akár a globális éves bevételének 6%-áig terjedő bírsággal szembesülhet. Extrém esetekben az EU akár felfüggesztheti az X szolgáltatását Európában.



Haladó / Gyakorlati kérdések



7. A DSA mely konkrét részét sérti meg potenciálisan az X?

A vizsgálat az X DSA szerinti kockázatértékelési és -enyhítési kötelezettségeinek betartására összpontosít. Az EU gyanítja, hogy az X nem tett eleget a generatív mesterséges intelligenciával (mint a Grok) kapcsolatos kockázatok azonosításához és csökkentéséhez, különösen az illegális tartalmak terjesztése és a polgári diskurzus manipulálása tekintetében.



8. Miben különbözik ez a szokásos szexuális tartalom moderálástól?

Ez kifejezetten a mesterséges intelligenciával generált tartalomra vonatkozik, amely nagy mennyiségben hozható létre és nehezebben észlelhető, mint a szabványos feltöltött média. A vizsgálat azt vizsgálja, hogy az X tartalommoderálási politikái és technológiai védelmi intézkedései megfelelőek-e ehhez az új, gyorsan fejlődő fenyegetéshez.



9. Ez azt jelenti, hogy magát a Grokot az ilyen tartalmak létrehozására tervezték?

Nem feltétlenül. A vizsgálat