Европейската комисия започна разследване срещу платформата X на Илън Мъск заради създаването на сексуално изрични изображения и потенциалното разпространение на материали за сексуална експлоатация на деца от нейния изкуствен интелект чатбот Grok.
Формалното разследване, започнало в понеделник, разширява и съществуващо разследване срещу препоръчителните системи на X – алгоритми, които предлагат ново съдържание на потребителите.
Grok предизвика международно възмущение, като позволи на потребителите цифрово да събличат изображения на жени и деца и да ги поставят в провокативни пози. Според изследователи от Центъра за борба с цифровата омраза, Grok генерира приблизително 3 милиона сексуализирани изображения за по-малко от две седмици, включително 23 000, които изглежда изобразяват деца.
Комисията заяви, че разследването ще "оцени дали компанията е правилно оценила и смекчила рисковете", произтичащи от функциите на Grok в ЕС. Това включва рискове, свързани със споделянето на незаконно съдържание, като манипулирани изрични изображения и материали, които могат да представляват сексуална експлоатация на деца.
Разследването се провежда на основание Закона за цифровите услуги (DSA) на ЕС, сравнително нов закон, предназначен да защити потребителите на интернет от различни онлайн вреди.
Служител на Комисията каза пред журналисти, че мерките, които X е приложила за решаване на проблема, не са убедителни. Първоначално, след възмущението от манипулираните изображения, X ограничи достъпа до Grok само за платени абонати. Въпреки това, след натиск от европейските регулатори, компанията промени подхода си. В началото на този месец X обяви, че е въвела мерки, за да предотврати Grok да редактира изображения на реални хора, като ги облича в разкриващи дрехи.
Служител на Комисията отбеляза, че тези стъпки не отговарят на по-широките опасения относно Grok. Разследването изследва системни рискове, свързани с генерирането на незаконно съдържание, включително материали, изобразяващи насилие над жени и сексуална експлоатация на деца. Служителят заяви, че на X липсват "ефективни смекчаващи мерки … за намаляване на риска в тяхната платформа".
Обявявайки разследването, Хена Виркунен, главен служител на Комисията по технологичен суверенитет, сигурност и демокрация, заяви: "Сексуалните дийпфейкове на жени и деца без тяхното съгласие са насилствена, неприемлива форма на унижение. С това разследване ще определим дали X е изпълнила правните си задължения според DSA, или е третирала правата на европейските граждани – включително тези на жените и децата – като побочна вреда от своята услуга."
В допълнение към разследването на изричните изображения, Комисията разширява разследване, започнато през декември 2023 г., срещу препоръчителните системи на X. Това идва след обявяването на компанията, че планира да приеме модел, базиран на Grok, за филтриране на информация и съдържание за потребителите.
Тази стъпка идва след като британският медиен регулатор Ofcom обяви в началото на този месец собствено разследване срещу "отвратително" и незаконно съдържание в X.
Комисията е изправена пред широкоразпространена критика, че е твърде бавна при прилагането на DSA, особено по отношение на X.
"Разследването идва твърде късно, но все пак може да изпрати ясен сигнал, че платформите трябва да спазват европейското законодателство", каза германската евродепутатка от Зелените Александра Гезе. "Този случай е ясен. Вредата за милиони жени и много деца е непоправима. Надяваме се, че Комисията ще използва този урок, за да действа по-бързо в бъдеще."
Служители на ЕС отхвърлиха такава критика, посочвайки 15 текущи разследвания по DSA, които се прилагат за компании от февруари 2024 г.
Регина Доърти, ирландски вицепрезидент на Европейския парламент от центристко-дясната група, приветства формалното разследване. "Когато се появят достоверни доклади за използването на AI системи по начин, който вреди на жени и деца, е от съществено значение законодателството на ЕС да бъде разгледано и приложено без забавяне", каза Доърти.
В отговор на разследването, X предостави линк към изявление, публикувано на 14 януари: "Ние оставаме ангажирани да направим X безопасна платформа за всички и продължаваме да имаме нулева толерантност към всякакви форми на сексуална експлоатация на деца, голота без съгласие и нежелано сексуално съдържание."
Миналият месец Комисията глоби X с 120 милиона евро за нарушаване на правото на ЕС. Платформата бе обвинена, че подвежда потребители, блокира независими изследователи и избягва отговорност.
Европейският регулатор заяви, че X е присвоила "измамни" сини отметки на непотвърдени профили, което може да изложи потребителите на измами и мошеничества. Освен това, X не спази правилата на ЕС за прозрачност на рекламата, като попречи на изследователи да разглеждат фалшиви реклами и координирани кампании с заплахи.
В отговор на обявяването на глобата от Комисията, Мъск отговори "глупости" и по-късно призова ЕС да бъде разпуснат.
На X бе даден срок от три месеца да плати глобата. Служител на ЕС изрази увереност, че глобата ще бъде платена.
Често задавани въпроси
ЧЗВ: Разследване на ЕС срещу X заради изрични изображения, генерирани от Grok AI
Въпроси за начинаещи
1. За какво е това разследване?
Европейският съюз разследва X заради опасения, че нейният AI чатбот Grok може да е бил използван за генериране и разпространение на сексуално изрични дийпфейк изображения.
2. Какво е Grok?
Grok е чатбот с изкуствен интелект, разработен от xAI, компания, свързана със собственика на X/Twitter Илън Мъск. Той е проектиран да отговаря на въпроси и да генерира текст.
3. Защо ЕС разследва X за това?
ЕС има нов закон, наречен Закон за цифровите услуги (DSA). Този закон изисква много големи онлайн платформи като X проактивно да оценяват и смекчават рисковете в своите услуги, включително рискове, свързани с разпространението на незаконно съдържание и негативните ефекти на AI.
4. Какво представляват дийпфейковете или AI-генерираните изрични изображения?
Това са фалшиви, но силно реалистични снимки или видеа, създадени с помощта на изкуствен интелект. В този контекст се отнася до порнографски изображения, които невярно изобразяват реално лице без неговото съгласие.
5. Това незаконно ли е?
В ЕС дийпфейк порнографията без съгласие се счита за сериозно нарушение на основните права и достойнството на човека. DSA задължава платформите да имат системи за предотвратяване на разпространението на такова незаконно съдържание.
6. Какво може да се случи с X в резултат?
Ако ЕС установи, че X нарушава DSA, компанията може да получи глоба до 6% от световния си годишен приход. В краен случай ЕС може дори да спре услугата на X в Европа.
Разширени / практически въпроси
7. Коя конкретна част от DSA потенциално нарушава X?
Разследването се фокусира върху спазването от X на задълженията по DSA относно оценката и смекчаването на рисковете. ЕС подозира, че X може да не е направила достатъчно, за да идентифицира и намали рисковете, свързани с генеративния AI като Grok, особено по отношение на разпространението на незаконно съдържание и манипулирането на гражданския диалог.
8. С какво това се различава от обикновения модерация на изрично съдържание?
Това се отнася специално за AI-генерирано съдържание, което може да се създава масово и е по-трудно за откриване от стандартни качени медии. Разследването поставя под въпрос дали политиките на X за модерация на съдържание и технологичните защити са адекватни за тази нова, бързо развиваща се заплаха.
9. Означава ли това, че самият Grok е проектиран да създава такова съдържание?
Не непременно. Разследването е
