Die Europäische Kommission hat eine Untersuchung gegen Elon Musks Plattform X wegen der Erstellung sexuell expliziter Bilder und der möglichen Verbreitung von Material über sexuellen Kindesmissbrauch durch seinen KI-Chatbot Grok eingeleitet.
Die am Montag gestartete formelle Untersuchung erweitert zudem eine bereits laufende Untersuchung zu den Empfehlungssystemen von X – Algorithmen, die Nutzern neue Inhalte vorschlagen.
Grok hat international Empörung ausgelöst, da er es Nutzern ermöglicht, Bilder von Frauen und Kindern digital zu entkleiden und sie in anzügliche Posen zu versetzen. Laut Forschern des Center for Countering Digital Hate erzeugte Grok in weniger als zwei Wochen etwa 3 Millionen sexualisierte Bilder, darunter 23.000, die offenbar Kinder darstellten.
Die Kommission erklärte, die Untersuchung werde "bewerten, ob das Unternehmen die Risiken, die sich aus den Funktionen von Grok in der EU ergeben, ordnungsgemäß bewertet und gemindert hat". Dazu gehören Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte, wie manipulierte explizite Bilder und Material, das sexuellen Kindesmissbrauch darstellen könnte.
Die Untersuchung wird im Rahmen des Digital Services Act (DSA) der EU durchgeführt, einem relativ neuen Gesetz, das Internetnutzer vor verschiedenen Online-Gefahren schützen soll.
Ein Kommissionsbeamter sagte Reportern, die von X zur Lösung des Problems ergriffenen Maßnahmen seien nicht überzeugend gewesen. Nach dem Aufschrei über manipulierte Bilder hatte X den Zugang zu Grok zunächst auf zahlende Abonnenten beschränkt. Auf Druck europäischer Regulierungsbehörden änderte das Unternehmen jedoch seinen Ansatz. Anfang dieses Monats kündigte X an, Maßnahmen eingeführt zu haben, um zu verhindern, dass Grok Bilder echter Personen in freizügige Kleidung bearbeitet.
Ein Kommissionsbeamter stellte fest, dass diese Schritte die weitergehenden Bedenken bezüglich Grok nicht ausräumen. Die Untersuchung prüft systemische Risiken im Zusammenhang mit der Erzeugung illegaler Inhalte, einschließlich Material, das Gewalt gegen Frauen und sexuellen Kindesmissbrauch darstellt. Der Beamte erklärte, X fehlten "wirksame Minderungsmaßnahmen … um das Risiko auf ihrer Plattform zu verringern".
Bei der Ankündigung der Untersuchung sagte Henna Virkkunen, die zuständige Kommissionsbeamtin für technologische Souveränität, Sicherheit und Demokratie: "Sexuelle Deepfakes von Frauen und Kindern ohne deren Einwilligung sind eine gewalttätige, inakzeptable Form der Erniedrigung. Mit dieser Untersuchung werden wir feststellen, ob X seinen gesetzlichen Verpflichtungen nach dem DSA nachgekommen ist oder ob es die Rechte europäischer Bürger – einschließlich derer von Frauen und Kindern – als Kollateralschaden seines Dienstes behandelt hat."
Zusätzlich zur Untersuchung der expliziten Bilder erweitert die Kommission eine im Dezember 2023 eingeleitete Untersuchung zu den Empfehlungssystemen von X. Dies folgt auf die Ankündigung des Unternehmens, ein auf Grok basierendes Modell zur Filterung von Informationen und Inhalten für Nutzer einführen zu wollen.
Dieser Schritt erfolgt, nachdem die britische Medienaufsichtsbehörde Ofcom Anfang dieses Monats ihre eigene Untersuchung zu "abscheulichen" und illegalen Inhalten auf X angekündigt hatte.
Die Kommission wurde weithin dafür kritisiert, bei der Durchsetzung des DSA zu langsam zu sein, insbesondere im Fall von X.
"Die Untersuchung kommt zu spät, kann aber immer noch ein klares Signal senden, dass Plattformen europäisches Recht einhalten müssen", sagte die deutsche Grünen-Europaabgeordnete Alexandra Geese. "Dieser Fall ist eindeutig. Der Schaden für Millionen von Frauen und vielen Kindern ist irreparabel. Wir hoffen, dass die Kommission aus dieser Erfahrung lernt, um in Zukunft schneller zu handeln."
EU-Beamte haben solche Kritik zurückgewiesen und verwiesen auf 15 laufende Untersuchungen nach dem DSA, der seit Februar 2024 für Unternehmen gilt.
Regina Doherty, eine irische Vizepräsidentin des Europäischen Parlaments von der Mitte-Rechts-Fraktion, begrüßte die formelle Untersuchung. "Wenn glaubwürdige Berichte auftauchen, dass KI-Systeme auf eine Weise genutzt werden, die Frauen und Kindern schadet, ist es unerlässlich, dass EU-Recht unverzüglich geprüft und durchgesetzt wird", sagte Doherty.
Als Reaktion auf die Untersuchung verwies X auf einen Link zu einer Stellungnahme vom 14. Januar: "Wir sind nach wie vor bestrebt, X zu einer sicheren Plattform für alle zu machen und haben weiterhin null Toleranz gegenüber jeglichen Formen der sexuellen Ausbeutung von Kindern, nicht einvernehmlicher Nacktheit und unerwünschten sexuellen Inhalten."
Im vergangenen Monat verhängte die Kommission eine Geldstrafe von 120 Millionen Euro gegen X wegen Verstoßes gegen EU-Recht. Der Plattform wurde vorgeworfen, Nutzer in die Irre geführt, unabhängige Forscher blockiert und sich der Verantwortung entzogen zu haben.
Der EU-Regulierer erklärte, X habe "irreführende" blaue Häkchen an nicht verifizierte Konten vergeben, was Nutzer anfällig für Betrug machen könnte. Zudem habe X EU-Transparenzvorschriften für Werbung nicht eingehalten, indem es Forschern die Prüfung gefälschter Anzeigen und koordinierter Bedrohungskampagnen verwehrte.
Auf die Ankündigung der Geldstrafe durch die Kommission antwortete Musk mit "bullshit" und forderte später die Auflösung der EU.
X hat drei Monate Zeit, die Strafe zu zahlen. Ein EU-Beamter äußerte die Zuversicht, dass die Geldstrafe beglichen wird.
Häufig gestellte Fragen
FAQs zur EU-Untersuchung gegen X wegen KI-generierter expliziter Bilder durch Grok
Einfache Fragen
1 Worum geht es bei dieser Untersuchung?
Die Europäische Union untersucht X wegen der Befürchtung, dass sein KI-Chatbot Grok zur Erstellung und Verbreitung sexuell expliziter Deepfake-Bilder genutzt worden sein könnte.
2 Was ist Grok?
Grok ist ein künstlicher Intelligenz-Chatbot, entwickelt von xAI, einem mit X/Twitter-Besitzer Elon Musk verbundenen Unternehmen. Er ist darauf ausgelegt, Fragen zu beantworten und Text zu generieren.
3 Warum untersucht die EU X deswegen?
Die EU hat ein neues Gesetz namens Digital Services Act (DSA). Dieses Gesetz verpflichtet sehr große Online-Plattformen wie X, Risiken auf ihren Diensten proaktiv zu bewerten und zu mindern, einschließlich Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte und den negativen Auswirkungen von KI.
4 Was sind Deepfakes oder KI-generierte explizite Bilder?
Das sind gefälschte, aber hochrealistische Fotos oder Videos, die mit künstlicher Intelligenz erstellt wurden. In diesem Zusammenhang bezieht es sich auf pornografische Bilder, die eine reale Person ohne deren Einwilligung falsch darstellen.
5 Ist das illegal?
In der EU gilt nicht einvernehmliche Deepfake-Pornografie als schwerwiegende Verletzung der Grundrechte und der Würde einer Person. Der DSA verpflichtet Plattformen, Systeme zu haben, die die Verbreitung solcher illegaler Inhalte verhindern.
6 Was könnte X als Folge passieren?
Wenn die EU feststellt, dass X gegen den DSA verstoßen hat, könnte das Unternehmen eine Geldstrafe von bis zu 6 % seines globalen Jahresumsatzes erhalten. In extremen Fällen könnte die EU sogar den Dienst von X in Europa aussetzen.
Fortgeschrittene / Praktische Fragen
7 Welchen spezifischen Teil des DSA verletzt X möglicherweise?
Die Untersuchung konzentriert sich auf die Einhaltung der DSA-Verpflichtungen durch X in Bezug auf Risikobewertung und -minderung. Die EU vermutet, dass X möglicherweise nicht genug getan hat, um die mit generativer KI wie Grok verbundenen Risiken zu identifizieren und zu reduzieren, insbesondere im Hinblick auf die Verbreitung illegaler Inhalte und die Manipulation des zivilgesellschaftlichen Diskurses.
8 Wie unterscheidet sich das von der regulären Moderation expliziter Inhalte?
Hier geht es speziell um KI-generierte Inhalte, die in großem Maßstab erstellt werden können und schwerer zu erkennen sind als standardmäßig hochgeladene Medien. Die Untersuchung hinterfragt, ob die Inhaltsmoderationsrichtlinien und technologischen Schutzmaßnahmen von X für diese neue, sich schnell entwickelnde Bedrohung angemessen sind.
9 Bedeutet das, dass Grok selbst dafür entwickelt wurde, solche Inhalte zu erstellen?
Nicht unbedingt. Die Untersuchung ist
