Die spanische Regierung wird die Staatsanwaltschaft auffordern, die Social-Media-Unternehmen X, Meta und TikTok zu untersuchen, um festzustellen, ob sie Straftaten begangen haben, indem sie angeblich ihre KI zur Erzeugung und Verbreitung von Material über sexuellen Kindesmissbrauch zugelassen haben.
Ministerpräsident Pedro Sánchez sagte, die Entscheidung ziele darauf ab, "die psychische Gesundheit, Würde und Rechte unserer Söhne und Töchter" zu schützen und die "Straflosigkeit" großer Social-Media-Plattformen zu beenden.
Die Maßnahme basiert auf einem Expertenbericht, der die potenzielle strafrechtliche Verantwortung für Praktiken wie die Erstellung und Verbreitung von sexuellen Inhalten und Kindesmissbrauch durch Deepfakes oder manipulierte Bilder analysiert, die die Würde der Opfer verletzen. Der Bericht warnte davor, dass Social-Media-Firmen involviert sein könnten, indem sie die schnelle, weit verbreitete und undurchsichtige Verbreitung solchen Materials ermöglichen, was die Erkennung erschwert und Netzwerke begünstigt, die es produzieren, teilen und daraus Profit schlagen.
Das Kabinett stimmte dem Schritt am Dienstag zu, während die Regierung Maßnahmen vorbereitet, darunter ein Social-Media-Verbot für unter 16-Jährige und Gesetze, um Tech-Unternehmen für schädliche Inhalte zur Verantwortung zu ziehen. Dies folgt auf eine Untersuchung der Europäischen Kommission, die vor weniger als einem Monat gegen X wegen sexuell expliziter Bilder und möglichem Material über sexuellen Kindesmissbrauch eingeleitet wurde, das von dessen KI-Chatbot Grok erzeugt wurde.
Am Dienstag kündigte die irische Datenschutzkommission (DPC) eine "groß angelegte" Untersuchung an, die sich auf die generative KI-Funktionalität von Grok konzentriert. Vizepräsident Graham Doyle sagte, die DPC prüfe, ob Nutzer Grok dazu veranlassen könnten, sexualisierte Bilder von echten Personen, einschließlich Kindern, zu erzeugen, und ob X den GDPR-Verpflichtungen in Bezug auf die personenbezogenen Daten von EU-/EWR-Bürgern nachgekommen ist.
Die spanische Regierungssprecherin Elma Saiz erklärte, Madrid werde nicht zulassen, dass digitale sexuelle Gewalt gegen Kinder durch Algorithmen "verstärkt oder geschützt" werde, und betonte die Sicherheit, Privatsphäre und Freiheit von Kindern. Das Kabinett wird den Generalstaatsanwalt formell auffordern zu untersuchen und gegebenenfalls gegen die betroffenen Unternehmen vorzugehen.
Meta sagte, es könne ohne detaillierte Informationen nicht zu der vorgeschlagenen Untersuchung Stellung nehmen, betonte jedoch seine klare Haltung gegen sexuelle Ausbeutung von Kindern und nicht einvernehmliche intime Aufnahmen, ob real oder KI-generiert, sowie seine Politik, solche Inhalte zu entfernen. Auch X und TikTok wurden um Stellungnahme gebeten.
Sánchez' Bemühungen, Social-Media-Unternehmen zur Verantwortung zu ziehen und Kinder vor dem, was er das "digitale Wildwest" nennt, zu schützen, haben starke Reaktionen einiger großer Tech-Firmeninhaber hervorgerufen. Anfang dieses Monats argumentierte er, dass dringendes Handeln erforderlich sei, weil Social Media zu einem "gescheiterten Staat geworden ist, in dem Gesetze ignoriert und Verbrechen toleriert werden."
Er kritisierte auch Elon Musk dafür, dass er X nutzte, um "Desinformation" über die Entscheidung der Regierung zu verbreiten, 500.000 undokumentierte Arbeiter und Asylsuchende zu legalisieren, und merkte an, dass Musk selbst ein Migrant sei. Musk antwortete, indem er Sánchez als "einen Tyrannen und Verräter am spanischen Volk" und einen "wahren faschistischen Totalitären" bezeichnete.
Die Pläne der spanischen Regierung zogen auch Kritik des russischen Tech-Unternehmers und Telegram-Mitbegründers Pavel Durov auf sich. In einer Massennachricht an alle Telegram-Nutzer in Spanien beschuldigte er die Sánchez-Regierung, "gefährliche neue Vorschriften durchzusetzen, die Ihre Internetfreiheiten bedrohen", und warnte, dass die Maßnahmen Spanien "unter dem Deckmantel des 'Schutzes' in einen Überwachungsstaat verwandeln könnten."
Spanische Regierungskreise antworteten, dass Durovs beispiellose Nachricht an Millionen von Nutzern darauf abziele, das Vertrauen in die Institutionen zu untergraben, und die Notwendigkeit hervorhebe, Social Media und Messaging-Apps zu regulieren. "Spanier können nicht in einer Welt leben, in der ausländische Tech-Oligarchen unsere Telefone nach Belieben mit Propaganda überschwemmen können, nur weil die Regierung Maßnahmen zum Schutz Minderjähriger und zur Durchsetzung des Gesetzes angekündigt hat", sagten sie.
Wachsende Besorgnis über die schädlichen Auswirkungen von Social Media hat mehrere Regierungen, darunter Spanien, Großbritannien, Griechenland und Frankreich, veranlasst, strengere Gesetze zu verabschieden oder in Erwägung zu ziehen. Im Dezember wurde Australien das erste Land, das Kindern unter 16 Jahren den Zugang zu solchen Plattformen verbot.
Häufig gestellte Fragen
Natürlich. Hier ist eine Liste von FAQs zum Umgang Spaniens mit KI-generierten Missbrauchsdarstellungen von Kindern, formuliert für Social-Media-Diskussionen.
Anfängerfragen
1. Was genau sind KI-generierte Missbrauchsdarstellungen von Kindern?
Es handelt sich um realistische Bilder oder Videos von sexuellem Kindesmissbrauch, die vollständig von künstlicher Intelligenz erstellt wurden, ohne dass echte Kinder an der Produktion beteiligt sind. Dennoch sind sie illegal und schädlich.
2. Ist das überhaupt ein Problem in Spanien?
Ja, spanische Behörden wie die Guardia Civil haben dies als wachsende und ernste Bedrohung identifiziert, da es die Nachfrage anheizt und Missbrauch normalisiert, auch wenn kein direktes Opfer fotografiert wird.
3. Ist dieses Zeug in Spanien illegal?
Absolut. Das spanische Recht behandelt KI-generiertes Material über sexuellen Kindesmissbrauch genauso wie Material mit echten Kindern. Besitz, Verbreitung oder Erstellung sind schwere Straftaten.
4. Ich habe online ein verdächtiges KI-Bild gesehen. Was soll ich tun?
Teilen Sie es nicht. Melden Sie es sofort der Plattform, auf der Sie es gesehen haben. Sie können es auch anonym den spanischen Behörden über die Website der Guardia Civil oder die Hotline der ANAR-Stiftung zum Schutz von Kindern melden.
5. Warum ist es schädlich, wenn kein echtes Kind bei der Erstellung des Bildes verletzt wird?
Es perpetuiert die Sexualisierung von Kindern, kann zur Anbahnung von Kontakten mit echten Opfern genutzt werden und befeuert einen gefährlichen Markt. Es verursacht auch tiefgreifenden psychischen Schaden bei den Kindern, deren Gesichter gestohlen und eingefügt werden.
Fortgeschrittene / Praktische Fragen
6. Wie passt sich das spanische Recht an, um dieser neuen Technologie zu begegnen?
Spanien setzt den Digital Services Act der EU um, der Plattformen verpflichtet, Risiken wie dieses zu bewerten und zu mindern. Es gibt auch starke Unterstützung für den vorgeschlagenen EU AI Act und Vorschriften, die Tech-Unternehmen verpflichten würden, solche Inhalte zu erkennen und zu melden.
7. Was sind die größten Herausforderungen für die spanische Polizei bei der Untersuchung dieser Fälle?
Das Volumen der Inhalte, die Nutzung von Verschlüsselung und dem Dark Web sowie die Geschwindigkeit, mit der KI-Tools sich entwickeln. Die Verfolgung digitaler Fußabdrücke und internationale Zusammenarbeit sind entscheidend und ressourcenintensiv.
8. Können die KI-Tools von Social-Media-Plattformen diesen Inhalt effektiv erkennen?
Es ist ein Wettrüsten. Während Plattformen KI nutzen, um bekannte Muster zu erkennen, erzeugen neue KI-Generatoren ständig neue, einzigartige Bilder, die aktuelle Filter umgehen. Die Erkennung verbessert sich, ist aber nicht perfekt.
9. Worum geht es bei der Debatte um clientseitiges Scannen in Spanien?
Dies ist
