Meta nutzte Fotos von Schulmädchen zum Schulanfang, um einem 37-jährigen Mann seine Social-Media-Plattform Threads zu bewerben – ein Schritt, den Eltern als „empörend“ und „verstörend“ bezeichneten.
Der Mann bemerkte, dass in seinem Instagram-Feed Anzeigen erschienen, die ihn dazu aufforderten, „Threads zu holen“ – Mark Zuckerbergs Konkurrenzprodukt zu Elon Musks X. Diese Anzeigen enthielten eingebettete Beiträge von Mädchen ab 13 Jahren in Schuluniform, mit sichtbaren Gesichtern und in den meisten Fällen auch ihren Namen.
Die Bilder wurden ursprünglich von Eltern auf Instagram gepostet, um den Schulbeginn ihrer Kinder zu feiern. Die Eltern wussten nicht, dass Metas Einstellungen es dem Unternehmen erlaubten, diese Fotos auf diese Weise zu verwenden. Eine Mutter sagte, ihr Konto sei auf privat eingestellt gewesen, aber ihre Beiträge wurden automatisch auf Threads crossgepostet, wo sie sichtbar wurden. Ein anderer Elternteil räumte ein, das Bild auf einem öffentlichen Instagram-Account gepostet zu haben. Die Fotos ihrer Kinder wurden dem Mann als „vorgeschlagene Threads“ hervorgehoben.
Der Empfänger sagte dem Guardian, die Anzeigen wirkten „absichtlich provokativ und letztendlich ausbeuterisch gegenüber den beteiligten Kindern und Familien“.
Der Vater eines 13-jährigen Mädchens, dessen Foto verwendet wurde, sagte, die Situation sei „absolut empörend“. Die Bilder zeigten Schulmädchen in kurzen Röcken, mit nackten Beinen oder Strumpfhosen. Er fügte hinzu: „Als ich herausfand, dass ein Bild von ihr auf eine Weise ausgenutzt wurde, die sich sexualisiert anfühlte, von einem riesigen Unternehmen wie diesem, um ihr Produkt zu vermarkten, hat mich das ziemlich angewidert.“
Meta, das in Kalifornien ansässige Unternehmen mit einem Wert von 2 Billionen Dollar, erklärte, die Bilder verstießen nicht gegen seine Richtlinien. Es erläuterte, dass es Threads empfiehlt, indem öffentlich geteilte Fotos gezeigt werden, die seinen Community-Standards und Richtlinien entsprechen. Die Systeme des Unternehmens sind so konzipiert, dass sie keine von Teenagern geteilten Inhalte empfehlen, aber diese Beiträge stammten von Erwachsenenkonten, die auf öffentliche Sichtbarkeit eingestellt waren.
Der Mann, der die Anzeigen erhielt, bemerkte, dass ihm nur Werbebeiträge mit Schulmädchen gezeigt wurden – es gab keine Jungen in Uniform –, was seiner Meinung nach „einen Aspekt der Sexualisierung“ nahelege.
Die Mutter einer 15-jährigen Tochter, deren Foto in einer Anzeige mit einem großen „Hol dir Threads“-Button verwendet wurde, sagte: „Für mich war es ein Bild meiner Tochter auf dem Weg zur Schule. Ich hatte keine Ahnung, dass Instagram es aufgegriffen und zur Werbung verwendet hat. Das ist absolut widerlich. Sie ist minderjährig.“ Sie erklärte, sie hätte niemals zugestimmt und „für kein Geld der Welt würde ich zulassen, dass sie ein Mädchen in Schuluniform benutzen, um Leute auf ihre Plattform zu locken“.
Ihr Instagram-Account, der 267 Follower hat, erreicht normalerweise nur eine bescheidene Reichweite, aber der Beitrag ihres Kindes zog fast 7.000 Aufrufe an – 90 % davon von Nicht-Followern, die Hälfte davon über 44 Jahre alt, und 90 % davon Männer.
Eine andere Mutter, deren Beitrag ihrer 13-Jährigen verwendet wurde, sagte: „Meta hat das alles absichtlich gemacht, ohne uns zu informieren, weil sie Inhalte generieren wollen. Es ist verabscheuungswürdig. Und wer ist verantwortlich für die Erstellung dieser Threads-Anzeige, die Kinderfotos verwendet, um die Plattform für ältere Männer zu bewerben?“
Meta bezeichnete diese Beiträge als „Empfehlungstools“ und erklärte, dass öffentliche Beiträge für diesen Zweck verwendet werden können. Ein Unternehmenssprecher sagte: „Die geteilten Bilder verstoßen nicht gegen unsere Richtlinien und sind Schulanfangsbilder, die öffentlich von Eltern gepostet wurden. Wir haben Systeme, die sicherstellen sollen, dass wir keine von Teenagern geteilten Threads empfehlen oder solche, die gegen unsere Empfehlungsrichtlinien verstoßen, und Nutzer können kontrollieren, ob Meta ihre öffentlichen Beiträge auf Instagram vorschlägt.“
Der 37-jährige Instagram-Nutzer aus London, der die Anzeigen erhielt und anonym bleiben wollte, sagte: „Über mehrere Tage hinweg wurden mir wiederholt Meta-Anzeigen für Threads eingeblendet, die ausschließlich Bilder von Eltern zeigten, auf denen ihre Töchter in Schuluniform zu sehen waren, einige mit Namen. Als Vater finde ich es zutiefst unangemessen, dass Meta diese Beiträge in gezielter Werbung für Erwachsene zweckentfremdet.“ Registrieren
Datenschutzhinweis: Unsere Newsletter können Details über Wohltätigkeitsorganisationen, Online-Werbung und von externen Organisationen gesponserte Inhalte enthalten. Wenn Sie kein Konto haben, richten wir Ihnen ein Gastkonto auf theguardian.com ein, um diesen Newsletter zuzustellen. Sie können die vollständige Registrierung jederzeit abschließen. Weitere Details zum Umgang mit Ihren Daten finden Sie in unserer Datenschutzrichtlinie. Wir verwenden Google reCaptcha zum Schutz unserer Website, und es gelten auch die Datenschutzrichtlinie und die Nutzungsbedingungen von Google.
Nach der Newsletter-Werbung erklärte er, er habe vor dem Erhalt der Schulmädchen-Bilder nie ähnliche Bilder gepostet oder gelikt.
„Für mich wirkt die Darstellung dieser Art von Inhalten als angesagt oder beliebt absichtlich provokativ und nutzt letztendlich die beteiligten Kinder und Familien aus und gefährdet ihre Online-Sicherheit.“
Beeban Kidron, crossbencherin im Oberhaus und Befürworterin der Online-Rechte von Kindern, kommentierte: „Schulmädchen als Köder zu verwenden, um einen kommerziellen Dienst zu bewerben, markiert ein neues Tief, selbst für Meta.
Bei jeder Gelegenheit priorisiert Meta Profit vor Sicherheit und Unternehmenswachstum vor dem Schutz der Privatsphäre von Kindern. Das ist die einzige Erklärung dafür, warum sie es für akzeptabel hielten, Bilder von Schulmädchen an einen 37-jährigen Mann zu senden – als Köder. Meta ist ein bewusst fahrlässiges Unternehmen.“
Sie forderte die Regulierungsbehörde Ofcom auf, zu prüfen, ob die Maßnahmen, die diesen Sommer eingeführt wurden, um zu verhindern, dass unbekannte Erwachsene Kinder kontaktieren, klarstellen, dass „Unternehmen keine sexualisierten Bilder von Kindern als Köder für unbekannte Männer verwenden dürfen“.
Ofcoms Verhaltenskodizes zu illegalen Schäden, die zur Bekämpfung von Online-Grooming entwickelt wurden, legen fest, dass „die Profile, Standorte, Freunde und Verbindungen von Kindern für andere Nutzer nicht sichtbar sein sollten.“
Metas System erlaubt es, dass wenn ein Threads-Profil öffentlich ist, Beiträge von Erwachsenenprofilen auf Facebook oder Instagram empfohlen werden können, „um Menschen zu helfen, dich zu entdecken, zu folgen und mit dir zu interagieren“. Nutzer können diese Vorschläge deaktivieren oder ihr Threads-Profil auf privat umstellen.
Häufig gestellte Fragen
Natürlich. Hier ist eine Liste von FAQs zum Thema, dass Meta Fotos von Schulmädchen in Werbeanzeigen verwendet, die klar und hilfreich sein sollen.
Allgemeine / Einsteigerfragen
1. Was genau ist mit Meta und den Schulmädchen-Fotos passiert?
Metas KI-Werbesystem hat angeblich ohne deren Einwilligung öffentlich gepostete Fotos australischer Schulmädchen verwendet, um Anzeigen für Erwachsenendatingdienste und Abnehmpillen zu erstellen, die dann Männern gezeigt wurden.
2. Warum sind die Eltern so wütend deswegen?
Die Eltern sind wütend, weil die Bilder ihrer Kinder ohne Erlaubnis verwendet wurden, um unangemessene Anzeigen zu erstellen, was ihre Privatsphäre verletzt und sie potenziell gefährdet.
3. Wurde dies absichtlich von Meta-Mitarbeitern getan?
Nein, laut Berichten war dies keine absichtliche menschliche Handlung. Es war das Ergebnis von Metas automatisierten KI-Systemen, die öffentliche Fotos gesammelt und für gezielte Werbung umgenutzt haben.
4. Auf welchen Plattformen trat das Problem auf?
Das Problem wurde hauptsächlich auf Facebook und Instagram gemeldet, die beide Meta gehören.
Mittlere / Fragen zu den Auswirkungen
5. Wie ist Metas KI an diese Fotos gelangt?
Die KI hat die Fotos wahrscheinlich von öffentlichen Instagram- oder Facebook-Profilen gesammelt. Wenn ein Account öffentlich eingestellt ist, können automatisierte Systeme auf dessen Inhalte zugreifen und sie verwenden.
6. Ist das illegal?
Das hängt von den lokalen Gesetzen ab. Die Verwendung des Abbilds einer Person, besonders eines Minderjährigen, für Werbung ohne Einwilligung verstößt oft gegen Datenschutz- und Werberegulierungen. Es laufen Untersuchungen, um festzustellen, ob spezifische Gesetze gebrochen wurden.
7. Was hat Meta als Antwort mitgeteilt?
Meta hat erklärt, dass die betreffenden Anzeigen gegen seine Richtlinien verstoßen und dass es sie entfernt hat. Das Unternehmen führt das Problem auf ein Versagen seiner automatisi Durchsetzungssysteme zurück.
8. Welche potenziellen Gefahren birgt dieses Vorkommnis?
Es kann zur Ausbeutung und Belästigung Minderjähriger führen, ihrem Online-Ruf schaden und bei den Kindern und ihren Familien erheblichen emotionalen Stress verursachen.
Fortgeschrittene / Technische Fragen
9. Wie entscheidet Metas KI, ein Foto für eine Anzeige zu verwenden?
Die KI analysiert öffentliche Inhalte, um den Kontext zu verstehen. Sie gleicht diese Daten dann mit den Zielvorgaben der Werbetreibenden ab, um automatisch Anzeigen zu generieren und zu schalten.
10. Heißt das, dass jedes öffentliche Foto, das ich poste, in einer Anzeige verwendet werden kann?
Technisch gesehen ja. Gemäß den Nutzungsbedingungen von Meta für Plattformen wie Instagram räumst du dem Unternehmen eine breite Lizenz ein, deine Inhalte zu verwenden.
