Letzte Woche erklärte sich Meta – das Unternehmen, dem Instagram und Facebook gehören – bereit, bis zu 18 Milliarden Dollar zu zahlen, um eine Klage beizulegen, die von Dutzenden US-Bundesstaaten eingereicht worden war. Die Bundesstaaten beschuldigten Meta, Kindern mit süchtig machenden Produkten zu schaden. Doch die regulatorische Wirkung dieses Vergleichs wird weit über Jugendliche hinausreichen und alle Nutzer sozialer Medien betreffen.
Wenn Meta wirklich die Sicherheit der Nutzer an erste Stelle stellen will, sollte sein Vorstand Mark Zuckerberg bitten, zurückzutreten und das Unternehmen umzustrukturieren, damit Sicherheit mehr zählt als Profit.
Der Vergleich beantwortet nicht wirklich die wissenschaftliche Frage, wie süchtig machend soziale Medien tatsächlich sind. Stattdessen ist er das Ergebnis eines langen Kampfes, der 2016 begann, als Journalisten und unabhängige Forscher zu untersuchen begannen, wie digitales Design half, Desinformation während des Brexit-Wahlkampfs im Vereinigten Königreich und der US-Präsidentschaftswahl zu verbreiten. Zuckerberg ist der eine konstante rote Faden, der sich durch Metas Geschichte von Milliarden-Dollar-Fehlern zieht, die echten Menschen geschadet haben.
In den letzten 15 Jahren habe ich untersucht, wie Wissenschaft und Technologie sozialen Wandel vorantreiben – sowohl zum Guten als auch zum Schlechten. Als Gründer des Critical Internet Studies Institute leite ich ein Team, das die Schäden untersucht, die durch neue Technologien verursacht werden. Wir schulen Fachleute über sowohl die offensichtlichen als auch die verborgenen Merkmale dieser Technologien, einschließlich ihrer Mängel. Im Jahr 2020 sagte ich vor dem Kongress aus, dass Fehlinformationen wie „Passivrauchen“ wirken. Meine Aussage erfolgte, nachdem ein Meta-Führungskraft das Design von Metas Engagement-Algorithmen damit verglichen hatte, wie Tabakunternehmen Zigaretten süchtig machender machten.
Ein Vergleich über 18 Milliarden Dollar – und Zuckerberg zuckte kaum mit der Wimper. Den Tech-Giganten muss die Macht entzogen werden, und zwar bald.
In einer Reihe von Gastbeiträgen, Kongress-Briefings und Forschungsarbeiten habe ich den Tabakvergleich weiter ausgeführt. Ich zeigte, wie kulturelle Ansichten vom Rauchen als persönlicher Entscheidung durch Ideen wie Passivrauchen und durch wissenschaftliche Beweise, dass Tabak das Krebsrisiko erhöht, verändert wurden. Die wahren Kosten des Rauchens wurden auf Familien, Versicherungsgesellschaften und Arbeitgeber abgewälzt, die Zeit und Geld verloren, um damit umzugehen. Die Reaktion des öffentlichen Gesundheitswesens verbot das Rauchen nicht vollständig, aber sie begrenzte, wo Menschen rauchen konnten, legte ein Mindestalter für den Kauf von Zigaretten fest, zwang Unternehmen, öffentliche Aufklärung über die Gefahren zu finanzieren, und – am wichtigsten – platzierte Zigaretten hinter den Tresen, wo Kassierer Ausweise kontrollieren mussten. Kampagnen des öffentlichen Gesundheitswesens und Warnhinweise spielten ebenfalls eine große Rolle.
In ähnlicher Weise treffen Social-Media-Unternehmen viele wichtige Entscheidungen darüber, was in Ihrem Feed erscheint. Einige dieser Funktionen sind mit Algorithmen gestaltet, um Nutzer länger in der App zu halten.
Dieser Vergleich bringt Designbeschränkungen mit sich: Teenager-Konten sind auf zwei Stunden pro Tag begrenzt, von Mitternacht bis 6 Uhr morgens gesperrt und erhalten während der Schulzeiten keine Benachrichtigungen. Teenager-Konten müssen außerdem mit einem Elternkonto verknüpft werden, zusammen mit strengeren Altersüberprüfungen. Es ist noch unklar, wie das in der Praxis funktionieren wird, aber es wird wahrscheinlich zu einem Datenschutzproblem werden. Während diese Regeln die Bildschirmzeit für 13- bis 18-Jährige begrenzen, tun sie wenig, um schädliche Inhalte zu adressieren – wie Drogen, Sex und Glücksspiel durch Algorithmen empfohlen werden.
Es ist klar, dass dieser jüngste Vergleich einen härteren Weg für Zuckerbergs Unternehmen signalisiert. Meta hat viele Rechtsstreitigkeiten geführt, während es eine ernsthafte Regulierung der Inhaltsmoderation (die Geld kostet) oder der Werbung (die Geld einbringt) vermieden hat. Die Durchsetzung dieser neuen Regeln für Teenager wird die Kosten erhöhen. Meta hat bereits Milliarden an Vergleichen und Geldstrafen für Probleme bezahlt, die von der Nichtwahrung des Datenschutzes der Nutzer über eine Sicherheitsverletzung im Jahr 2018 bis hin zu schrecklichen Ergebnissen für die psychische Gesundheit junger Menschen reichen. Meta hat auch anderen Gruppen ohne Entschädigung Schaden zugefügt, einschließlich der Verstärkung von Hassreden gegen die Rohingya in Myanmar sowie dem Hosten und algorithmischen Fördern weit verbreiteter medizinischer Fehlinformationen und Verschwörungstheorien, die zu giftigen Vergiftungen und Impfzögern führten – etwas, das die Weltgesundheitsorganisation als „Infodemie“ bezeichnete. Der Begriff „Infodemie“ erfasst, wie sich Fehlinformationen wie ein Virus verbreiten. Mark Zuckerbergs Versagen als Führungskraft hat direkt ernsthafte, gut dokumentierte Schäden für das bürgerliche Leben, die Demokratie und die psychische und physische Gesundheit der Menschen weltweit verursacht – besonders bei jungen Menschen. Seit er Facebook 2004 gründete, sah sich Zuckerberg ständigen Klagen gegenüber, etwa wegen Eigentums- und Aktienfragen aus den frühen Tagen. Damals begann er, eine PR-Strategie zu nutzen, um Probleme zu verzögern, zu leugnen und abzulenken, die daraus entstanden, dass Führungskräfte Profit über das Wohl der Nutzer stellten. Metas Führungskräfte profitierten von der tragischen Verstärkung von Hass, Belästigung und Aufstachelung.
Gleichzeitig hat dies eine Welle von Whistleblowern erzeugt, und es werden wahrscheinlich mehr kommen, jetzt da klar ist, dass die Entscheidungen dieser Führungskräfte zu „Schäden in der realen Welt“ führten – ein Silicon-Valley-Begriff, der Online-Räume vom echten Leben trennt. Der Vergleich folgt auf die harten Anhörungen der letzten Woche, bei denen der Whistleblower Arturo Béjar kühn sagte: „Man kann Mark Zuckerberg einfach nicht mit Kindern vertrauen.“ Béjar, der die Sicherheitsbemühungen bei Instagram leitete, sah seine jugendliche Tochter mit unerwünschter sexistischer Belästigung auf der Plattform konfrontiert. Dank seiner Rolle bei Meta hatte er echte Daten, um die Schäden von Instagram zu messen, einschließlich wie verschiedene algorithmische Änderungen Wachstum, Engagement und Nutzererfahrung beeinflussten.
Ein Vergleich über 18 Milliarden Dollar ist nur ein winziger Bruchteil für Meta, aber der Druck wird weiter zunehmen. Béjar schätzt, dass er sich über 100 Mal mit Zuckerberg traf, bevor er Whistleblower wurde. Viele Whistleblower beginnen damit, hart zu versuchen, Probleme über die richtigen Kanäle zu lösen, nur um von Vorgesetzten abgewiesen zu werden. Ironischerweise sind sie tendenziell Regelbefolger, die frustrierter werden, wenn ihre Bedenken auf Gleichgültigkeit oder oberflächliche Compliance bei der Arbeit stoßen.
Im Dezember 2023 sah ich mich intensiver Kritik in der Wissenschaft ausgesetzt, nachdem ich Dokumente von einer anderen Whistleblowerin, Frances Haugen, erhalten hatte, die ich in einer öffentlichen Datenbank teilen wollte. Ich erhielt die Dokumente legal und nutzte mein Fachwissen, um Tech-Insidern, Journalisten, Forschern und Washingtoner Mitarbeitern zu helfen zu verstehen, was die Haugen-Dokumente über Metas Wissen und Verantwortung für Produktprobleme offenbarten – und was nicht. Aber die Botschaft war klar: Meta, damals Facebook genannt, wusste über den Schaden Bescheid, den Instagram bei jugendlichen Mädchen verursachte.
Doch durch jeden Skandal ist Zuckerbergs Vermögen laut Forbes auf fast 200 Milliarden Dollar gestiegen. Geldstrafen bedeuten nichts für jemanden, der so reich ist, also ist der erste Schritt, die Gesellschaft zu schützen, Meta einen Neuanfang ohne Zuckerbergs Einfluss auf zukünftige Produkte zu geben. Seine Vision einer „Zukunft für alle“ ist eine oberflächliche Utopie, in der KI-Agenten Ihr Leben führen und Sie einfach hindurchtreiben.
Über die Gerichte hinaus könnte Meta dies angehen, indem es Zuckerberg bittet, freiwillig zurückzutreten. Hoffnung für die Zukunft der Technologie zu bringen, bedeutet, Metas Führung jetzt zu ändern, damit die Zukunft kollektiv gestaltet und auf einem neuen Ruf und Engagement aufgebaut wird. Zuckerberg verdient keine weitere Chance, nur weil er es sich leisten kann. Am Ende zahlen wir alle für seine Fehler. Jetzt ist die Zeit für Aktionäre, sich zu äußern und Zuckerbergs Kontrolle herauszufordern.
Joan Donovan ist Assistenzprofessorin für Journalismus an der Boston University und untersucht, wie Technologie die Gesellschaft beeinflusst. Sie gründete das Critical Internet Studies Institute, wo sie ein Projekt zu politischer Gewalt und sozialen Bewegungen leitet.
Häufig gestellte Fragen
Hier ist eine Liste von FAQs basierend auf der Prämisse des Artikels
Allgemeine Hintergrundfragen
F: Wer ist Joan Donovan?
A: Sie ist eine prominente Akademikerin und Forscherin, die untersucht, wie Medientechnologie und soziale Bewegungen interagieren. Sie leitete zuvor das Technology and Social Change Research Project am Shorenstein Center der Harvard University.
F: Was ist der Hauptpunkt von Joan Donovans Argument?
A: Ihr Hauptpunkt ist, dass Mark Zuckerberg zu viel unkontrollierte Macht über Meta hat. Sie argumentiert, dass seine Kontrolle über die Algorithmen und Inhaltsrichtlinien des Unternehmens ernsthafte Schäden für Demokratie und öffentliche Sicherheit verursacht hat und dass er als CEO zurücktreten sollte.
F: Geht es hier nur darum, dass Facebook unbeliebt ist?
A: Nein. Während Facebook Probleme mit dem öffentlichen Image hat, ist Donovans Argument spezifischer. Sie konzentriert sich auf strukturelle Mängel in der Führung von Meta und argumentiert, dass Zuckerberg einseitige Entscheidungen trifft, die Wachstum und Engagement über Nutzersicherheit und gesellschaftliches Wohl stellen.
F: Warum sagt sie, dass speziell Zuckerberg zurücktreten muss, anstatt nur die Richtlinien zu ändern?
A: Sie argumentiert, dass das Problem die Konzentration von Macht selbst ist. Solange Zuckerberg die Mehrheitskontrolle über die Stimmrechte hat, kann er jede Richtlinienänderung nach Belieben rückgängig machen. Sie glaubt, dass ein Führungswechsel notwendig ist, um die Kultur und Verantwortlichkeit des Unternehmens tatsächlich zu reformieren.
Spezifische Kritiken und Probleme
F: Welchen spezifischen Schaden sagt Donovan, den Meta verursacht hat?
A: Sie weist auf mehrere Probleme hin, darunter die Verstärkung von Fehlinformationen über Wahlen und Impfstoffe, die Förderung von Hassreden und Aufstachelung zu Gewalt sowie das Versäumnis, die Datensicherheit der Nutzer zu schützen.
F: Was sagt Donovan über Zuckerbergs Metaverse-Wendung?
A: Sie sieht es als Ablenkung. Sie argumentiert, dass Meta, während Zuckerberg Milliarden von Dollar für den Bau virtueller Realitätswelten ausgibt, es versäumt, den Schaden in der realen Welt zu beheben, der gerade auf seinen bestehenden Plattformen passiert.
F: Was ist die Verbindung zum Kapitol-Aufstand in diesem Argument?
