Als Mark Zuckerberg am 18. Februar, umgeben von Mitarbeitern, die Meta Ray-Bans trugen, einen Gerichtssaal in Los Angeles betrat, lachten einige Leute. Wenn dies dazu dienen sollte, die neueste Smart-Brille des Unternehmens zu bewerben, wirkte es unbeholfen und schlecht getimt: Zuckerberg sollte in einem großen Verfahren aussagen, in dem es hieß, Instagram und YouTube seien so konzipiert, dass sie süchtig machen, und auf dem Weg hinein war er an einer Gruppe trauernder Eltern vorbeigekommen. Doch das von Mark Lanier angeführte Anklageteam lachte nicht.
Dies war ein ernster Prozess. Zum ersten Mal wurden die größten Namen der sozialen Medien für die Art und Weise verantwortlich gemacht, wie ihre Plattformen aufgebaut sind, nicht nur für die Inhalte auf ihnen. Ihnen wurde vorgeworfen, Produkte bewusst und schädlich so gestaltet zu haben, dass sie Kinder bei der Stange halten, mit schwerwiegenden Folgen für die psychische Gesundheit junger Menschen. Es war ein wegweisender Fall – ein Tabak-Moment für die großen Tech-Konzerne.
Aber es gab spezifische Gründe, warum die Anklage zutiefst beunruhigt war, Meta Ray-Bans im Gerichtssaal zu sehen. „Wir hatten hart für eine anonyme Jury gekämpft. Wir wollten nicht, dass ihre Namen so geteilt werden, dass Google ihre Gmails nachschlagen oder Meta ihre Facebook-Konten finden könnte", erzählt mir Lanier mit seinem warmen texanischen Akzent. „Dann taucht Zuckerberg mit Sicherheitsleuten auf, die Meta-Brillen tragen. Sie können leicht Gesichtserkennung nutzen, um genau herauszufinden, wer die Geschworenen sind." Dies sei keine Produktplatzierung, sagt Lanier – es sei der Einsatz der unerbittlichsten Form digitaler Überwachung, die die Welt je gesehen habe.
Die Anklage wandte sich an den Richter und wies darauf hin, dass Zuckerbergs Team gegen Regeln verstoße, die Kameras im Gerichtssaal verböten. „Der Richter ließ sie schwören, dass sie keine Bilder gemacht hatten", sagt Lanier. „Und dann nahmen sie die Brille ab."
Der Fall KGM gegen Meta et al. war von Anfang an ebenso hochtechnologisch wie folgenreich. KGM – auch bekannt unter ihrem Vornamen Kaley – behauptete, dass eine Social-Media-Sucht, beginnend mit YouTube im Alter von sechs Jahren und Instagram im Alter von neun Jahren, dazu geführt habe, dass sie eine Körperdysmorphophobie, Angstzustände und Depressionen entwickelte. (Snapchat und TikTok, die in Kaleys ursprünglicher Beschwerde genannt wurden, hatten sich vor Prozessbeginn außergerichtlich auf einen nicht genannten Betrag geeinigt.) Laniers Team musste die Jury davon überzeugen, dass Meta und Google ihre Produkte so gestaltet haben, dass sie süchtig machen. Es war ein Testfall, der den Weg für Tausende weitere ebnen könnte.
„Ich war noch nie vor Gericht gewesen", sagt mir die heute 20-jährige Kaley in ihrem ersten Zeitungsinterview. „All diese Leute zu sehen und all ihre Blicke auf mich gerichtet zu haben, war sehr überwältigend."
Lanier wusste, dass dies ein Fall wie kein anderer war – und dass seine Gegner bereit waren, jedes ihnen zur Verfügung stehende Mittel einzusetzen, um zu gewinnen, einschließlich künstlicher Intelligenz. Google und Meta haben ihre eigenen KIs: Gemini bzw. Meta AI. Lanier war entschlossen, sie mit ihren eigenen Waffen zu schlagen. (Ein selbsternannter „KI-Eiferer", seine Firma hat ein Team von fünf Leuten, deren einzige Aufgabe darin besteht, ihm einen wöchentlichen Bericht über KI-Fortschritte der letzten sieben Tage zu geben.) Lanier bat eine Firma namens BoodleBox, eine maßgeschneiderte KI zu erstellen, die Gemini, Claude, ChatGPT und andere bestehende Modelle kombinierte. Er habe sie auf „30 verschiedene Arten" für Kaleys Fall eingesetzt, sagt er, aber als er mir nur von einer davon erzählt, klappt mir die Kinnlade runter.
Die Jury war zwar anonym, aber die Anwaltsteams konnten während der Auswahl der Geschworenen eine Menge Daten über jedes Mitglied sammeln, erklärt Lanier. „Wir haben Fragebögen, die sie ausgefüllt haben und die uns ihr Alter, Geschlecht, Berufserfahrung und Familienstand verraten. Aber es gibt uns noch mehr Einblick: Es wird gefragt: Wer sind die drei Menschen, die Sie am meisten bewundern und warum? Wer sind die drei, die Sie am wenigsten bewundern und warum? Wie würden Sie dies oder das auf einer Skala von eins bis zehn bewerten?" Mit einer detaillierten Datei mit Informationen erstellte Laniers KI Profile jedes Geschworenen – „ein demografisches und psychologisches Modell" von jedem –, das es ihm erlaubte, potenzielle Argumente an einzelnen Mitgliedern zu testen. Am Ende jedes Gerichtstages fütterte er die Transkripte in seine KI-Schattenjury und stellte Fragen. Was dachte Geschworener Nummer 11 über den Zeugen? Was fand Geschworener Nummer sieben wichtig? Wo wurde Geschworener Nummer drei verwirrt? „Ziemlich cool", sagt er mit einem Grinsen.
KI könne zum Guten oder zum Bösen missbraucht werden, sagt Lanier – genau wie Prozessführung, die er seit 42 Jahren praktiziert, oder der religiöse Glaube, der alles leitet, was er tut. Als frommer Christ glaubt Lanier, dass er eine göttliche Mission hat, sich mit Unternehmen anzulegen, die reich werden, indem sie die Schwachen ausbeuten.
„Die andere Seite hatte unbegrenzte Ressourcen. Sie hatten Dutzende von Anwälten im Gerichtssaal. Es eine David-gegen-Goliath-Geschichte zu nennen, könnte David zu viel Ehre geben, aber es ist die beste Art, wie ich es beschreiben kann", sagt er. Die Kluft zwischen ihm und seinen Gegnern war sogar noch größer als das größte Missverhältnis in der biblischen Geschichte. „Dies war ein gerechter Fall, ohne Zweifel. Es war ein heiliger Krieg."
Bild im Vollbildmodus anzeigen: Lanier mit seinen Töchtern Rachel (links) und Sarah (rechts), die mit ihm an dem Fall arbeiteten, auf den Stufen des Gerichtsgebäudes. Foto: Ted Soqui/EPA/Shutterstock
„Politiker werden diese Leute niemals zur Rechenschaft ziehen. Das Einzige, was sie fürchten, ist eine Jury."
Am 25. März, als die (echte, menschliche) Jury ihr Urteil verkündete, stand Lanier mit zwei seiner fünf Kinder – den Töchtern Sarah und Rachel, die mit ihm an dem Fall gearbeitet hatten – auf den Stufen des Gerichtsgebäudes und nannte es „einen gerechten Moment". Die Jury befand Google und Meta in allen Anklagepunkten für haftbar und sprach Kaley 6 Millionen Dollar zu: 3 Millionen Dollar Schadensersatz und zusätzlich 3 Millionen Dollar Strafschadensersatz, da festgestellt wurde, dass Meta und Google „mit Arglist, Unterdrückung oder Betrug" gehandelt hatten. Meta wird 70 % der Rechnung zahlen, Google den Rest. Aber dieser Schadensersatz ist erst der Anfang: Mehr als 2.000 ähnliche Klagen werden nun gegen Social-Media-Unternehmen eingereicht, denen vorgeworfen wird, die psychische Gesundheit von Kindern mit Produkten geschädigt zu haben, die von Natur aus süchtig machen, und zwar auf dem Rechtsweg, den Lanier in Kaleys Fall als gangbar erwiesen hat.
Seit sie hinter Trump bei seiner zweiten Amtseinführung standen, schien die Macht der Tech-Giganten unerschütterlicher denn je. (Lanier erzählt mir, dass Big Tech jetzt einen Lobbyisten für jeweils sechs Mitglieder des 441-köpfigen US-Repräsentantenhauses einstellt.) Aber Kaleys rechtlicher Sieg ist eine Abrechnung – eine, die das gesamte Geschäftsmodell der sozialen Medien bedrohen könnte.
„Politiker werden diese Leute niemals zur Rechenschaft ziehen. Das Einzige, was sie fürchten, ist eine Jury", sagt Lanier. „Ich bekomme 12 normale Leute, und sie sind ermächtigt. Und wenn sie diese Beweise hören und ihren Eid ernst nehmen – bäm! – können sie etwas bewirken."
Ich treffe Lanier in Yarnton Manor, einem denkmalgeschützten Anwesen in Oxfordshire, das 1611 von Sir Thomas Spencer erbaut wurde, einem entfernten Vorfahren von Diana, Princess of Wales. Er lümmelt auf einem blaugrünen Sofa in einem der holzgetäfelten Räume, manchmal baumelt ein Bein über die Sofalehne, manchmal umarmt er eines der Samtkissen, oft beugt er sich vor, um mit lebhafter Aufregung zu gestikulieren, während er eine Bibelstelle oder ein vernichtendes Beweisstück aus dem Prozess teilt. Es ist ein drückend heißer Tag Ende Mai, und der 65-jährige Lanier ist gestern aus Houston eingeflogen, aber er sieht aus wie ein junger Frühling. Er braucht nur vier Stunden Schlaf pro Nacht. „Schlaf ist ein Bonus, aber kein notwendiger."
Laniers gemeinnützige Stiftung kaufte Yarnton 2021 und machte daraus ein Zentrum für Religionsstudien. Er predigt jeden Sonntag in einer Baptistenkirche; er hat ein weiteres Studienzentrum in Houston. „Zumindest in den USA hat der christliche Glaube den schlechten Ruf, nur bei Ungebildeten, Unaufgeklärten, Engstirnigen und Voreingenommenen zu sein. Wir, die wir an einem Glauben festhalten, haben die Verantwortung, das Gute hervorzubringen, das er bieten kann – nicht das selbstgerechte Zeug, das Spaltung schafft", sagt er. „Ich bin Anwalt, und ich habe das alles finanziert, indem ich Leute verfolgt habe, deren Verhalten zerstörerisch war." Er zeichnet ein Rechteck in die Luft über seinem Kopf und fährt die Ecken der verzierten, gewölbten Decke nach. „Der Johnson-&-Johnson-Fall hat das bezahlt", grinst er. „Meine Frau und ich nennen es das J&J Manor House."
Normalerweise will ich ein schockierendes Urteil, das die Wall Street zurückweichen lässt, Hausjuristen feuert und Unternehmen zwingt, ihre Arbeitsweise zu ändern. Bevor er sich Google und Meta vornahm, war Lanier an einigen der bekanntesten wegweisenden Klagen in der Geschichte der großen Pharmaunternehmen beteiligt. 2018 gewann er 4,69 Milliarden Dollar (später in der Berufung auf 2,12 Milliarden Dollar reduziert) für 22 Frauen mit Eierstockkrebs und ihre Familien, nachdem Johnson & Johnson es versäumt hatte, sie vor dem Krebsrisiko durch den Talk in ihrem Babypuder zu warnen. Natürlicher Talk wird oft in der Nähe von krebserregendem Asbest abgebaut; Lanier argumentierte, dass Johnson & Johnson dies jahrzehntelang gewusst habe, ohne die Öffentlichkeit zu informieren. (Johnson & Johnson sagte 2018: „J&Js Babypuder ist sicher und verursacht keinen Krebs. Studien mit Zehntausenden von Frauen und Tausenden von Männern zeigen, dass Talk keinen Krebs oder asbestbedingte Krankheiten verursacht.") 2019 gewann er in letzter Minute einen Vergleich in Höhe von 260 Millionen Dollar von Opioid-Herstellern und -Händlern, kurz vor dem, was der erste Bundesprozess in der Geschichte der Opioid-Epidemie gewesen wäre.
Lanier sagt, sein „täglich Brot" seien alltägliche, bekannte Produkte, die ernsthafte Schäden verursachen können, was die dahinterstehenden Unternehmen wüssten, aber zu ignorieren beschlössen. „Normalerweise will ich ein schockierendes Urteil, das die Wall Street zurückweichen lässt, Hausjuristen feuert und Unternehmen zwingt, ihre Arbeitsweise zu ändern", sagte Lanier kürzlich in einem Podcast.
Als er seine Karriere in einer großen Anwaltskanzlei in Houston begann, mochte er es einfach, zu gewinnen. Er lernte die psychologischen Fähigkeiten und rhetorischen Techniken, die ihm halfen, vor Gericht zu glänzen: wie man Dinge einprägsam macht, wie man einen Raum liest und seine Energie verändert, „wie man Wörter wählt, die Bauchreaktionen auslösen, wie man Geschichten einsetzt, um die natürlichen Abwehrmechanismen der Menschen zu umgehen." Aber nach fünf Jahren ununterbrochener Siege verlor er – in einem Fall, in dem er wusste, dass sein Mandant im Unrecht war. Als er nach Hause fuhr und seine Wunden leckte, hatte er eine Offenbarung. „Ich dachte, was mache ich da? Habe ich fast meine Gaben, meine Talente, meine Fähigkeiten eingesetzt, um ein Unrecht zu begehen?" Im Alter von 29 Jahren gründete Lanier seine eigene Kanzlei, damit er auswählen konnte, was er für „gerechte" Fälle hielt. „Man kann mit dieser Macht schreckliche Dinge tun, oder man kann Gutes tun."
Lanier schätzt, dass Vergleiche von Pharmaunternehmen nach seiner wegweisenden Opioid-Klage inzwischen 10 Milliarden Dollar übersteigen. Sein Sieg im Johnson-&-Johnson-Fall öffnete die Schleusen für Zehntausende von Klagen von Krebspatienten und ihren Familien – darunter eine, die derzeit vor dem High Court of England and Wales verhandelt wird, mit mehr als 7.000 Klägern. J&J bestreitet die Vorwürfe.
Nach Kaleys Sieg gegen Google und Meta behauptete die ehemalige Facebook-Mitarbeiterin und Whistleblowerin Frances Haugen, dass Meta für künftige Schäden in Höhe von einer Billion Dollar haftbar gemacht werden könnte, von Zehntausenden von Menschen, die durch die Nutzung ihrer Plattformen als Kinder geschädigt wurden. Das könnte eine Überschätzung sein, sagt Lanier. „Aber Dutzende von Milliarden, leicht. Ein Teil davon ist auch: Sind sie bereit, echte Veränderungen vorzunehmen? Vernünftige Veränderungen sind etwas, das viele von uns sehr schätzen würden."
Zum Zeitpunkt des Johnson-&-Johnson-Urteils stellte Lanier fest, dass die Klage in einem ersten Testfall mit nur einer kleinen Gruppe von Klägern es ihm ermöglichte, die emotionale Wirkung ihrer Geschichten auf die Jury zu maximieren. „In kleinen Gruppen ist es leichter, Gerechtigkeit zu erlangen", sagte er. „In kleinen Gruppen haben Menschen Namen, aber in großen Gruppen sind sie nur Zahlen."
Kaley war die einzige Person, die den Fall anstrengte, und sie wollte keine Vorreiterin sein. Ihre Mutter war es, die ihre Situation den Anwälten zur Kenntnis brachte. (Vor Gericht wurde Kaley nur als KGM bezeichnet, weil der Schaden, den sie erlitt, in ihrer Kindheit geschah.)
„Ich hatte wirklich Angst", sagt mir Kaley in einem Videoanruf; sie entschied sich, ihre Kamera ausgeschaltet zu lassen. „Ich war sehr ängstlich, dass sie meine Konten als Strafe löschen würden. Und das ist auch passiert, zumindest bei Snapchat."
Es gibt einen Kontrast in der Art, wie Kaley spricht: Die Aussage im Prozess hat sie in die Lage versetzt, schwierige Fragen zu den schwersten Teilen ihres Lebens zu beantworten, und das, zusammen mit ihrer leisen Stimme, kann sie älter klingen lassen als 20. Aber ihre Antworten sind oft kurz und abgehackt, und sie hat manchmal Mühe, die richtigen Worte zu finden, wie ein Teenager.
„Ich war von dem Moment an, als ich aufwachte, bis ich ins Bett ging, auf Instagram. Ich war während des Unterrichts an meinem Handy – ich bekam Ärger, ich bekam schlechte Noten."
Aufgewachsen bei einer alleinerziehenden Mutter in Chico, Kalifornien, zusammen mit einem älteren Bruder und einer älteren Schwester, wuchs Kaley mit Lernschwierigkeiten in einem Haushalt ohne viel zusätzliches Geld auf. Mit neun Jahren hatte sie Hunderte von Videos auf YouTube hochgeladen und hatte bald Dutzende von Konten sowohl auf YouTube als auch auf Instagram. „Ich mochte es, dass ich meine eigenen Sachen posten und sehen konnte, wie viele Likes ich bekam. Ich mochte es, sehen zu können, was meine Freunde machten." Wenn Kaley nicht postete, scrollte sie. Sie hörte auf, Zeit mit ihrer Familie zu verbringen. Sie hörte auf, ihr Haus zu verlassen. Einmal verbrachte sie mehr als 16 Stunden an einem einzigen Tag auf Instagram.
„Ich war jeden Tag von dem Moment an, als ich aufwachte, bis ich ins Bett ging, darauf. Ich war während des Unterrichts an meinem Handy – ich bekam Ärger, ich bekam schlechte Noten, weil ich nicht aufpasste." Sie hatte panische Angst davor, dass ihrem Handy etwas zustoßen könnte. „Wenn ich in der Nähe eines Sees oder so etwas ging, hatte ich solche Angst, dass ich mein Handy fallen lassen und meine sozialen Medien verlieren würde."
Ihre Mutter versuchte einzugreifen, indem sie Bildschirmzeitlimits setzte oder Kaley das Handy ganz wegnahm. „Aber ich bin ausgerastet", sagt Kaley. „Ich hatte Entzugserscheinungen. Es war einfach so schwer, etwas anderes zu tun." Sie stand mitten in der Nacht auf, um ihr Handy zu suchen, oder „bettelte und bettelte und weinte", bis sie es zurückbekam. Als ihre Mutter Instagram von Kaleys Handy entfernte, nahm Kaley heimlich ein altes Handy ihrer älteren Schwester, um die App ohne Wissen ihrer Mutter erneut herunterladen zu können.
Fast unmittelbar nachdem sie Instagram beigetreten war, begann Kaley, Filter zu verwenden, um ihre Augen größer und ihre Nase kürzer erscheinen zu lassen. „Ich machte ein Selfie mit einem Filter und sah mich dann selbst – wie ich tatsächlich aussah – und fühlte mich einfach wirklich hässlich", sagt sie. „Es gab mir all diese neuen Unsicherheiten und ließ mich mich selbst auf eine Weise sehen, wie andere mich nicht wirklich sahen." Im Alter von 10 Jahren begann Kaley, sich zu ritzen. Später wurde bei ihr Depression, Angststörung und klinische Körperdysmorphophobie diagnostiziert.
Lanier wollte nicht, dass Kaley den gesamten Prozess durchsitzt. Sie lasse sich leicht ablenken, sagt er; außerdem sei es seine Aufgabe gewesen, die Jury davon zu überzeugen, dass sie durch die Produkte von Google und Meta ernsthaft geschädigt worden sei. Er wollte nicht, dass sie ging und dachte, sie sei dauerhaft geschädigt.
Während seines Eröffnungsplädoyers stapelte Lanier drei hölzerne ABC-Spielzeugblöcke aufeinander. „Ich dachte, ich sage der Jury, dieser Fall ist so einfach wie ABC – Addicting the Brains of Children (die Gehirne von Kindern süchtig machen)", erklärt er. „Es gibt ein Prinzip in der Psychologie und beim Lernen, die kognitive Leichtigkeit: Wir glauben automatisch Dinge, die leichter zu verstehen sind. Es gibt ein Prinzip in der Rhetorik: die Macht der Drei. Dreiergruppen scheinen einfach in unseren Seelen und Gedanken zu haften. ABC, eins, zwei, drei." (Während seines Eröffnungsplädoyers im Johnson-&-Johnson-Prozess verwendete Lanier Scrabble-Steine, um der Jury klarzumachen: „Asbest, eingeatmet oder aufgenommen, verursacht Krebs.")
Dann hielt Metas Anwalt Paul Schmidt sein Eröffnungsplädoyer und widersprach. „War es Instagram oder andere Ursachen?", fragte er. Er sagte der Jury, die Wurzel von Kaleys psychischen Problemen sei ihr chaotisches Aufwachsen gewesen – dass ihr Zuhause und ihre Lernschwierigkeiten bedeutet hätten, dass diese Probleme ohnehin Teil ihres Lebens gewesen wären. Lanier weist diese Idee zurück. „Nur weil jemand Kopfschmerzen hat, gibt dir das nicht das Recht, ihm mit einem Stein auf den Kopf zu schlagen und zu sagen: 'Er hatte schon Kopfschmerzen! Gib mir nicht die Schuld!'"
Lanier durfte im Gerichtssaal nicht auf das Eröffnungsplädoyer der Beklagten antworten. Aber als er an diesem Tag das Gerichtsgebäude verließ, sprach er zu der dort wartenden Medienmenge. „Am nächsten Morgen kommen wir vor Gericht, und die Bösen wollen mit dem Richter ein Gespräch unter Ausschluss der Öffentlichkeit führen." In den Richterzimmern, sagt er, beschwerte sich Metas Team, dass Laniers Erwiderung auf ihr Eröffnungsplädoyer in der Presse breit berichtet werde, und baten den Richter, ihn daran zu hindern, mit Journalisten zu sprechen.
Wieder einmal nutzte Lanier die Macht der Drei. „Ich sagte: 'Erstens, ich habe es nicht vor Gericht getan – ich war draußen auf dem Bürgersteig. Zweitens, Sie haben der Jury gesagt, sie solle keine Medienberichte lesen. Drittens, die Beklagten in diesem Fall sind soziale Medien. Sie geben Pressemitteilungen heraus! Sie posten auf Instagram!'" (Während des Prozesses hatte Meta hart daran gearbeitet, die Botschaft zu verbreiten, dass das Unternehmen das Wohlergehen junger Menschen ernst nehme, sowohl auf ihren eigenen Plattformen als auch in ihrer breiteren öffentlichen Kommunikation.) „Das lässt meinen kleinen Kommentar auf dem Bürgersteig vor dem Gericht ziemlich unbedeutend erscheinen." Metas Anwälte gaben schließlich nach. „Der Richter sagte: 'Ist Ihnen bewusst, dass es vier Werbetafeln rund um das Gerichtsgebäude gibt, auf denen Ihre Anzeigen zu sehen sind, in denen Sie sagen, wie sehr Sie sich in allem, was Sie tun, um Kinder kümmern – und Sie beschweren sich über Mr. Lanier?'"
[Bild: Lanier fotografiert in der Bibliothek von Yarnton Manor, Oxfordshire. Foto: Gareth Iwan Jones/The Guardian]
„Es ist sehr naiv zu glauben, dass Eltern gegen Billionen-Dollar-Unternehmen und die aggressivste Technologie der Menschheitsgeschichte bestehen können." Die trauernden Familien vor dem Gerichtsgebäude jeden Tag – einige hielten Schilder mit der Aufschrift „Wir sind KGM" – wollten, dass das Gesamtbild von Kaleys Kämpfen anerkannt wird. Aber die Beklagten hatten argumentiert, dass Lanier nicht erwähnen dürfe, dass andere junge Menschen durch soziale Medien geschädigt worden seien. „Sie wollten sie zur Ausnahme machen", sagt er. „Das Traurige ist, wir haben eine ganze Generation von Kaleys. Gehen Sie in ein Restaurant und schauen Sie, wie viele Menschen in ihrem Alter dasitzen wie ..." Er nimmt sein Handy vom Couchtisch und beugt sich darüber. „Es ist so eine Verschwendung menschlichen Potenzials. Alles nur, damit Geld zu einer Handvoll reicher weißer Männer fließt, die die Welt regieren wollen."
Die Eltern kaufen die Handys, über die diese Kinder gebeugt sitzen, sage ich. Sollten sie nicht in der Lage sein, Grundregeln aufzustellen und durchzusetzen? Lanier lächelt. „Es ist sehr naiv zu glauben, dass wir so erstaunliche Eltern auf dieser Welt haben, dass sie gegen Billionen-Dollar-Unternehmen – mit ihren Algorithmen und ihren betrügerischen Werkzeugen – bestehen und gut genug informiert sein können, um die aggressivste Technologie der Menschheitsgeschichte zu bekämpfen. Kinder kommen in der Schule auf YouTube. Kinder gehen zu Freunden nach Hause. Kinder essen mit anderen Kindern zu Mittag. Macht Erziehung einen Unterschied? Natürlich tut sie das. Können Eltern die Maschine schlagen? Auf keinen Fall."
[Abschnitt zum Überspringen des Newsletter-Werbeabschnitts | Kostenloser Newsletter | Wöchentlich | Anmelden zu Inside Saturday]
Der einzige Weg, einen Blick hinter die Kulissen des Saturday Magazine zu werfen. Melden Sie sich an, um exklusive Einblicke von unseren Top-Autoren sowie alle Pflichtlektüre-Artikel und Kolumnen zu erhalten, die Ihnen jedes Wochenende direkt in Ihren Posteingang geliefert werden.
Vorschau der neuesten Ausgabe
Geben Sie Ihre E-Mail-Adresse ein
Anmelden
Nach dem Newsletter-Werbeabschnitt
Lanier war es auch nicht erlaubt, über die auf sozialen Medien gehosteten Inhalte zu diskutieren. Im Sinne des Gesetzes sind YouTube und Instagram keine Verleger, also sind sie nicht für die Inhalte verantwortlich, die sie hosten. „Aber dieser Inhalt ist Teil dessen, womit sie dich süchtig machen", sagt er. Stellen Sie sich vor, Sie betreten eine Buchhandlung und nehmen beiläufig ein Buch von einem Ausstellungstisch, erklärt er, nur um zu sehen, wie sich jedes Buch auf jedem Tisch in etwas verwandelt, das statistisch nachweislich Menschen anspricht, die an dieser Art von Buch interessiert sind – einschließlich einiger, die Sie schockieren, wütend machen oder erregen könnten. Berühren Sie einen anderen Titel, und alle Bücher ändern sich erneut, während die Buchhandlung Ihre Interessen so effektiv wie möglich eingrenzt. Anders als Buchhandlungen wollen Social-Media-Algorithmen, dass Sie für immer weiterstöbern.
„Die Algorithmen sind amoralisch – es sind Maschinen. Sie sind unerbittlich. Sie werden nie zögern, keine Energie mehr haben oder abgelenkt sein. Ihr einziger Zweck ist es, Ihre Aufmerksamkeit auf ihrer Plattform zu halten. Sie sind beängstigend."
Meta und Google wurden durch ihre eigenen Dokumente verurteilt: die Millionen von Seiten Beweismaterial, die der Richter von ihnen verlangte herauszugeben, plus einige wenige, die von Whistleblowern durchgestochen wurden. „Durch die harte Arbeit vieler junger Anwälte beim Lesen und die harte Arbeit der KI konnten wir das Gold finden", sagt Lanier. Es war eine wahre Fundgrube.
Interne Dokumente zeigten, dass die Unternehmen bewusst nach „Casino-Wissenschaft" gesucht hatten, um ihre Produkte in das zu verwandeln, was Lanier „Suchtmaschinen" nennt. Instagram, YouTube, Snapchat und TikTok verwenden alle intermittierende variable Belohnungen, die den Benutzern kleine, unvorhersehbare Dopamin-Schübe geben – genau wie Spielautomaten mit ihren kleinen Auszahlungen, die Sie hoffen lassen, dass der große Jackpot kommt, der vielleicht nie kommt, und Sie endlos auf Ihrem Handy scrollen, anstatt an einem Hebel zu ziehen. Ein Google-Memo von 2012 über YouTube sagte, sein „Ziel sei nicht die Zuschauerzahl; es sei die Zuschauersucht." Ein anderes Google-Dokument bezeichnete seine Produkte als „Spielautomaten". „Dies sind Aufmerksamkeits-Casinos", hieß es darin. „Das Haus gewinnt immer."
Es gab Dokumente von Google und Meta, die die „Dark Patterns" enthüllten, mit denen sie das Verhalten der Nutzer manipulieren. Nehmen Sie die Funktionen, die Kaleys Mutter zum Schutz ihrer Tochter nutzen wollte: Sie waren nicht leicht zu finden und standardmäßig ausgeschaltet. „Man muss erst herausfinden, dass es eine Schutzfunktion gibt, sie suchen und einschalten", sagt Lanier. „Der Schalter selbst unterliegt Dark Patterns: Die Leute schalten anders, wenn ein blauer Punkt erscheint, wenn man umschaltet, im Vergleich zu wenn es die Farbe nicht ändert."
Das bringt mich zu meinen eigenen Bemühungen, meinen Instagram-Feed zu kontrollieren, indem ich den Knopf umschalte, der ihn bittet, mir keine vorgeschlagenen Inhalte zu zeigen. Ich muss alle 30 Tage in meine Einstellungen gehen und ihn erneut umschalten, und da er die Farbe nicht ändert, bin ich mir nie sicher, ob es funktioniert hat. „Es ist heimtückisch", sagt Lanier. „Und sagen wir, als Elternteil tun Sie das für Ihr Kind. Haben Sie eine Kalendererinnerung eingerichtet, um 30 Tage später zum Handy Ihres Kindes zurückzukehren, wenn es wieder auf die Standardeinstellung zurückfällt?" Selbst wenn Sie organisiert genug wären, das zu tun, fügt er hinzu, ändern die Plattformen ihre Einstellungen so oft, dass es unmöglich ist, Schritt zu halten.
Es gab ein Meta-Dokument von 2018, das lautete: „Wenn wir bei Teenagern groß gewinnen wollen, müssen wir sie als Tweens hereinholen"; eine YouTube-Diashow mit Kindern ab vier Jahren, die darauf hindeutete, dass Eltern die Plattform als „digitalen Babysitter" nutzen könnten; und einen von Meta in Auftrag gegebenen Forschungsbericht von 2019, der ergab, dass Teenager „eine Süchtigen-Erzählung über ihre Instagram-Nutzung" hatten und dass „sie sich wünschten, sie könnten weniger Zeit damit verbringen, sich darüber Sorgen zu machen."
Dann gab es die Aussagen vor Gericht. Während eines denkwürdigen Schlagabtauschs mit Lanier sagte Instagram-Chef Adam Mosseri, dass 16 Stunden am Tag auf der Plattform vielleicht „problematisch" seien, aber er würde es nicht Sucht nennen. „Man kann es problematische Nutzung nennen. Man kann es Tweedledee nennen", sagt Lanier. „Das Problem war nicht das Zauberwort 'Sucht' – es war der Schaden."
Social-Media-Verbote werden populär. Aber für meinen Sohn und mich ist es zu spät | Dave Schilling
Weiterlesen
Aber die Anklage musste beweisen, dass Kaleys Social-Media-Nutzung den Schaden für ihre psychische Gesundheit verursacht hatte, und das war schwierig. „Social-Media-Unternehmen haben die Forschung mit Dingen gefüllt, die besagen, dass ihr Produkt vorteilhaft ist. Jahrzehntelang sagte die Tabakindustrie: 'Tabak verursacht nicht wirklich Lungenkrebs – sehen Sie sich all diese Studien an!' Und was Sie nicht wussten, ist, dass die Tabakindustrie sie geschrieben oder finanziert hatte", sagt Lanier. Ein Psychiater und ein Therapeut sagten beide aus, dass in Kaleys Fall ihre Körperdysmorphophobie durch ihre Social-Media-Nutzung verursacht wurde. „Die andere Seite argumentierte, es sei das Ergebnis schlechter Erziehung." Das Traurige, sagt Lanier, sei, dass Metas eigene Dokumente zeigen, dass sie wissen, dass sich die psychische Gesundheit von Teenager-Mädchen aus einkommensschwachen Verhältnissen mit bestehenden psychischen Problemen verschlechtert, wenn sie viel Zeit in sozialen Medien verbringen.
Als Zuckerberg in den Zeugenstand trat – das erste Mal, dass er vor einer Jury aussagte – sagte Lanier zu ihm, dass er „auf den Rücken" verletzlicher Kinder „Dollarzeichen geschrieben" sehe. Er zeigte Zuckerberg ein internes Dokument, das enthüllte, dass 2015 ein Drittel aller 10- bis 12-Jährigen in den USA Instagram nutzten, obwohl Kinder unter 13 Jahren keine Konten haben sollten, und eine E-Mail eines Managers, die besagte: „Mark hat entschieden, dass die oberste Priorität des Unternehmens Teenager sind." Zuckerberg sagte, dies sei nicht mehr die Arbeitsweise des Unternehmens, und er habe jahrelang daran gearbeitet, die „problematische Nutzung" seiner Plattformen anzugehen, „weil es das Richtige ist."
Am Ende der Befragung rollten sechs Anwälte der Anklage eine 15 Meter breite Collage aus, die einige der Hunderte von Selfies zeigte, die Kaley auf Instagram gepostet hatte. Lanier forderte Zuckerberg auf, sich die stark gefilterten Bilder anzusehen, und fragte ihn, ob Meta jemals Kaleys Konto auf problematische Nutzung untersucht habe. Zuckerberg antwortete nicht.
Lanier hatte vorgehabt, YouTube-CEO Neal Mohan in den Zeugenstand zu rufen, aber ihm ging die Zeit aus – der Richter hatte der Anklage nur 43 Stunden für den Prozess gegeben. „Ich entschied, dass ich ihn nicht brauchte", sagt Lanier. Aber Google sei in Kaleys Fall genauso schuldig wie Meta, fügt er hinzu. „YouTube war eine Einstiegsdroge."
Zeitdruck war einer der Gründe, warum sie sich entschieden, sich vor Prozessbeginn mit Snapchat und TikTok zu vergleichen. „Ich hätte ein gutes Urteil gegen sie erwirken können", sagt Lanier ein wenig wehmütig. Er plante, die Sicherheitsfunktionen zu vergleichen, die in der chinesischen Version von TikTok existieren, aber nicht auf seiner internationalen Plattform: eine Begrenzung der Nutzung in der Nacht, kein endloses Scrollen, obligatorische Auszeiten, nachdem Benutzer eine bestimmte Zeit in der App verbracht haben, und die Verwendung von KI, um festzustellen, ob Benutzer Kinder sind, „basierend auf Faktoren wie dem, was Sie sich ansehen, der Größe Ihres Fingers beim Scrollen und wie schnell Sie scrollen. Es gibt unzählige Möglichkeiten, wie sie dort sicherer sein müssen."
Google behauptete, der gesamte Fall missverstehe YouTube – es sei eine Streaming-Plattform, keine Social-Media-Seite. „Man kann Nachrichten senden, liken oder disliken, kommentieren und folgen. Es ist nicht nur Medien – es ist soziale Medien", erklärt Lanier. Aber für den Fall, dass dieses Argument nicht ausreichte, fragte das Anklageteam Googles eigene KI, was sie denke. Geminis Antwort war klar – YouTube ist soziale Medien.
Als Kaley das Urteil hörte, war ihr Hauptgefühl Erleichterung – für sich selbst und für alle, die nun ihrem Beispiel folgen können. „Ich wusste, dass es bedeutete, dass andere Fälle vor Gericht kommen konnten, also war ich glücklich für die anderen Familien", sagte sie. Die Tausende von Fällen, die darauf warteten, gegen Social-Media-Unternehmen eingereicht zu werden, falls sie
