W zeszłym tygodniu Meta—firma będąca właścicielem Instagrama i Facebooka—zgodziła się zapłacić nawet 18 miliardów dolarów, aby zakończyć pozew wniesiony przez kilkadziesiąt stanów USA. Stany oskarżyły Metę o krzywdzenie dzieci za pomocą uzależniających produktów. Jednak regulacyjny wpływ tego ugody sięgnie daleko poza nastolatków, dotykając każdego użytkownika mediów społecznościowych.
Jeśli Meta naprawdę chce stawiać bezpieczeństwo użytkowników na pierwszym miejscu, jej zarząd powinien poprosić Marka Zuckerberga o ustąpienie i zrestrukturyzować firmę tak, aby bezpieczeństwo znaczyło więcej niż zysk.
Ugoda nie odpowiada tak naprawdę na naukowe pytanie, jak bardzo uzależniające są media społecznościowe. Zamiast tego jest wynikiem długiej walki, która zaczęła się w 2016 roku, gdy dziennikarze i niezależni badacze zaczęli przyglądać się, jak cyfrowy design pomagał w rozprzestrzenianiu dezinformacji podczas kampanii brexitowej w Wielkiej Brytanii i wyborów prezydenckich w USA. Zuckerberg jest jedynym stałym elementem przewijającym się przez historię Meta pełną błędów wartych miliardy dolarów, które skrzywdziły prawdziwych ludzi.
Przez ostatnie 15 lat badałem, jak nauka i technologia napędzają zmiany społeczne—zarówno na dobre, jak i na złe. Jako założyciel Critical Internet Studies Institute kieruję zespołem, który bada szkody wyrządzane przez nowe technologie. Uczymy profesjonalistów zarówno o oczywistych, jak i ukrytych cechach tych technologii, w tym o ich wadach. W 2020 roku zeznałem przed Kongresem, że dezinformacja działa jak „bierne palenie". Moje zeznanie pojawiło się po tym, jak dyrektor Meta porównał projekt algorytmów zaangażowania Meta do tego, jak firmy tytoniowe czyniły papierosy bardziej uzależniającymi.
Ugoda na 18 miliardów dolarów—a Zuckerberg ledwo drgnął. Giganci technologiczni muszą zostać pozbawieni władzy, i to wkrótce.
W serii artykułów publicystycznych, briefingu dla Kongresu i prac badawczych rozwinąłem porównanie do tytoniu. Pokazałem, jak kulturowe postrzeganie palenia jako osobistego wyboru zostało zmienione przez takie idee jak bierne palenie i przez naukowe dowody, że tytoń zwiększa ryzyko raka. Prawdziwe koszty palenia zostały przerzucone na rodziny, firmy ubezpieczeniowe i pracodawców, którzy tracili czas i pieniądze na radzenie sobie z tym. Odpowiedź zdrowia publicznego nie zakazała palenia całkowicie, ale ograniczyła miejsca, gdzie można palić, ustanowiła minimalny wiek zakupu papierosów, zmusiła firmy do finansowania publicznej edukacji o zagrożeniach i—co najważniejsze—umieściła papierosy za ladą, gdzie kasjerzy musieli sprawdzać dokumenty. Kampanie zdrowia publicznego i ostrzeżenia na opakowaniach również odegrały dużą rolę.
W podobny sposób firmy mediów społecznościowych podejmują wiele ważnych decyzji dotyczących tego, co pojawia się w twoim feedzie. Niektóre z tych funkcji są zaprojektowane z algorytmami, aby utrzymać użytkowników w aplikacji dłużej.
Ta ugoda wiąże się z ograniczeniami projektowymi: konta nastolatków są ograniczone do dwóch godzin dziennie, zablokowane od północy do 6 rano i nie otrzymują powiadomień w godzinach szkolnych. Konta nastolatków muszą być również powiązane z kontem rodzica, wraz z silniejszymi kontrolami wieku. Nadal nie jest jasne, jak to będzie działać w praktyce, ale prawdopodobnie stanie się to problemem prywatności. Chociaż te zasady ograniczają czas ekranowy dla osób w wieku 13–18 lat, niewiele robią, aby rozwiązać problem szkodliwych treści—takich jak to, jak narkotyki, seks i hazard trafiają do rekomendacji algorytmów.
Jest jasne, że ta najnowsza ugoda zapowiada trudniejszą drogę dla firm Zuckerberga. Meta stoczyła wiele batalii prawnych, unikając poważnej regulacji moderacji treści (która kosztuje pieniądze) czy reklam (które przynoszą pieniądze). Egzekwowanie tych nowych zasad dla nastolatków podniesie koszty. Meta już stanęła w obliczu ugód i kar na miliardy dolarów za kwestie od braku ochrony prywatności użytkowników, przez naruszenie bezpieczeństwa w 2018 roku, po tragiczne skutki dla zdrowia psychicznego młodych ludzi. Meta wyrządziła również szkody innym grupom bez rekompensaty, w tym wzmacniając mowę nienawiści wobec Rohingjów w Mjanmie oraz hostując i algorytmicznie promując powszechną dezinformację medyczną i teorie spiskowe, które prowadziły do zatruć i niechęci do szczepionek—co Światowa Organizacja Zdrowia nazwała infodemią.
Termin „infodemia" oddaje, jak dezinformacja rozprzestrzenia się jak wirus. Porażki Marka Zuckerberga jako lidera bezpośrednio spowodowały poważne, dobrze udokumentowane szkody dla życia obywatelskiego, demokracji oraz zdrowia psychicznego i fizycznego ludzi na całym świecie—zwłaszcza wśród młodych. Od czasu założenia Facebooka w 2004 roku Zuckerberg mierzył się z ciągłymi pozwami dotyczącymi takich kwestii jak własność i akcje z wczesnych lat. To wtedy zaczął stosować strategię PR, aby opóźniać, zaprzeczać i odwracać uwagę od problemów wynikających z wyboru zysku przez kadrę kierowniczą kosztem dobrostanu użytkowników. Liderzy Meta czerpali zyski z tragicznego wzmacniania nienawiści, nękania i podżegania.
Jednocześnie stworzyło to falę sygnalistów, a kolejnych może przybyć, teraz gdy jasne jest, że wybory tych dyrektorów doprowadziły do „real-world harm"—terminu z Doliny Krzemowej, który oddziela przestrzeń online od prawdziwego życia. Ugoda następuje po surowych przesłuchaniach z zeszłego tygodnia, gdzie sygnalista Arturo Béjar śmiało powiedział: „Po prostu nie można ufać Markowi Zuckerbergowi z dziećmi". Béjar, który kierował działaniami na rzecz bezpieczeństwa w Instagramie, widział, jak jego nastoletnia córka spotykała się z niechcianym seksistowskim nękaniem na platformie. Dzięki swojej roli w Meta miał prawdziwe dane, aby zmierzyć szkody wyrządzane przez Instagrama, w tym jak różne zmiany algorytmiczne wpływały na wzrost, zaangażowanie i doświadczenie użytkowników.
Ugoda na 18 miliardów dolarów to dla Meta zaledwie ułamek, ale presja będzie narastać. Béjar szacuje, że spotkał się z Zuckerbergiem ponad 100 razy, zanim został sygnalistą. Wielu sygnalistów zaczyna od prób naprawienia problemów właściwymi kanałami, tylko po to, by spotkać się z odmową przełożonych. Paradoksalnie są to zwykle osoby przestrzegające zasad, które stają się coraz bardziej sfrustrowane, gdy ich obawy spotykają się z obojętnością lub pozorną zgodnością w pracy.
W grudniu 2023 roku spotkałem się z intensywną krytyką w środowisku akademickim po uzyskaniu dokumentów od innej sygnalistki, Frances Haugen, które planowałem udostępnić w publicznej bazie danych. Otrzymałem dokumenty legalnie i wykorzystałem swoją wiedzę, aby pomóc insiderom technologicznym, dziennikarzom, badaczom i pracownikom Waszyngtonu zrozumieć, co dokumenty Haugen ujawniały—a czego nie—na temat wiedzy i odpowiedzialności Meta za problemy z produktami. Ale przesłanie było jasne: Meta, wtedy nazywana Facebookiem, wiedziała o szkodach, jakie Instagram wyrządzał nastoletnim dziewczętom.
Jednak przez każdy skandal majątek Zuckerberga wzrósł do prawie 200 miliardów dolarów, według Forbesa. Grzywny nic nie znaczą dla kogoś tak bogatego, więc pierwszym krokiem do ochrony społeczeństwa jest danie Meta nowego startu bez wpływu Zuckerberga na przyszłe produkty. Jego wizja „przyszłości dla wszystkich" to płytka utopia, w której agenci AI zarządzają twoim życiem, a ty po prostu przez nie dryfujesz.
Poza sądami Meta mogłaby rozwiązać ten problem, prosząc Zuckerberga o dobrowolne ustąpienie. Przywrócenie nadziei na przyszłość technologii oznacza zmianę przywództwa Meta teraz, aby przyszłość była kształtowana kolektywnie i zbudowana na nowej reputacji i zaangażowaniu. Zuckerberg nie zasługuje na kolejną szansę tylko dlatego, że go na nią stać. W końcu wszyscy płacimy za jego błędy. Teraz jest czas, aby akcjonariusze zabrali głos i zakwestionowali kontrolę Zuckerberga.
Joan Donovan jest adiunktem dziennikarstwa na Uniwersytecie Bostońskim, badając, jak technologia wpływa na społeczeństwo. Założyła Critical Internet Studies Institute, gdzie kieruje projektem dotyczącym przemocy politycznej i ruchów społecznych.
