Minulý týden společnost Meta—která vlastní Instagram a Facebook—souhlasila s tím, že zaplatí až 18 miliard dolarů na urovnání soudního sporu podaného desítkami amerických států. Státy obvinily Meta z toho, že škodí dětem návykovými produkty. Ale dopad této dohody na regulaci bude sahat daleko za dospívající a dotkne se každého uživatele sociálních médií.
Pokud Meta skutečně chce upřednostnit bezpečnost uživatelů, její představenstvo by mělo požádat Marka Zuckerberga, aby odstoupil, a restrukturalizovat společnost tak, aby bezpečnost byla důležitější než zisk.
Tato dohoda vlastně neodpovídá na vědeckou otázku, jak návyková sociální média skutečně jsou. Místo toho je výsledkem dlouhého boje, který začal v roce 2016, když novináři a nezávislí výzkumníci začali zkoumat, jak digitální design pomáhal šířit dezinformace během kampaně pro brexit ve Spojeném království a prezidentských voleb v USA. Zuckerberg je jedinou stálou nití, která se táhne historií Meta plnou chyb za miliardy dolarů, jež ublížily skutečným lidem.
Posledních 15 let jsem studoval, jak věda a technologie pohánějí společenské změny—k dobrému i ke zlému. Jako zakladatel Institutu pro kritická internetová studia vedu tým, který zkoumá škody způsobené novými technologiemi. Učíme profesionály o zjevných i skrytých rysech těchto technologií, včetně jejich nedostatků. V roce 2020 jsem před Kongresem vypověděl, že dezinformace fungují jako „pasivní kouření". Mé svědectví přišlo poté, co výkonný pracovník Meta přirovnal design angažovanostních algoritmů Meta k tomu, jak tabákové společnosti dělaly cigarety návykovějšími.
Dohoda za 18 miliard dolarů—a Zuckerberg se ani nezachvěl. Technologičtí giganti musí být zbaveni své moci, a to brzy.
V sérii komentářů, brífingů pro Kongres a výzkumných prací jsem rozšířil srovnání s tabákem. Ukázal jsem, jak kulturní pohledy na kouření jako osobní volbu změnily myšlenky jako pasivní kouření a vědecké důkazy, že tabák zvyšuje riziko rakoviny. Skutečné náklady kouření byly přeneseny na rodiny, pojišťovny a zaměstnavatele, kteří kvůli němu ztráceli čas a peníze. Reakce veřejného zdravotnictví nezakázala kouření úplně, ale omezila místa, kde lidé mohli kouřit, stanovila minimální věk pro nákup cigaret, donutila společnosti financovat veřejné vzdělávání o nebezpečích a—což je nejdůležitější—dala cigarety za pulty, kde museli pokladní kontrolovat občanské průkazy. Kampaně veřejného zdraví a varovné štítky také hrály velkou roli.
Podobným způsobem činí společnosti sociálních médií mnoho důležitých rozhodnutí o tom, co se objeví ve vašem kanálu. Některé z těchto funkcí jsou navrženy s algoritmy, aby udržely uživatele v aplikaci déle.
Tato dohoda přichází s omezeními designu: účty dospívajících jsou omezeny na dvě hodiny denně, blokovány od půlnoci do 6 hodin ráno a nedostávají žádná oznámení během školních hodin. Účty dospívajících také musí být propojeny s účtem rodiče, spolu s přísnějšími kontrolami věku. Stále není jasné, jak to bude fungovat v praxi, ale pravděpodobně se to stane problémem pro soukromí. I když tato pravidla omezují čas strávený na obrazovce u 13 až 18letých, příliš neřeší škodlivý obsah—jako to, jak se drogy, sex a hazardní hry dostávají do doporučení algoritmů.
Je jasné, že tato nejnovější dohoda signalizuje těžší cestu pro Zuckerbergovy společnosti. Meta bojovala v mnoha právních bitvách, zatímco se vyhýbala vážné regulaci moderování obsahu (které stojí peníze) nebo reklamy (která vydělává peníze). Prosazování těchto nových pravidel pro dospívající zvýší náklady. Meta již čelila dohodám a pokutám za miliardy dolarů za problémy od selhání ochrany soukromí uživatelů, přes bezpečnostní narušení v roce 2018, až po hrozné výsledky pro duševní zdraví mladých lidí. Meta také způsobila škody jiným skupinám bez kompenzace, včetně zesilování nenávistných projevů proti Rohingům v Myanmaru a hostování a algoritmické propagace rozšířené lékařské dezinformace a konspiračních teorií, které vedly k otravě toxiny a váhavosti vůči očkování—něco, co Světová zdravotnická organizace nazvala „infodemií". Termín „infodemie" zachycuje, jak se dezinformace šíří jako virus. Selhání Marka Zuckerberga jako vůdce přímo způsobilo vážné, dobře zdokumentované škody občanskému životu, demokracii a duševnímu a fyzickému zdraví lidí po celém světě—zejména mezi mladými lidmi. Od založení Facebooku v roce 2004 čelil Zuckerberg neustálým soudním sporům ohledně problémů, jako je vlastnictví a akcie z raných dnů. Tehdy začal používat PR strategii ke zpoždění, popírání a odvádění pozornosti od problémů vyplývajících z toho, že vedoucí pracovníci volili zisk nad blahobytem uživatelů. Vůdci Meta profitovali z tragického zesilování nenávisti, obtěžování a podněcování.
Zároveň to vytvořilo vlnu whistleblowerů a další pravděpodobně přijdou, nyní když je jasné, že volby těchto vedoucích pracovníků vedly k „skutečnému poškození"—termínu ze Silicon Valley, který odděluje online prostory od skutečného života. Dohoda následuje po tvrdých slyšeních z minulého týdne, kde whistleblower Arturo Béjar směle řekl: „Prostě nemůžete důvěřovat Marku Zuckerbergovi s dětmi." Béjar, který vedl úsilí o bezpečnost na Instagramu, viděl svou dospívající dceru čelit nechtěnému sexistickému obtěžování na platformě. Díky své roli v Meta měl skutečná data k měření škod Instagramu, včetně toho, jak různé algoritmické změny ovlivnily růst, angažovanost a uživatelský zážitek.
Dohoda za 18 miliard dolarů je pro Meta jen nepatrným zlomkem, ale tlak bude pokračovat. Béjar odhaduje, že se se Zuckerbergem setkal více než 100krát, než se stal whistleblowerem. Mnoho whistleblowerů začíná tím, že se snaží opravit problémy řádnými kanály, jen aby čelili odmítnutí od nadřízených. Ironicky bývají lidmi, kteří dodržují pravidla, a rostou jejich frustrace, když jejich obavy narazí na lhostejnost nebo povrchní shodu v práci.
V prosinci 2023 jsem čelil intenzivnímu odporu v akademickém prostředí poté, co jsem získal dokumenty od jiné whistleblowerky, Frances Haugenové, které jsem plánoval sdílet ve veřejné databázi. Dokumenty jsem získal legálně a využil své odbornosti, abych pomohl technologickým insiderům, novinářům, výzkumníkům a pracovníkům ve Washingtonu pochopit, co Haugenové dokumenty odhalovaly—a neodhalovaly—o znalostech a odpovědnosti Meta za problémy produktů. Ale zpráva byla jasná: Meta, tehdy nazývaná Facebook, věděla o škodách, které Instagram způsoboval dospívajícím dívkám.
Přesto, přes každý skandál, Zuckerbergovo bohatství vzrostlo na téměř 200 miliard dolarů, podle Forbes. Pokuty pro někoho tak bohatého nic neznamenají, takže prvním krokem k ochraně společnosti je dát Meta nový začátek bez Zuckerbergova vlivu na budoucí produkty. Jeho vize „budoucnosti pro všechny" je mělká utopie, kde AI agenti řídí váš život a vy jen proplouváte.
Kromě soudů by Meta mohla tento problém řešit tím, že požádá Zuckerberga o dobrovolné odstoupení. Přinést naději pro budoucnost technologie znamená změnit vedení Meta nyní, aby budoucnost byla utvářena kolektivně a postavena na nové pověsti a závazku. Zuckerberg si nezaslouží další šanci jen proto, že si to může dovolit. Nakonec všichni platíme za jeho chyby. Nyní je čas, aby akcionáři promluvili a zpochybnili Zuckerbergovu kontrolu.
Joan Donovan je odbornou asistentkou žurnalistiky na Bostonské univerzitě, kde studuje, jak technologie ovlivňuje společnost. Založila Institut pro kritická internetová studia, kde vede projekt o politickém násilí a sociálních hnutích.
Často kladené otázky
Zde je seznam často kladených otázek na základě premisy článku
Obecné základní otázky
Q Kdo je Joan Donovan
A Je prominentní akademičkou a výzkumnicí, která studuje, jak média, technologie a sociální hnutí interagují Dříve vedla Projekt výzkumu technologie a sociálních změn v Shorensteinově centru na Harvardu
Q Jaký je hlavní bod argumentu Joan Donovan
A Jejím hlavním bodem je, že Mark Zuckerberg má příliš mnoho nekontrolované moci nad Meta Tvrdí, že jeho kontrola nad algoritmy a obsahovými politikami společnosti způsobila vážné škody demokracii a veřejné bezpečnosti a že by měl odstoupit z funkce generálního ředitele
Q Je to jen o tom, že je Facebook neoblíbený
A Ne I když Facebook má problémy s veřejným obrazem, argument Donovan je konkrétnější Zaměřuje se na strukturální nedostatky v tom, jak je Meta řízena, a tvrdí, že Zuckerberg dělá jednostranná rozhodnutí, která upřednostňují růst a angažovanost nad bezpečností uživatelů a společenským blahobytem
Q Proč říká, že musí odstoupit konkrétně Zuckerberg, ne jen změnit politiky
A Tvrdí, že problémem je samotná koncentrace moci Dokud má Zuckerberg většinovou hlasovací kontrolu, může zvrátit jakékoli změny politik podle libosti Věří, že změna vedení je nezbytná pro skutečnou reformu kultury a odpovědnosti společnosti
Konkrétní kritiky problémy
Q Jaké konkrétní škody Donovan říká, že Meta způsobila
A Poukazuje na několik problémů, včetně zesilování dezinformací o volbách a vakcínách, usnadňování nenávistných projevů a podněcování k násilí a selhání ochrany soukromí dat uživatelů
Q Co Donovan říká o Zuckerbergově obratu k metaversu
A Vidí to jako rozptýlení Tvrdí, že zatímco Zuckerberg utrácí miliardy dolarů za budování světů virtuální reality, Meta selhává v řešení skutečných škod, které se dějí právě teď na jejích stávajících platformách
Q Jaké je spojení s útokem na Kapitol v tomto argumentu
