Förra veckan gick Meta—företaget som äger Instagram och Facebook—med på att betala upp till 18 miljarder dollar för att lösa en stämningsansökan från ett flertal amerikanska delstater. Delstaterna anklagade Meta för att skada barn med beroendeframkallande produkter. Men den regulatoriska effekten av denna uppgörelse kommer att nå långt bortom tonåringar och påverka varje användare av sociala medier.
Om Meta verkligen vill sätta användarnas säkerhet först, borde styrelsen be Mark Zuckerberg att avgå och omstrukturera företaget så att säkerhet väger tyngre än vinst.
Uppgörelsen besvarar inte riktigt den vetenskapliga frågan om hur beroendeframkallande sociala medier faktiskt är. Istället är den resultatet av en lång kamp som började 2016, när journalister och oberoende forskare började undersöka hur digital design bidrog till att sprida desinformation under Brexit-kampanjen i Storbritannien och det amerikanska presidentvalet. Zuckerberg är den enda ständiga tråden genom Metas historia av miljardmisstag som har skadat verkliga människor.
Under de senaste 15 åren har jag studerat hur vetenskap och teknik driver social förändring—både till det goda och det onda. Som grundare av The Critical Internet Studies Institute leder jag ett team som undersöker skador som orsakas av ny teknik. Vi lär yrkesverksamma om både de uppenbara och dolda funktionerna hos dessa teknologier, inklusive deras brister. År 2020 vittnade jag inför kongressen att desinformation fungerar som "passiv rökning." Mitt vittnesmål kom efter att en Meta-chef jämförde utformningen av Metas engagemangsalgoritmer med hur tobaksföretag gjorde cigaretter mer beroendeframkallande.
En uppgörelse på 18 miljarder dollar—och Zuckerberg knappt ryckte på axlarna. Techjättarna måste fråntas sin makt, och snart.
I en serie debattartiklar, kongressbriefingar och forskningsartiklar utvecklade jag tobaksjämförelsen. Jag visade hur kulturella synsätt på rökning som ett personligt val förändrades av idéer som passiv rökning och av vetenskapliga bevis på att tobak ökar cancerrisken. De verkliga kostnaderna för rökning överfördes till familjer, försäkringsbolag och arbetsgivare som förlorade tid och pengar på att hantera det. Folkhälsoinsatsen förbjöd inte rökning helt, men den begränsade var människor kunde röka, satte en minimiålder för att köpa cigaretter, tvingade företag att finansiera folkbildning om farorna, och—viktigast av allt—placerade cigaretter bakom diskar där kassapersonal var tvungen att kontrollera ID-handlingar. Folkhälsokampanjer och varningsetiketter spelade också en stor roll.
På ett liknande sätt gör sociala mediebolag många viktiga beslut om vad som visas i ditt flöde. Vissa av dessa funktioner är utformade med algoritmer för att hålla användare kvar i appen längre.
Denna uppgörelse kommer med designrestriktioner: tonårskonton är begränsade till två timmar om dagen, blockerade från midnatt till 06:00, och får inga aviseringar under skoltid. Tonårskonton måste också kopplas till ett föräldrakonto, tillsammans med starkare ålderskontroller. Det är fortfarande oklart hur det kommer att fungera i praktiken, men det kommer sannolikt att bli en integritetsmardröm. Även om dessa regler begränsar skärmtid för 13- till 18-åringar, gör de inte mycket för att hantera skadligt innehåll—som hur droger, sex och spelande hamnar i rekommendationer från algoritmer.
Det är tydligt att denna senaste uppgörelse signalerar en tuffare väg framåt för Zuckerbergs företag. Meta har kämpat i många juridiska strider samtidigt som man undvikit allvarlig reglering av innehållsmoderering (som kostar pengar) eller reklam (som genererar pengar). Att genomdriva dessa nya regler för tonåringar kommer att höja kostnaderna. Meta har redan mött miljarder i uppgörelser och böter för allt från att misslyckas med att skydda användarnas integritet, till en säkerhetsincident 2018, till fruktansvärda utfall för unga människors psykiska hälsa. Meta har också orsakat skada för andra grupper utan kompensation, inklusive att förstärka hatpropaganda mot rohingyafolket i Myanmar, och att vara värd för samt algoritmiskt främja utbredd medicinsk desinformation och konspirationsteorier som ledde till giftförgiftning och vaccintveksamhet—något som Världshälsoorganisationen kallade en "infodemi." Termen "infodemi" fångar hur desinformation sprider sig som ett virus. Mark Zuckerbergs misslyckanden som ledare orsakade direkt allvarlig, väldokumenterad skada på det civila livet, demokratin och människors psykiska och fysiska hälsa världen över—särskilt bland unga människor. Sedan han startade Facebook 2004 har Zuckerberg mött ständiga stämningar över frågor som ägande och aktier från de tidiga dagarna. Det var då han började använda en PR-strategi för att fördröja, förneka och avleda problem som uppstod från chefer som valde vinst framför användarnas välbefinnande. Metas ledare tjänade på den tragiska förstärkningen av hat, trakasserier och uppvigling.
Samtidigt har detta skapat en våg av visselblåsare, och fler kommer sannolikt nu när det är tydligt att dessa chefers val ledde till "verklig skada"—en Silicon Valley-term som skiljer onlineutrymmen från verkliga livet. Uppgörelsen följer förra veckans hårda utfrågningar, där visselblåsaren Arturo Béjar djärvt sa: "Man kan helt enkelt inte lita på Mark Zuckerberg med barn." Béjar, som ledde säkerhetsarbetet på Instagram, såg sin tonårsdotter möta oönskade sexistiska trakasserier på plattformen. Tack vare sin roll på Meta hade han verklig data för att mäta Instagrams skador, inklusive hur olika algoritmförändringar påverkade tillväxt, engagemang och användarupplevelse.
En uppgörelse på 18 miljarder dollar är bara en liten bråkdel för Meta, men trycket kommer att fortsätta byggas upp. Béjar uppskattar att han träffade Zuckerberg över 100 gånger innan han blev visselblåsare. Många visselblåsare börjar med att försöka hårt att åtgärda problem genom rätt kanaler, bara för att mötas av vägran från högre chefer. Ironiskt nog tenderar de att vara regelstyva personer som blir allt mer frustrerade när deras farhågor möts av likgiltighet eller ytlig efterlevnad på jobbet.
I december 2023 mötte jag intensiv motreaktion inom akademin efter att jag fått dokument från en annan visselblåsare, Frances Haugen, som jag planerade att dela i en offentlig databas. Jag fick dokumenten lagligt och använde min expertis för att hjälpa techinsiders, journalister, forskare och Washington-personal att förstå vad Haugen-dokumenten visade—och inte visade—om Metas kunskap och ansvar för produktproblem. Men budskapet var tydligt: Meta, då kallat Facebook, visste om skadan som Instagram orsakade tonårsflickor.
Ändå, genom varje skandal, har Zuckerbergs förmögenhet klättrat till nästan 200 miljarder dollar, enligt Forbes. Böter betyder ingenting för någon så rik, så det första steget för att skydda samhället är att ge Meta en nystart utan Zuckerbergs inflytande över framtida produkter. Hans vision om "en framtid för alla" är en ytlig utopi där AI-agenter styr ditt liv och du bara driver igenom det.
Bortom domstolarna skulle Meta kunna hantera detta genom att be Zuckerberg att avgå frivilligt. Att ge hopp för teknikens framtid innebär att förändra Metas ledarskap nu, så att framtiden formas kollektivt och byggs på ett nytt rykte och åtagande. Zuckerberg förtjänar inte en ny chans bara för att han har råd med det. I slutändan betalar vi alla för hans misstag. Nu är tiden inne för aktieägare att höja rösten och utmana Zuckerbergs kontroll.
Joan Donovan är biträdande professor i journalistik vid Boston University, där hon studerar hur teknik påverkar samhället. Hon grundade Critical Internet Studies Institute, där hon leder ett projekt om politiskt våld och sociala rörelser.
Vanliga frågor
Här är en lista med vanliga frågor baserade på artikelns premiss.
Allmänna bakgrundsfrågor
F: Vem är Joan Donovan?
S: Hon är en framstående akademiker och forskare som studerar hur medieteknik och sociala rörelser interagerar. Hon ledde tidigare Technology and Social Change Research Project vid Harvards Shorenstein Center.
F: Vad är huvudpoängen i Joan Donovans argument?
S: Hennes huvudpoäng är att Mark Zuckerberg har för mycket okontrollerad makt över Meta. Hon argumenterar att hans kontroll över företagets algoritmer och innehållspolicyer har orsakat allvarlig skada på demokratin och den allmänna säkerheten, och att han borde avgå som vd.
F: Handlar detta bara om att Facebook är impopulärt?
S: Nej. Även om Facebook har problem med sin offentliga image är Donovans argument mer specifik. Hon fokuserar på strukturella brister i hur Meta styrs och argumenterar att Zuckerberg fattar ensidiga beslut som prioriterar tillväxt och engagemang framför användarsäkerhet och samhällets välbefinnande.
F: Varför säger hon att Zuckerberg specifikt behöver avgå snarare än att bara ändra policyerna?
S: Hon argumenterar att problemet är maktkoncentrationen i sig. Så länge Zuckerberg har majoritetsröstkontroll kan han när som helst rulla tillbaka alla policyändringar. Hon anser att ett ledarskapsbyte är nödvändigt för att faktiskt reformera företagets kultur och ansvarsskyldighet.
Specifika kritikpunkter och problem
F: Vilken specifik skada säger Donovan att Meta har orsakat?
S: Hon pekar på flera frågor, inklusive att förstärka desinformation om val och vacciner, underlätta hatpropaganda och uppvigling till våld, samt att misslyckas med att skydda användarnas dataintegritet.
F: Vad säger Donovan om Zuckerbergs metaverse-satsning?
S: Hon ser den som en distraktion. Hon argumenterar att medan Zuckerberg spenderar miljarder dollar på att bygga virtuella verklighetsvärldar, misslyckas Meta med att åtgärda den verkliga skada som sker just nu på dess befintliga plattformar.
F: Vad är kopplingen till Kapitoliumupploppet i detta argument?
