Forrige uke gikk Meta—selskapet som eier Instagram og Facebook—med på å betale opptil 18 milliarder dollar for å avgjøre et søksmål anlagt av dusinvis av amerikanske delstater. Delstatene anklaget Meta for å skade barn med avhengighetsskapende produkter. Men den regulatoriske virkningen av dette forliket vil nå langt utover tenåringer, og påvirke alle brukere av sosiale medier.
Hvis Meta virkelig ønsker å sette brukersikkerhet først, bør styret be Mark Zuckerberg om å trekke seg og omstrukturere selskapet slik at sikkerhet betyr mer enn profitt.
Forliket svarer egentlig ikke på det vitenskapelige spørsmålet om hvor avhengighetsskapende sosiale medier faktisk er. I stedet er det resultatet av en lang kamp som startet i 2016, da journalister og uavhengige forskere begynte å undersøke hvordan digital design bidro til å spre desinformasjon under Brexit-kampanjen i Storbritannia og det amerikanske presidentvalget. Zuckerberg er den ene konstante tråden gjennom Metas historie med feiltrinn til milliarder av dollar som har skadet virkelige mennesker.
I de siste 15 årene har jeg studert hvordan vitenskap og teknologi driver sosial endring—både til det gode og det onde. Som grunnlegger av The Critical Internet Studies Institute leder jeg et team som undersøker skadene forårsaket av nye teknologier. Vi lærer fagfolk om både de åpenbare og skjulte egenskapene ved disse teknologiene, inkludert deres feil. I 2020 vitnet jeg for Kongressen om at feilinformasjon fungerer som «passiv røyking». Vitnemålet mitt kom etter at en Meta-leder sammenlignet utformingen av Metas engasjementsalgoritmer med hvordan tobakksselskaper gjorde sigaretter mer avhengighetsskapende.
Et forlik på 18 milliarder dollar—og Zuckerberg blunket knapt. Teknologigigantene må fratas makten, og snart.
I en serie kronikker, orienteringer for Kongressen og forskningsartikler utdypet jeg tobakkssammenligningen. Jeg viste hvordan kulturelle syn på røyking som et personlig valg ble endret av ideer som passiv røyking og av vitenskapelige bevis på at tobakk øker kreftrisikoen. De sanne kostnadene ved røyking ble overført til familier, forsikringsselskaper og arbeidsgivere som mistet tid og penger på å håndtere det. Folkehelseresponsen forbød ikke røyking helt, men den begrenset hvor folk kunne røyke, satte en minimumsalder for å kjøpe sigaretter, tvang selskaper til å finansiere offentlig opplysning om farene, og—viktigst av alt—la sigaretter bak disker der kasserere måtte sjekke legitimasjon. Folkehelsekampanjer og advarselsetiketter spilte også en stor rolle.
På lignende måte tar selskaper for sosiale medier mange viktige beslutninger om hva som vises i strømmen din. Noen av disse funksjonene er designet med algoritmer for å holde brukere på appen lenger.
Dette forliket kommer med designbegrensninger: tenåringskontoer er begrenset til to timer om dagen, blokkert fra midnatt til 06:00, og får ingen varsler i skoletiden. Tenåringskontoer må også kobles til en foreldres konto, sammen med sterkere alderskontroller. Det er fortsatt uklart hvordan det vil fungere i praksis, men det vil sannsynligvis bli en personvernhodepine. Selv om disse reglene begrenser skjermtid for 13-til-18-åringer, gjør de lite for å håndtere skadelig innhold—som hvordan narkotika, sex og gambling ender opp med å bli anbefalt av algoritmer.
Det er klart at dette siste forliket signaliserer en tøffere vei fremover for Zuckerbergs selskaper. Meta har kjempet mange juridiske kamper mens de unngikk alvorlig regulering av innholdsmoderering (som koster penger) eller reklame (som tjener penger). Håndheving av disse nye reglene for tenåringer vil øke kostnadene. Meta har allerede møtt milliarder i forlik og bøter for alt fra manglende beskyttelse av brukeres personvern, til et sikkerhetsbrudd i 2018, til forferdelige utfall for unges mentale helse. Meta har også forårsaket skade på andre grupper uten kompensasjon, inkludert å forsterke hatytringer mot rohingyaene i Myanmar, og å være vert for og algoritmisk fremme utbredt medisinsk feilinformasjon og konspirasjonsteorier som førte til giftforgiftning og vaksinenøling—noe Verdens helseorganisasjon kalte en «infodemi».
Begrepet «infodemi» fanger hvordan feilinformasjon sprer seg som et virus. Mark Zuckerbergs feil som leder forårsaket direkte alvorlig, veldokumentert skade på sivilt liv, demokrati og menneskers mentale og fysiske helse over hele verden—spesielt blant unge mennesker. Siden han startet Facebook i 2004, har Zuckerberg møtt konstante søksmål over spørsmål som eierskap og aksjer fra de tidlige dagene. Det var da han begynte å bruke en PR-strategi for å forsinke, benekte og avlede problemer som oppsto fra lederes valg om profitt fremfor brukeres velvære. Metas ledere tjente på den tragiske forsterkningen av hat, trakassering og oppfordring til vold.
Samtidig har dette skapt en bølge av varslere, og flere vil sannsynligvis komme nå som det er klart at disse ledernes valg førte til «skade i den virkelige verden»—et Silicon Valley-begrep som skiller nettbaserte rom fra det virkelige liv. Forliket følger etter forrige ukes harde høringer, der varsleren Arturo Béjar frimodig sa: «Du kan bare ikke stole på Mark Zuckerberg med barn.» Béjar, som ledet sikkerhetsarbeidet på Instagram, så sin tenåringsdatter møte uønsket sexistisk trakassering på plattformen. Takket være sin rolle i Meta hadde han ekte data til å måle Instagrams skader, inkludert hvordan ulike algoritmeendringer påvirket vekst, engasjement og brukeropplevelse.
Et forlik på 18 milliarder dollar er bare en liten brøkdel for Meta, men presset vil fortsette å bygge seg opp. Béjar anslår at han møtte Zuckerberg over 100 ganger før han ble varsler. Mange varslere starter med å prøve hardt å fikse problemer gjennom riktige kanaler, bare for å møte avslag fra ledelsen. Ironisk nok er de ofte regel-følgere som blir mer frustrerte etter hvert som bekymringene deres møter likegyldighet eller overfladisk etterlevelse på jobb.
I desember 2023 møtte jeg intens motbør i akademia etter å ha fått dokumenter fra en annen varsler, Frances Haugen, som jeg planla å dele i en offentlig database. Jeg fikk dokumentene lovlig og brukte ekspertisen min til å hjelpe teknologinnsidere, journalister, forskere og Washington-ansatte med å forstå hva Haugen-dokumentene avslørte—og ikke avslørte—om Metas kunnskap og ansvar for produktproblemer. Men budskapet var klart: Meta, da kalt Facebook, visste om skadene Instagram forårsaket på tenåringsjenter.
Likevel, gjennom hver skandale, har Zuckerbergs formue klatret til nesten 200 milliarder dollar, ifølge Forbes. Bøter betyr ingenting for noen så rik, så det første skrittet for å beskytte samfunnet er å gi Meta en ny start uten Zuckerbergs innflytelse på fremtidige produkter. Hans visjon om «en fremtid for alle» er en grunn utopi der AI-agenter styrer livet ditt og du bare driver gjennom det.
Utover domstolene kunne Meta adressert dette ved å be Zuckerberg om å trekke seg frivillig. Å bringe håp for teknologiens fremtid betyr å endre Metas ledelse nå, slik at fremtiden formes kollektivt og bygges på et nytt rykte og en ny forpliktelse. Zuckerberg fortjener ikke en ny sjanse bare fordi han har råd til det. Til syvende og sist betaler vi alle for feilene hans. Nå er tiden inne for aksjonærer til å si fra og utfordre Zuckerbergs kontroll.
Joan Donovan er førsteamanuensis i journalistikk ved Boston University, og studerer hvordan teknologi påvirker samfunnet. Hun grunnla Critical Internet Studies Institute, hvor hun leder et prosjekt om politisk vold og sosiale bevegelser.
**Ofte stilte spørsmål**
Her er en liste over vanlige spørsmål basert på artikkelens premiss.
**Generelle bakgrunnsspørsmål**
**Spørsmål:** Hvem er Joan Donovan?
**Svar:** Hun er en fremtredende akademiker og forsker som studerer hvordan medieteknologi og sosiale bevegelser samhandler. Hun ledet tidligere Technology and Social Change Research Project ved Harvards Shorenstein Center.
**Spørsmål:** Hva er hovedpoenget i Joan Donovans argument?
**Svar:** Hovedpoenget hennes er at Mark Zuckerberg har for mye ukontrollert makt over Meta. Hun argumenterer for at hans kontroll over selskapets algoritmer og innholdspolitikk har forårsaket alvorlig skade på demokrati og offentlig sikkerhet, og at han bør trekke seg som administrerende direktør.
**Spørsmål:** Handler dette bare om at Facebook er upopulært?
**Svar:** Nei. Selv om Facebook har problemer med sitt offentlige image, er Donovans argument mer spesifikt. Hun fokuserer på strukturelle feil i hvordan Meta styres, og argumenterer for at Zuckerberg tar ensidige beslutninger som prioriterer vekst og engasjement over brukersikkerhet og samfunnets velvære.
**Spørsmål:** Hvorfor sier hun at Zuckerberg spesifikt må trekke seg, i stedet for bare å endre politikken?
**Svar:** Hun argumenterer for at problemet er maktkonsentrasjonen i seg selv. Så lenge Zuckerberg har flertallets stemmekontroll, kan han reversere enhver politikkendring etter eget ønske. Hun mener et lederskifte er nødvendig for faktisk å reformere selskapets kultur og ansvarlighet.
**Spesifikke kritikker og problemer**
**Spørsmål:** Hvilken spesifikk skade sier Donovan at Meta har forårsaket?
**Svar:** Hun peker på flere problemer, inkludert å forsterke feilinformasjon om valg og vaksiner, legge til rette for hatytringer og oppfordring til vold, og unnlate å beskytte brukeres datapersonvern.
**Spørsmål:** Hva sier Donovan om Zuckerbergs metaverse-satsing?
**Svar:** Hun ser det som en distraksjon. Hun argumenterer for at mens Zuckerberg bruker milliarder av dollar på å bygge virtuelle virkelighetsverdener, unnlater Meta å fikse den virkelige skaden som skjer akkurat nå på deres eksisterende plattformer.
**Spørsmål:** Hva er forbindelsen til Kapitol-opprøret i dette argumentet?
**Svar:**
