Viime viikolla Meta—yritys, joka omistaa Instagramin ja Facebookin—suostui maksamaan jopa 18 miljardia dollaria sovitellakseen oikeusjutun, jonka useat Yhdysvaltain osavaltiot olivat nostaneet. Osavaltiot syyttivät Metaa lasten vahingoittamisesta addiktoivilla tuotteilla. Mutta tämän sovinnon sääntelyvaikutus ulottuu paljon teini-ikäisiä pidemmälle, vaikuttaen jokaiseen sosiaalisen median käyttäjään.
Jos Meta todella haluaa asettaa käyttäjien turvallisuuden etusijalle, sen hallituksen tulisi pyytää Mark Zuckerbergia eroamaan ja järjestellä yritys uudelleen niin, että turvallisuus merkitsee enemmän kuin voitto.
Sovinto ei varsinaisesti vastaa tieteelliseen kysymykseen siitä, kuinka addiktoivaa sosiaalinen media todella on. Sen sijaan se on tulosta pitkästä taistelusta, joka alkoi vuonna 2016, kun toimittajat ja riippumattomat tutkijat alkoivat selvittää, miten digitaalinen muotoilu auttoi levittämään disinformaatiota Brexit-kampanjan aikana Isossa-Britanniassa ja Yhdysvaltain presidentinvaaleissa. Zuckerberg on se jatkuva tekijä, joka kulkee läpi Metan historian miljardien virheistä, jotka ovat vahingoittaneet oikeita ihmisiä.
Viimeisen 15 vuoden ajan olen tutkinut, miten tiede ja teknologia ajavat yhteiskunnallista muutosta—sekä hyvässä että pahassa. Kriittisen internet-tutkimuksen instituutin perustajana johdan tiimiä, joka tutkii uusien teknologioiden aiheuttamia haittoja. Opastamme ammattilaisia näiden teknologioiden sekä ilmeisistä että piilotetuista ominaisuuksista, mukaan lukien niiden puutteista. Vuonna 2020 todistin kongressille, että disinformaatio toimii kuin "passiivinen tupakansavu". Todistukseni tuli sen jälkeen, kun Metan johtaja vertasi Metan sitoutumisalgoritmien suunnittelua siihen, miten tupakkayhtiöt tekivät savukkeista addiktoivampia.
18 miljardin dollarin sovinto—ja Zuckerberg tuskin hätkähti. Teknologiajätit on riisuttava vallastaan, ja pian.
Sarjassa mielipidekirjoituksia, kongressin tiedotustilaisuuksia ja tutkimuspapereita laajensin tupakkavertausta. Näytin, miten kulttuuriset näkemykset tupakoinnista henkilökohtaisena valintana muutettiin passiivista tupakansavua koskevilla ajatuksilla ja tieteellisellä todisteella siitä, että tupakka lisää syöpäriskiä. Tupakoinnin todelliset kustannukset siirrettiin perheille, vakuutusyhtiöille ja työnantajille, jotka menettivät aikaa ja rahaa sen käsittelyyn. Kansanterveyden vastaus ei kieltänyt tupakointia kokonaan, mutta se rajoitti paikkoja, joissa ihmiset saivat tupakoida, asetti vähimmäisiän savukkeiden ostamiselle, pakotti yritykset rahoittamaan julkista valistusta vaaroista ja—mikä tärkeintä—laittoi savukkeet tiskien taakse, joissa kassojen piti tarkistaa henkilöllisyys. Kansanterveyskampanjat ja varoitusmerkinnät näyttelivät myös suurta roolia.
Vastaavalla tavalla sosiaalisen median yritykset tekevät monia tärkeitä päätöksiä siitä, mitä syötteessäsi näkyy. Jotkut näistä ominaisuuksista on suunniteltu algoritmeilla pitämään käyttäjät sovelluksessa pidempään.
Tämä sovinto sisältää suunnittelurajoituksia: teinitilit on rajoitettu kahteen tuntiin päivässä, ne on estetty keskiyöstä kello kuuteen aamulla, eivätkä ne saa ilmoituksia kouluaikana. Teinitilit on myös linkitettävä vanhemman tiliin, ja ikätarkistuksia vahvistetaan. On vielä epäselvää, miten se toimii käytännössä, mutta siitä tulee todennäköisesti yksityisyyden päänsärky. Vaikka nämä säännöt rajoittavat ruutuaikaa 13–18-vuotiaille, ne eivät tee paljon haitallisen sisällön käsittelemiseksi—kuten sen, miten huumeet, seksi ja uhkapelit päätyvät algoritmien suosittelemiksi.
On selvää, että tämä viimeisin sovinto merkitsee vaikeampaa tietä edessä Zuckerbergin yrityksille. Meta on käynyt monia oikeudellisia taisteluita välttäen samalla vakavaa sääntelyä sisällön moderointiin (joka maksaa rahaa) tai mainontaan (joka tuottaa rahaa) liittyen. Näiden uusien teinisääntöjen täytäntöönpano nostaa kustannuksia. Meta on jo kohdannut miljardien sovintoja ja sakkoja asioista, jotka vaihtelevat käyttäjien yksityisyyden suojaamisen epäonnistumisesta vuoden 2018 tietoturvaloukkaukseen ja kauheisiin seurauksiin nuorten mielenterveydelle. Meta on myös aiheuttanut haittaa muille ryhmille ilman korvausta, mukaan lukien vihapuheen vahvistamisen rohingya-vähemmistöä vastaan Myanmarissa sekä laajamittaisen lääketieteellisen disinformaation ja salaliittoteorioiden isännöinnin ja algoritmisen edistämisen, jotka johtivat myrkytykseen ja rokote-epäröintiin—jotain, mitä Maailman terveysjärjestö kutsui "infodemiaksi". Termi "infodemia" vangitsee sen, miten disinformaatio leviää kuin virus. Mark Zuckerbergin epäonnistumiset johtajana aiheuttivat suoraan vakavaa, hyvin dokumentoitua haittaa kansalaiselämälle, demokratialle ja ihmisten henkiselle ja fyysiselle terveydelle maailmanlaajuisesti—erityisesti nuorten keskuudessa. Siitä lähtien, kun hän perusti Facebookin vuonna 2004, Zuckerberg on kohdannut jatkuvia oikeusjuttuja liittyen muun muassa omistukseen ja osakkeisiin varhaisilta päiviltä. Silloin hän alkoi käyttää PR-strategiaa viivyttääkseen, kieltääkseen ja kääntääkseen huomion pois ongelmista, jotka johtuivat johtajista, jotka valitsivat voiton käyttäjien hyvinvoinnin sijaan. Metan johtajat hyötyivät vihan, häirinnän ja yllytyksen traagisesta vahvistamisesta.
Samaan aikaan tämä on luonut aallon ilmiantajia, ja lisää on todennäköisesti tulossa nyt, kun on selvää, että näiden johtajien valinnat johtivat "todellisen maailman haittaan"—Piilaakson termi, joka erottaa verkkotilat tosielämästä. Sovinto seuraa viime viikon ankaria kuulemisia, joissa ilmiantaja Arturo Béjar sanoi rohkeasti: "Mark Zuckerbergiin ei yksinkertaisesti voi luottaa lasten kanssa." Béjar, joka johti turvallisuustoimia Instagramissa, näki teini-ikäisen tyttärensä kohtaavan ei-toivottua seksististä häirintää alustalla. Metan roolinsa ansiosta hänellä oli todellista dataa Instagramin haittojen mittaamiseen, mukaan lukien sen, miten erilaiset algoritmimuutokset vaikuttivat kasvuun, sitoutumiseen ja käyttäjäkokemukseen.
18 miljardin dollarin sovinto on vain pieni osa Metalle, mutta paine jatkaa kasvamistaan. Béjar arvioi tavanneensa Zuckerbergin yli 100 kertaa ennen kuin hänestä tuli ilmiantaja. Monet ilmiantajat aloittavat yrittämällä kovasti korjata ongelmia asianmukaisten kanavien kautta, vain kohdatakseen kieltäytymisen ylemmiltä tahoilta. Ironisesti he ovat yleensä sääntöjä noudattavia henkilöitä, jotka turhautuvat yhä enemmän, kun heidän huolenaiheensa kohtaavat välinpitämättömyyttä tai pintapuolista noudattamista työssä.
Joulukuussa 2023 kohtasin voimakasta vastareaktiota akateemisessa maailmassa saatuaan asiakirjoja toiselta ilmiantajalta, Frances Haugenilta, jotka suunnittelin jakavani julkisessa tietokannassa. Sain asiakirjat laillisesti ja käytin asiantuntemustani auttaakseni teknologia-alan sisäpiiriläisiä, toimittajia, tutkijoita ja Washingtonin henkilökuntaa ymmärtämään, mitä Haugenin asiakirjat paljastivat—ja eivät paljastaneet—Metan tietämyksestä ja vastuusta tuoteongelmista. Mutta viesti oli selvä: Meta, silloin nimeltään Facebook, tiesi vahingosta, jonka Instagram aiheutti teini-ikäisille tytöille.
Kuitenkin jokaisen skandaalin läpi Zuckerbergin varallisuus on noussut lähes 200 miljardiin dollariin Forbesin mukaan. Sakot eivät merkitse mitään niin rikkaalle henkilölle, joten ensimmäinen askel yhteiskunnan suojelemiseksi on antaa Metalle uusi alku ilman Zuckerbergin vaikutusta tuleviin tuotteisiin. Hänen visionsa "tulevaisuudesta kaikille" on pinnallinen utopia, jossa tekoälyagentit hallitsevat elämääsi ja sinä vain ajelehdit sen läpi.
Tuomioistuinten lisäksi Meta voisi käsitellä tätä pyytämällä Zuckerbergia eroamaan vapaaehtoisesti. Toivon tuominen teknologian tulevaisuudelle tarkoittaa Metan johtajuuden muuttamista nyt, jotta tulevaisuus muotoutuu kollektiivisesti ja rakentuu uudelle maineelle ja sitoutumiselle. Zuckerberg ei ansaitse toista mahdollisuutta vain siksi, että hänellä on siihen varaa. Lopulta me kaikki maksamme hänen virheistään. Nyt on aika osakkeenomistajien puhua ja haastaa Zuckerbergin valta.
Joan Donovan on journalismin apulaisprofessori Bostonin yliopistossa, tutkien miten teknologia vaikuttaa yhteiskuntaan. Hän perusti Kriittisen internet-tutkimuksen instituutin, jossa hän johtaa poliittista väkivaltaa ja sosiaalisia liikkeitä käsittelevää projektia.
**Usein kysytyt kysymykset**
Tässä on luettelo usein kysytyistä kysymyksistä artikkelin väitteen perusteella.
**Yleiset taustakysymykset**
**K: Kuka on Joan Donovan?**
**V:** Hän on merkittävä akateemikko ja tutkija, joka tutkii, miten media, teknologia ja sosiaaliset liikkeet ovat vuorovaikutuksessa. Hän johti aiemmin teknologian ja yhteiskunnallisen muutoksen tutkimusprojektia Harvardin Shorenstein-keskuksessa.
**K: Mikä on Joan Donovanin argumentin pääkohta?**
**V:** Hänen pääkohtansa on, että Mark Zuckerbergilla on liikaa valvomatonta valtaa Metassa. Hän väittää, että hänen hallintansa yrityksen algoritmeista ja sisältökäytännöistä on aiheuttanut vakavaa haittaa demokratialle ja yleiselle turvallisuudelle, ja että hänen tulisi erota toimitusjohtajan tehtävästä.
**K: Onko tämä vain siitä, että Facebook on epäsuosittu?**
**V:** Ei. Vaikka Facebookilla on julkisuuskuvaongelmia, Donovanin argumentti on tarkempi. Hän keskittyy rakenteellisiin puutteisiin Metan hallinnossa väittäen, että Zuckerberg tekee yksipuolisia päätöksiä, jotka asettavat kasvun ja sitoutumisen käyttäjien turvallisuuden ja yhteiskunnallisen hyvinvoinnin edelle.
**K: Miksi hän sanoo, että nimenomaan Zuckerbergin täytyy erota, eikä vain muuttaa käytäntöjä?**
**V:** Hän väittää, että ongelma on itse vallan keskittyminen. Niin kauan kuin Zuckerbergilla on määräysvalta enemmistöosakkeilla, hän voi kumota mitkä tahansa käytäntömuutokset halutessaan. Hän uskoo, että johtajuuden muutos on välttämätön yrityksen kulttuurin ja vastuullisuuden todelliseksi uudistamiseksi.
**Erityiset kritiikit ja ongelmat**
**K: Mitä erityistä haittaa Donovan sanoo Metan aiheuttaneen?**
**V:** Hän viittaa useisiin ongelmiin, mukaan lukien disinformaation vahvistamisen vaaleista ja rokotteista, vihapuheen ja väkivaltaan yllyttämisen edistämisen sekä käyttäjien tietosuojan suojaamisen epäonnistumisen.
**K: Mitä Donovan sanoo Zuckerbergin metaversumi-käänteestä?**
**V:** Hän näkee sen häiriötekijänä. Hän väittää, että kun Zuckerberg käyttää miljardeja dollareita virtuaalitodellisuusmaailmojen rakentamiseen, Meta epäonnistuu korjaamaan oikean maailman haittaa, joka tapahtuu juuri nyt sen olemassa olevilla alustoilla.
**K: Mikä on Capitol-mellakan yhteys tässä argumentissa?**
