A múlt héten a Meta—az Instagram és a Facebook tulajdonosa—beleegyezett, hogy legfeljebb 18 milliárd dollárt fizet egy per rendezésére, amelyet több tucat amerikai állam indított. Az államok azzal vádolták a Metát, hogy addiktív termékekkel károsítja a gyerekeket. De ennek a megállapodásnak a szabályozási hatása messze túlmutat a tinédzsereken, és minden közösségimédia-felhasználót érint.
Ha a Meta valóban a felhasználók biztonságát akarja előtérbe helyezni, az igazgatótanácsának meg kell kérnie Mark Zuckerberget, hogy lépjen le, és át kell szerveznie a vállalatot úgy, hogy a biztonság fontosabb legyen, mint a profit.
A megállapodás nem igazán válaszol arra a tudományos kérdésre, hogy mennyire addiktív valójában a közösségi média. Ehelyett egy hosszú küzdelem eredménye, amely 2016-ban kezdődött, amikor újságírók és független kutatók elkezdték vizsgálni, hogyan segítette a digitális tervezés a dezinformáció terjedését a brit Brexit-kampány és az amerikai elnökválasztás során. Zuckerberg az az állandó szál, amely végigfut a Meta milliárdos hibáinak történetén, amelyek valódi embereket károsítottak.
Az elmúlt 15 évben azt tanulmányoztam, hogyan hajtják a tudomány és a technológia a társadalmi változásokat—jóra és rosszra egyaránt. A Critical Internet Studies Institute alapítójaként egy csapatot vezetek, amely az új technológiák által okozott károkat vizsgálja. Szakembereket tanítunk e technológiák nyilvánvaló és rejtett jellemzőire, beleértve a hibáikat is. 2020-ban tanúskodtam a Kongresszus előtt, hogy a félretájékoztatás úgy működik, mint a „passzív dohányzás”. A tanúvallomásom azután hangzott el, hogy egy Meta-vezető összehasonlította a Meta elkötelezettségi algoritmusainak tervezését azzal, ahogyan a dohányipari cégek addiktívabbá tették a cigarettát.
Egy 18 milliárd dolláros megállapodás—és Zuckerberg alig rezzent. A tech-óriásokat meg kell fosztani a hatalmuktól, mégpedig hamarosan.
Egy sor véleménycikkben, kongresszusi tájékoztatóban és kutatási tanulmányban tovább bővítettem a dohányos összehasonlítást. Megmutattam, hogyan változtatták meg a dohányzásról mint személyes választásról alkotott kulturális nézeteket az olyan elképzelések, mint a passzív dohányzás, valamint a tudományos bizonyítékok, amelyek szerint a dohány növeli a rák kockázatát. A dohányzás valódi költségeit a családokra, a biztosítótársaságokra és a munkáltatókra hárították, akik időt és pénzt veszítettek a kezelésével. A közegészségügyi válasz nem tiltotta be teljesen a dohányzást, de korlátozta, hogy hol lehet dohányozni, minimális életkort állapított meg a cigarettavásárláshoz, arra kényszerítette a vállalatokat, hogy finanszírozzák a veszélyekről szóló közoktatást, és—ami a legfontosabb—a cigarettát a pult mögé tette, ahol az eladóknak ellenőrizniük kellett a személyazonosságot. A közegészségügyi kampányok és a figyelmeztető címkék is nagy szerepet játszottak.
Hasonló módon a közösségimédia-vállalatok sok fontos döntést hoznak arról, hogy mi jelenik meg a hírfolyamodban. Néhány ilyen funkciót algoritmusokkal terveztek, hogy a felhasználók hosszabb ideig maradjanak az alkalmazásban.
Ez a megállapodás tervezési korlátozásokkal jár: a tinédzser-fiókok napi két órára korlátozódnak, éjféltől reggel 6-ig blokkolva vannak, és nem kapnak értesítéseket iskolai idő alatt. A tinédzser-fiókokat össze kell kötni egy szülői fiókkal, erősebb korosztály-ellenőrzésekkel együtt. Még mindig nem világos, hogyan fog ez a gyakorlatban működni, de valószínűleg adatvédelmi fejfájást okoz majd. Bár ezek a szabályok korlátozzák a 13–18 évesek képernyőidejét, nem sokat tesznek a káros tartalmak kezelésére—például hogyan kerülnek a drogok, a szex és a szerencsejáték az algoritmusok ajánlásaiba.
Nyilvánvaló, hogy ez a legújabb megállapodás nehezebb utat jelez Zuckerberg vállalatai számára. A Meta sok jogi csatát vívott meg, miközben elkerülte a tartalommoderálás (ami pénzbe kerül) vagy a reklámozás (ami pénzt hoz) komoly szabályozását. Az új tinédzser-szabályok betartatása növelni fogja a költségeket. A Meta már több milliárdos megállapodásokkal és bírságokkal szembesült olyan problémák miatt, mint a felhasználói adatvédelem védelmének elmulasztása, egy 2018-as biztonsági incidens, és a fiatalok mentális egészségére gyakorolt szörnyű hatások. A Meta más csoportoknak is okozott kárt kompenzáció nélkül, beleértve a mianmari rohingyák elleni gyűlöletbeszéd felerősítését, valamint a széles körben elterjedt orvosi félretájékoztatás és összeesküvés-elméletek tárolását és algoritmikus népszerűsítését, amelyek mérgezéshez és oltási vonakodáshoz vezettek—amit az Egészségügyi Világszervezet „infodémiának” nevezett.
Az „infodémia” kifejezés azt ragadja meg, hogyan terjed a félretájékoztatás, mint egy vírus. Mark Zuckerberg vezetői kudarcai közvetlenül súlyos, jól dokumentált károkat okoztak a polgári életben, a demokráciában és az emberek mentális és fizikai egészségében világszerte—különösen a fiatalok körében. Amióta 2004-ben elindította a Facebookot, Zuckerberg folyamatos perekkel szembesült olyan kérdések miatt, mint a tulajdonlás és a részvények a korai időkből. Ekkor kezdte el alkalmazni azt a PR-stratégiát, hogy késleltesse, tagadja és elhárítsa a problémákat, amelyek abból fakadtak, hogy a vezetők a profitot választották a felhasználók jólétével szemben. A Meta vezetői hasznot húztak a gyűlölet, a zaklatás és az uszítás tragikus felerősítéséből.
Ugyanakkor ez a hullámos feljelentők sorát hozta létre, és valószínűleg többen is jönnek majd, most hogy világos: ezeknek a vezetőknek a döntései „valós világbeli kárhoz” vezettek—egy szilícium-völgyi kifejezés, amely elválasztja az online tereket a valódi élettől. A megállapodás a múlt heti kemény meghallgatásokat követi, ahol a feljelentő Arturo Béjar merészen kijelentette: „Egyszerűen nem lehet megbízni Mark Zuckerbergben a gyerekekkel.” Béjar, aki az Instagram biztonsági erőfeszítéseit vezette, azt látta, hogy tinédzser lánya nem kívánt szexista zaklatással szembesül a platformon. A Metánál betöltött szerepének köszönhetően valós adatai voltak az Instagram kárainak mérésére, beleértve azt is, hogy a különböző algoritmikus változások hogyan befolyásolták a növekedést, az elkötelezettséget és a felhasználói élményt.
Egy 18 milliárd dolláros megállapodás csak apró töredék a Meta számára, de a nyomás tovább fog nőni. Béjar becslése szerint több mint 100 alkalommal találkozott Zuckerberggel, mielőtt feljelentő lett. Sok feljelentő azzal kezdi, hogy keményen próbálja megoldani a problémákat a megfelelő csatornákon keresztül, csak hogy a felettesek elutasításával szembesüljön. Ironikus módon ők általában szabálykövetők, akik egyre frusztráltabbá válnak, ahogy aggodalmaik közönybe vagy felszínes megfelelésbe ütköznek a munkahelyükön.
2023 decemberében intenzív visszahatással szembesültem az akadémiai világban, miután dokumentumokat szereztem egy másik feljelentőtől, Frances Haugentől, amelyeket egy nyilvános adatbázisban terveztem megosztani. A dokumentumokat legálisan szereztem meg, és a szakértelmemet arra használtam, hogy segítsek a tech-bennfenteseknek, újságíróknak, kutatóknak és washingtoni munkatársaknak megérteni, mit tártak fel—és mit nem—a Haugen-dokumentumok a Meta tudásáról és felelősségéről a termékproblémák kapcsán. De az üzenet világos volt: a Meta, akkor még Facebook néven, tudott az Instagram által a tinédzser lányoknak okozott károkról.
Mégis, minden botrány ellenére Zuckerberg vagyona közel 200 milliárd dollárra nőtt a Forbes szerint. A bírságok semmit sem jelentenek egy ilyen gazdag embernek, ezért a társadalom védelmének első lépése az, hogy a Meta újrakezdést kapjon Zuckerberg jövőbeli termékekre gyakorolt befolyása nélkül. Az „egy jövő mindenki számára” víziója egy sekélyes utópia, ahol AI-ügynökök irányítják az életedet, és te csak sodródsz.
A bíróságokon túl a Meta úgy is kezelhetné ezt, ha megkérné Zuckerberget, hogy önként lépjen le. A technológia jövőjébe vetett remény felélesztése azt jelenti, hogy most megváltoztatjuk a Meta vezetését, hogy a jövőt közösen alakítsák, és új hírnévre és elkötelezettségre épüljön. Zuckerberg nem érdemel újabb esélyt csak azért, mert megengedheti magának. Végül mindannyian fizetünk a hibáiért. Most itt az ideje, hogy a részvényesek felszólaljanak és megkérdőjelezzék Zuckerberg ellenőrzését.
Joan Donovan a Boston University újságírás-asszisztens professzora, aki azt tanulmányozza, hogyan hat a technológia a társadalomra. Ő alapította a Critical Internet Studies Institute-ot, ahol egy politikai erőszakkal és társadalmi mozgalmakkal foglalkozó projektet vezet.
Gyakran Ismételt Kérdések
Íme egy lista a gyakran ismételt kérdésekről a cikk előfeltevése alapján
Általános Háttérkérdések
K Ki Joan Donovan
V Ő egy kiemelkedő akadémikus és kutató, aki azt tanulmányozza, hogyan hatnak kölcsönhatásba a média-technológiák és a társadalmi mozgalmak Korábban a Harvard Shorenstein Központjának Technológia és Társadalmi Változás Kutatási Projektjét vezette
K Mi Joan Donovan érvelésének fő pontja
V A fő pontja az, hogy Mark Zuckerbergnek túl sok ellenőrizetlen hatalma van a Meta felett Azzal érvel, hogy az algoritmusok és a tartalmi politikák feletti ellenőrzése súlyos károkat okozott a demokráciának és a közbiztonságnak, és hogy le kell mondania vezérigazgatói posztjáról
K Ez csak arról szól, hogy a Facebook népszerűtlen
V Nem Bár a Facebooknak vannak imázsproblémái, Donovan érvelése konkrétabb A Meta kormányzásának strukturális hibáira összpontosít, azzal érvelve, hogy Zuckerberg egyoldalú döntéseket hoz, amelyek a növekedést és az elkötelezettséget helyezik előtérbe a felhasználói biztonsággal és a társadalmi jóléttel szemben
K Miért mondja, hogy kifejezetten Zuckerbergnek kell lemondania, nem csak a politikákat kell megváltoztatni
V Azzal érvel, hogy a probléma maga a hatalom koncentrációja Amíg Zuckerbergnek többségi szavazati ellenőrzése van, bármikor visszavonhatja a politikai változásokat Véleménye szerint a vezetésváltás szükséges a vállalat kultúrájának és elszámoltathatóságának tényleges megreformálásához
Konkrét Kritikák Problémák
K Milyen konkrét károkat okozott Donovan szerint a Meta
V Több problémára mutat rá, beleértve a választásokkal és az oltásokkal kapcsolatos félretájékoztatás felerősítését, a gyűlöletbeszéd és az erőszakra való uszítás elősegítését, valamint a felhasználói adatok adatvédelmének védelmében való mulasztást
K Mit mond Donovan Zuckerberg metaverzum-fordulatáról
V Elterelésnek tekinti Azzal érvel, hogy míg Zuckerberg milliárdokat költ virtuális valóság-világok építésére, a Meta nem javítja meg a valós idejű, valós világbeli károkat, amelyek jelenleg a meglévő platformjain történnek
K Mi a Capitolium-zavargás kapcsolata ebben az érvelésben
