Săptămâna trecută, Meta—compania care deține Instagram și Facebook—a fost de acord să plătească până la 18 miliarde de dolari pentru a soluționa un proces intentat de zeci de state americane. Statele au acuzat Meta că a dăunat copiilor cu produse dependizante. Dar impactul de reglementare al acestei înțelegeri va depăși cu mult adolescenții, afectând fiecare utilizator de social media.
Dacă Meta chiar vrea să pună siguranța utilizatorilor pe primul loc, consiliul său ar trebui să-i ceară lui Mark Zuckerberg să demisioneze și să restructureze compania astfel încât siguranța să conteze mai mult decât profitul.
Înțelegerea nu răspunde cu adevărat la întrebarea științifică despre cât de dependizantă este de fapt social media. În schimb, este rezultatul unei lupte lungi care a început în 2016, când jurnaliștii și cercetătorii independenți au început să investigheze cum designul digital a ajutat la răspândirea dezinformării în timpul campaniei Brexit din Marea Britanie și al alegerilor prezidențiale din SUA. Zuckerberg este firul constant care străbate istoria Meta de greșeli de miliarde de dolari care au rănit oameni reali.
În ultimii 15 ani, am studiat cum știința și tehnologia conduc schimbarea socială—atât în bine, cât și în rău. Ca fondator al Critical Internet Studies Institute, conduc o echipă care investighează daunele cauzate de noile tehnologii. Îi învățăm pe profesioniști atât despre caracteristicile evidente, cât și despre cele ascunse ale acestor tehnologii, inclusiv defectele lor. În 2020, am depus mărturie în fața Congresului că dezinformarea funcționează ca „fumul pasiv". Mărturia mea a venit după ce un executiv Meta a comparat designul algoritmilor de implicare ai Meta cu modul în care companiile de tutun au făcut țigările mai dependizante.
O înțelegere de 18 miliarde de dolari—și Zuckerberg abia a clipit. Giganții tech trebuie să fie deposedați de puterea lor, și curând.
Într-o serie de articole de opinie, briefinguri congresionale și lucrări de cercetare, am extins comparația cu tutunul. Am arătat cum viziunile culturale despre fumat ca alegere personală au fost schimbate de idei precum fumul pasiv și de dovezi științifice că tutunul crește riscul de cancer. Costurile reale ale fumatului au fost transferate familiilor, companiilor de asigurări și angajatorilor care au pierdut timp și bani gestionând problema. Răspunsul de sănătate publică nu a interzis complet fumatul, dar a limitat locurile unde oamenii puteau fuma, a stabilit o vârstă minimă pentru cumpărarea țigărilor, a forțat companiile să finanțeze educația publică despre pericole și—cel mai important—a pus țigările în spatele tejghelelor unde casierii trebuiau să verifice actele de identitate. Campaniile de sănătate publică și etichetele de avertizare au jucat și ele un rol important.
Într-un mod similar, companiile de social media iau multe decizii importante despre ce apare în fluxul tău. Unele dintre aceste funcții sunt proiectate cu algoritmi pentru a menține utilizatorii mai mult timp pe aplicație.
Această înțelegere vine cu restricții de design: conturile adolescenților sunt limitate la două ore pe zi, blocate de la miezul nopții până la 6 dimineața și nu primesc notificări în timpul orelor de școală. Conturile adolescenților trebuie, de asemenea, să fie legate de contul unui părinte, împreună cu verificări mai stricte ale vârstei. Încă nu este clar cum va funcționa asta în practică, dar este probabil să devină o durere de cap legată de confidențialitate. Deși aceste reguli limitează timpul petrecut pe ecran pentru tinerii de 13-18 ani, ele nu fac prea mult pentru a aborda conținutul dăunător—cum ar fi modul în care drogurile, sexul și jocurile de noroc ajung să fie recomandate de algoritmi.
Este clar că această ultimă înțelegere semnalează un drum mai dificil pentru companiile lui Zuckerberg. Meta a purtat multe bătălii legale evitând în același timp reglementarea serioasă a moderării conținutului (care costă bani) sau a publicității (care aduce bani). Aplicarea acestor noi reguli pentru adolescenți va crește costurile. Meta s-a confruntat deja cu înțelegeri și amenzi de miliarde pentru probleme care variază de la eșecul de a proteja confidențialitatea utilizatorilor, la o breșă de securitate din 2018, până la rezultate teribile pentru sănătatea mintală a tinerilor. Meta a cauzat, de asemenea, daune altor grupuri fără compensație, inclusiv amplificarea discursului de ură împotriva rohingya din Myanmar și găzduirea și promovarea algoritmică a dezinformării medicale răspândite și a teoriilor conspirației care au dus la otrăvire toxică și ezitare față de vaccinuri—ceva ce Organizația Mondială a Sănătății a numit o „infodemie". Termenul „infodemie" surprinde modul în care dezinformarea se răspândește ca un virus. Eșecurile lui Mark Zuckerberg ca lider au cauzat direct daune serioase, bine documentate vieții civice, democrației și sănătății mintale și fizice a oamenilor din întreaga lume—mai ales în rândul tinerilor. De la lansarea Facebook în 2004, Zuckerberg s-a confruntat cu procese constante pentru probleme precum proprietatea și acțiunile din primele zile. Atunci a început să folosească o strategie de PR pentru a întârzia, nega și devia problemele care apăreau din alegerile executivilor de a prioritiza profitul în detrimentul bunăstării utilizatorilor. Liderii Meta au profitat de amplificarea tragică a urii, hărțuirii și incitării.
În același timp, aceasta a creat un val de avertizori de integritate, și este probabil să vină mai mulți acum că este clar că alegerile acestor executivi au dus la „daune în lumea reală"—un termen din Silicon Valley care separă spațiile online de viața reală. Înțelegerea urmează audierilor dure de săptămâna trecută, unde avertizorul de integritate Arturo Béjar a spus cu îndrăzneală: „Pur și simplu nu poți avea încredere în Mark Zuckerberg cu copiii." Béjar, care a condus eforturile de siguranță la Instagram, și-a văzut fiica adolescentă confruntându-se cu hărțuire sexistă nedorită pe platformă. Datorită rolului său la Meta, a avut date reale pentru a măsura daunele Instagram, inclusiv cum diferite schimbări algoritmice au afectat creșterea, implicarea și experiența utilizatorilor.
O înțelegere de 18 miliarde de dolari este doar o fracțiune minusculă pentru Meta, dar presiunea va continua să crească. Béjar estimează că s-a întâlnit cu Zuckerberg de peste 100 de ori înainte de a deveni avertizor de integritate. Mulți avertizori de integritate încep prin a încerca din greu să rezolve problemele prin canalele potrivite, doar pentru a se confrunta cu refuzul superiorilor. În mod ironic, ei tind să fie oameni care respectă regulile și care devin tot mai frustrați pe măsură ce preocupările lor întâlnesc indiferență sau conformism superficial la locul de muncă.
În decembrie 2023, m-am confruntat cu o reacție intensă în mediul academic după ce am obținut documente de la un alt avertizor de integritate, Frances Haugen, pe care plănuiam să le împărtășesc într-o bază de date publică. Am obținut documentele legal și mi-am folosit expertiza pentru a ajuta insiderii tech, jurnaliștii, cercetătorii și personalul din Washington să înțeleagă ce documentele Haugen au dezvăluit—și ce nu—despre cunoștințele și responsabilitatea Meta pentru problemele produselor. Dar mesajul a fost clar: Meta, numită atunci Facebook, știa despre daunele cauzate de Instagram fetelor adolescente.
Totuși, prin fiecare scandal, averea lui Zuckerberg a urcat la aproape 200 de miliarde de dolari, conform Forbes. Amenzile nu înseamnă nimic pentru cineva atât de bogat, așa că primul pas pentru a proteja societatea este să-i dai Meta un nou început fără influența lui Zuckerberg asupra produselor viitoare. Viziunea lui despre „un viitor pentru toți" este o utopie superficială în care agenții AI îți conduc viața și tu doar plutești prin ea.
Dincolo de instanțe, Meta ar putea aborda această problemă cerându-i lui Zuckerberg să demisioneze voluntar. Aducerea speranței pentru viitorul tehnologiei înseamnă schimbarea conducerii Meta acum, astfel încât viitorul să fie modelat colectiv și construit pe o nouă reputație și un nou angajament. Zuckerberg nu merită o altă șansă doar pentru că își poate permite. În cele din urmă, toți plătim pentru greșelile lui. Acum este momentul ca acționarii să vorbească și să conteste controlul lui Zuckerberg.
Joan Donovan este profesor asistent de jurnalism la Universitatea Boston, studiind cum tehnologia afectează societatea. A fondat Critical Internet Studies Institute, unde conduce un proiect despre violența politică și mișcările sociale.
Întrebări frecvente
Iată o listă de întrebări frecvente bazate pe premisa articolului
Întrebări generale de fundal
Q Cine este Joan Donovan
A Este o academică și cercetătoare proeminentă care studiază cum interacționează media, tehnologia și mișcările sociale Anterior a condus Proiectul de Cercetare privind Tehnologia și Schimbarea Socială la Centrul Shorenstein de la Harvard
Q Care este punctul principal al argumentului lui Joan Donovan
A Punctul ei principal este că Mark Zuckerberg are prea multă putere necontrolată asupra Meta Ea argumentează că controlul său asupra algoritmilor companiei și politicilor de conținut a cauzat daune serioase democrației și siguranței publice și că ar trebui să demisioneze din funcția de CEO
Q Este vorba doar despre faptul că Facebook este nepopular
A Nu Deși Facebook are probleme de imagine publică, argumentul lui Donovan este mai specific Ea se concentrează pe defecte structurale în modul în care este guvernată Meta, argumentând că Zuckerberg ia decizii unilaterale care prioritizează creșterea și implicarea în detrimentul siguranței utilizatorilor și bunăstării societale
Q De ce spune ea că Zuckerberg trebuie să demisioneze specific, nu doar să schimbe politicile
A Ea argumentează că problema este concentrarea puterii în sine Atâta timp cât Zuckerberg are control majoritar asupra voturilor, poate inversa orice schimbare de politică după voie Ea crede că o schimbare a conducerii este necesară pentru a reforma cu adevărat cultura companiei și responsabilitatea
Critici specifice și probleme
Q Ce daune specifice spune Donovan că a cauzat Meta
A Ea subliniază mai multe probleme, inclusiv amplificarea dezinformării despre alegeri și vaccinuri, facilitarea discursului de ură și a incitării la violență și eșecul de a proteja confidențialitatea datelor utilizatorilor
Q Ce spune Donovan despre pivotarea Meta către metavers
A O vede ca pe o distragere a atenției Ea argumentează că în timp ce Zuckerberg cheltuiește miliarde de dolari construind lumi de realitate virtuală, Meta nu reușește să rezolve daunele din lumea reală care se întâmplă chiar acum pe platformele sale existente
Q Care este legătura cu revolta de la Capitoliu în acest argument
