La scorsa settimana, Meta—l'azienda che possiede Instagram e Facebook—ha accettato di pagare fino a 18 miliardi di dollari per risolvere una causa intentata da decine di stati americani. Gli stati hanno accusato Meta di aver danneggiato i minori con prodotti che creano dipendenza. Ma l'impatto normativo di questo accordo andrà ben oltre gli adolescenti, colpendo ogni utente dei social media.
Se Meta vuole davvero mettere al primo posto la sicurezza degli utenti, il suo consiglio di amministrazione dovrebbe chiedere a Mark Zuckerberg di farsi da parte e ristrutturare l'azienda così che la sicurezza conti più del profitto.
L'accordo non risponde davvero alla domanda scientifica su quanto i social media siano realmente capaci di creare dipendenza. Invece, è il risultato di una lunga battaglia iniziata nel 2016, quando giornalisti e ricercatori indipendenti hanno cominciato a indagare su come il design digitale abbia contribuito a diffondere disinformazione durante la campagna per la Brexit nel Regno Unito e le elezioni presidenziali americane. Zuckerberg è il filo conduttore costante nella storia di Meta fatta di errori da miliardi di dollari che hanno danneggiato persone reali.
Negli ultimi 15 anni, ho studiato come la scienza e la tecnologia guidano il cambiamento sociale—sia in positivo che in negativo. Come fondatore del Critical Internet Studies Institute, guido un team che indaga sui danni causati dalle nuove tecnologie. Insegniamo ai professionisti sia le caratteristiche evidenti che quelle nascoste di queste tecnologie, inclusi i loro difetti. Nel 2020, ho testimoniato davanti al Congresso che la disinformazione funziona come il "fumo passivo". La mia testimonianza è arrivata dopo che un dirigente Meta ha paragonato il design degli algoritmi di coinvolgimento di Meta a come le aziende del tabacco rendevano le sigarette più addictive.
Un accordo da 18 miliardi di dollari—e Zuckerberg ha appena battuto ciglio. I giganti della tecnologia devono essere privati del loro potere, e presto.
In una serie di articoli d'opinione, briefing congressuali e articoli di ricerca, ho ampliato il paragone con il tabacco. Ho mostrato come le visioni culturali del fumo come scelta personale siano state cambiate da idee come il fumo passivo e dalla prova scientifica che il tabacco aumenta il rischio di cancro. I veri costi del fumo sono stati trasferiti alle famiglie, alle compagnie assicurative e ai datori di lavoro che hanno perso tempo e denaro per gestirli. La risposta della sanità pubblica non ha vietato del tutto il fumo, ma ha limitato i luoghi dove si poteva fumare, ha fissato un'età minima per comprare sigarette, ha obbligato le aziende a finanziare l'educazione pubblica sui pericoli e—soprattutto—ha messo le sigarette dietro i banconi dove i cassieri dovevano controllare i documenti. Le campagne di sanità pubblica e le etichette di avvertimento hanno anche giocato un ruolo importante.
In modo simile, le aziende dei social media prendono molte decisioni importanti su ciò che appare nel tuo feed. Alcune di queste funzionalità sono progettate con algoritmi per mantenere gli utenti sull'app più a lungo.
Questo accordo arriva con restrizioni di design: gli account degli adolescenti sono limitati a due ore al giorno, bloccati da mezzanotte alle 6 del mattino, e non ricevono notifiche durante l'orario scolastico. Gli account degli adolescenti devono anche essere collegati a un account genitoriale, insieme a controlli dell'età più rigorosi. Non è ancora chiaro come funzionerà in pratica, ma è probabile che diventi un problema di privacy. Mentre queste regole limitano il tempo davanti allo schermo per i 13-18enni, non fanno molto per affrontare i contenuti dannosi—come droghe, sesso e gioco d'azzardo finiscono per essere raccomandati dagli algoritmi.
È chiaro che questo ultimo accordo segnala una strada più difficile per le aziende di Zuckerberg. Meta ha combattuto molte battaglie legali evitando una regolamentazione seria della moderazione dei contenuti (che costa denaro) o della pubblicità (che fa guadagnare denaro). Far rispettare queste nuove regole per gli adolescenti aumenterà i costi. Meta ha già affrontato miliardi in accordi e multe per questioni che vanno dalla mancata protezione della privacy degli utenti, a una violazione della sicurezza nel 2018, a risultati terribili per la salute mentale dei giovani. Meta ha anche causato danni ad altri gruppi senza compensazione, inclusa l'amplificazione dell'odio contro i Rohingya in Myanmar, e l'hosting e la promozione algoritmica di disinformazione medica diffusa e teorie del complotto che hanno portato ad avvelenamenti tossici e esitazione vaccinale—qualcosa che l'Organizzazione Mondiale della Sanità ha chiamato "infodemia". Il termine "infodemia" cattura come la disinformazione si diffonde come un virus. I fallimenti di Mark Zuckerberg come leader hanno direttamente causato danni seri e ben documentati alla vita civica, alla democrazia e alla salute mentale e fisica delle persone in tutto il mondo—soprattutto tra i giovani. Da quando ha fondato Facebook nel 2004, Zuckerberg ha affrontato cause legali costanti su questioni come proprietà e azioni fin dai primi giorni. È allora che ha iniziato a usare una strategia di pubbliche relazioni per ritardare, negare e deviare i problemi derivanti da dirigenti che sceglievano il profitto rispetto al benessere degli utenti. I leader di Meta hanno tratto profitto dalla tragica amplificazione di odio, molestie e incitamento.
Allo stesso tempo, questo ha creato un'ondata di whistleblower, e probabilmente altri arriveranno ora che è chiaro che le scelte di questi dirigenti hanno portato a "danni nel mondo reale"—un termine della Silicon Valley che separa gli spazi online dalla vita reale. L'accordo segue le dure audizioni della scorsa settimana, dove il whistleblower Arturo Béjar ha detto coraggiosamente: "Non puoi proprio fidarti di Mark Zuckerberg con i bambini." Béjar, che ha guidato gli sforzi per la sicurezza su Instagram, ha visto sua figlia adolescente affrontare molestie sessiste indesiderate sulla piattaforma. Grazie al suo ruolo in Meta, aveva dati reali per misurare i danni di Instagram, inclusi come diversi cambiamenti algoritmici influenzavano crescita, coinvolgimento ed esperienza utente.
Un accordo da 18 miliardi di dollari è solo una frazione minuscola per Meta, ma la pressione continuerà a crescere. Béjar stima di aver incontrato Zuckerberg oltre 100 volte prima di diventare un whistleblower. Molti whistleblower iniziano cercando duramente di risolvere i problemi attraverso i canali appropriati, solo per affrontare il rifiuto dai superiori. Ironia della sorte, tendono a essere persone che seguono le regole e che diventano sempre più frustrate mentre le loro preoccupazioni incontrano indifferenza o conformità superficiale sul lavoro.
Nel dicembre 2023, ho affrontato un'intensa reazione negativa nel mondo accademico dopo aver ottenuto documenti da un'altra whistleblower, Frances Haugen, che avevo intenzione di condividere in un database pubblico. Ho ottenuto i documenti legalmente e ho usato la mia esperienza per aiutare addetti ai lavori della tecnologia, giornalisti, ricercatori e personale di Washington a capire cosa i documenti Haugen rivelavano—e non rivelavano—sulla conoscenza e responsabilità di Meta per i problemi dei prodotti. Ma il messaggio era chiaro: Meta, allora chiamata Facebook, sapeva del danno che Instagram causava alle ragazze adolescenti.
Eppure, attraverso ogni scandalo, la ricchezza di Zuckerberg è salita a quasi 200 miliardi di dollari, secondo Forbes. Le multe non significano nulla per qualcuno così ricco, quindi il primo passo per proteggere la società è dare a Meta un nuovo inizio senza l'influenza di Zuckerberg sui prodotti futuri. La sua visione di "un futuro per tutti" è un'utopia superficiale dove gli agenti AI gestiscono la tua vita e tu semplicemente vai alla deriva.
Oltre ai tribunali, Meta potrebbe affrontare questo chiedendo a Zuckerberg di farsi da parte volontariamente. Portare speranza per il futuro della tecnologia significa cambiare la leadership di Meta ora, così che il futuro sia plasmato collettivamente e costruito su una nuova reputazione e impegno. Zuckerberg non merita un'altra possibilità solo perché può permetterselo. Alla fine, paghiamo tutti per i suoi errori. Ora è il momento per gli azionisti di alzare la voce e sfidare il controllo di Zuckerberg.
Joan Donovan è professoressa assistente di giornalismo alla Boston University, dove studia come la tecnologia influisce sulla società. Ha fondato il Critical Internet Studies Institute, dove guida un progetto sulla violenza politica e i movimenti sociali.
Domande Frequenti
Ecco un elenco di FAQ basate sulla premessa dell'articolo
Domande Generali di Contesto
D Chi è Joan Donovan
R È un'eminente accademica e ricercatrice che studia come media, tecnologia e movimenti sociali interagiscono. In precedenza ha guidato il Technology and Social Change Research Project presso lo Shorenstein Center di Harvard
D Qual è il punto principale dell'argomentazione di Joan Donovan
R Il suo punto principale è che Mark Zuckerberg ha troppo potere incontrollato su Meta. Sostiene che il suo controllo sugli algoritmi e le politiche dei contenuti dell'azienda ha causato gravi danni alla democrazia e alla sicurezza pubblica, e che dovrebbe dimettersi da CEO
D Si tratta solo del fatto che Facebook è impopolare
R No. Sebbene Facebook abbia problemi di immagine pubblica, l'argomentazione di Donovan è più specifica. Si concentra su difetti strutturali in come Meta è governata, sostenendo che Zuckerberg prende decisioni unilaterali che privilegiano crescita e coinvolgimento rispetto alla sicurezza degli utenti e al benessere sociale
D Perché dice che Zuckerberg specificamente deve dimettersi piuttosto che semplicemente cambiare le politiche
R Sostiene che il problema è la concentrazione del potere stesso. Finché Zuckerberg ha il controllo di voto di maggioranza, può invertire qualsiasi cambiamento politico a suo piacimento. Crede che un cambio di leadership sia necessario per riformare davvero la cultura e la responsabilità dell'azienda
Critiche Specifiche e Problemi
D Quali danni specifici dice Donovan che Meta ha causato
R Indica diversi problemi, inclusa l'amplificazione della disinformazione su elezioni e vaccini, la facilitazione dell'odio e dell'incitamento alla violenza, e la mancata protezione della privacy dei dati degli utenti
D Cosa dice Donovan sulla svolta di Zuckerberg verso il metaverso
R La vede come una distrazione. Sostiene che mentre Zuckerberg spende miliardi di dollari per costruire mondi di realtà virtuale, Meta non riesce a risolvere i danni nel mondo reale che stanno accadendo proprio ora sulle sue piattaforme esistenti
D Qual è la connessione con l'assalto al Campidoglio in questa argomentazione
