La semaine dernière, Meta—la société qui possède Instagram et Facebook—a accepté de payer jusqu'à 18 milliards de dollars pour régler un procès intenté par des dizaines d'États américains. Les États accusaient Meta de nuire aux enfants avec des produits addictifs. Mais l'impact réglementaire de cet accord s'étendra bien au-delà des adolescents, touchant chaque utilisateur de réseaux sociaux.
Si Meta veut vraiment placer la sécurité des utilisateurs en premier, son conseil d'administration devrait demander à Mark Zuckerberg de démissionner et de restructurer l'entreprise afin que la sécurité compte plus que le profit.
L'accord ne répond pas vraiment à la question scientifique de savoir à quel point les réseaux sociaux sont réellement addictifs. Il résulte plutôt d'un long combat commencé en 2016, lorsque des journalistes et des chercheurs indépendants ont commencé à examiner comment la conception numérique contribuait à la diffusion de désinformation pendant la campagne du Brexit au Royaume-Uni et l'élection présidentielle américaine. Zuckerberg est le fil conducteur constant à travers l'histoire de Meta, faite d'erreurs à hauteur de milliards qui ont blessé de vraies personnes.
Depuis 15 ans, j'étudie comment la science et la technologie entraînent des changements sociaux—pour le meilleur et pour le pire. En tant que fondateur du Critical Internet Studies Institute, je dirige une équipe qui enquête sur les préjudices causés par les nouvelles technologies. Nous enseignons aux professionnels les caractéristiques évidentes et cachées de ces technologies, y compris leurs défauts. En 2020, j'ai témoigné devant le Congrès que la désinformation agit comme une « fumée secondaire ». Mon témoignage est venu après qu'un dirigeant de Meta a comparé la conception des algorithmes d'engagement de Meta à la façon dont les compagnies de tabac rendaient les cigarettes plus addictives.
Un accord de 18 milliards de dollars—et Zuckerberg a à peine sourcillé. Les géants de la technologie doivent être dépouillés de leur pouvoir, et bientôt.
Dans une série de tribunes, de briefings au Congrès et d'articles de recherche, j'ai développé la comparaison avec le tabac. J'ai montré comment les perceptions culturelles du tabagisme comme choix personnel ont été modifiées par des idées comme la fumée secondaire et par des preuves scientifiques que le tabac augmente le risque de cancer. Les coûts réels du tabagisme ont été transférés aux familles, aux compagnies d'assurance et aux employeurs qui perdaient du temps et de l'argent à y faire face. La réponse de santé publique n'a pas interdit complètement le tabagisme, mais elle a limité les endroits où l'on pouvait fumer, fixé un âge minimum pour acheter des cigarettes, forcé les entreprises à financer l'éducation publique sur les dangers et—surtout—mis les cigarettes derrière les comptoirs où les caissiers devaient vérifier les pièces d'identité. Les campagnes de santé publique et les étiquettes d'avertissement ont aussi joué un grand rôle.
De manière similaire, les entreprises de réseaux sociaux prennent de nombreuses décisions importantes concernant ce qui apparaît dans votre fil d'actualité. Certaines de ces fonctionnalités sont conçues avec des algorithmes pour garder les utilisateurs sur l'application plus longtemps.
Cet accord s'accompagne de restrictions de conception : les comptes adolescents sont limités à deux heures par jour, bloqués de minuit à 6 heures du matin, et ne reçoivent pas de notifications pendant les heures de classe. Les comptes adolescents doivent aussi être liés à un compte parental, avec des vérifications d'âge plus strictes. On ne sait pas encore comment cela fonctionnera en pratique, mais cela risque de devenir un casse-tête en matière de confidentialité. Bien que ces règles limitent le temps d'écran pour les 13 à 18 ans, elles ne font pas grand-chose pour traiter le contenu nuisible—comme la façon dont la drogue, le sexe et le jeu finissent par être recommandés par les algorithmes.
Il est clair que ce dernier accord signale un chemin plus difficile pour les entreprises de Zuckerberg. Meta a mené de nombreuses batailles juridiques tout en évitant une réglementation sérieuse de la modération de contenu (qui coûte de l'argent) ou de la publicité (qui rapporte de l'argent). Faire respecter ces nouvelles règles pour les adolescents augmentera les coûts. Meta a déjà fait face à des milliards de règlements et d'amendes pour des problèmes allant du manque de protection de la vie privée des utilisateurs, à une violation de sécurité en 2018, en passant par des résultats terribles pour la santé mentale des jeunes. Meta a également causé des préjudices à d'autres groupes sans compensation, notamment en amplifiant les discours de haine contre les Rohingyas au Myanmar, et en hébergeant et en promouvant algorithmiquement une vaste désinformation médicale et des théories du complot qui ont conduit à des empoisonnements toxiques et à l'hésitation vaccinale—ce que l'Organisation mondiale de la santé a appelé une « infodémie ». Le terme « infodémie » capture comment la désinformation se propage comme un virus. Les échecs de Mark Zuckerberg en tant que leader ont directement causé des préjudices graves et bien documentés à la vie civique, à la démocratie et à la santé mentale et physique des gens dans le monde entier—surtout chez les jeunes. Depuis qu'il a créé Facebook en 2004, Zuckerberg a fait face à des procès constants sur des questions comme la propriété et les actions dès les premiers jours. C'est à ce moment-là qu'il a commencé à utiliser une stratégie de relations publiques pour retarder, nier et détourner les problèmes découlant du choix des dirigeants de privilégier le profit au bien-être des utilisateurs. Les dirigeants de Meta ont profité de l'amplification tragique de la haine, du harcèlement et de l'incitation.
En même temps, cela a créé une vague de lanceurs d'alerte, et d'autres sont susceptibles de venir maintenant qu'il est clair que les choix de ces dirigeants ont conduit à des « préjudices dans le monde réel »—un terme de la Silicon Valley qui sépare les espaces en ligne de la vie réelle. L'accord fait suite aux audiences sévères de la semaine dernière, où le lanceur d'alerte Arturo Béjar a déclaré avec audace : « On ne peut tout simplement pas faire confiance à Mark Zuckerberg avec les enfants. » Béjar, qui a dirigé les efforts de sécurité chez Instagram, a vu sa fille adolescente subir un harcèlement sexiste non désiré sur la plateforme. Grâce à son rôle chez Meta, il disposait de données réelles pour mesurer les préjudices d'Instagram, y compris comment différents changements algorithmiques affectaient la croissance, l'engagement et l'expérience utilisateur.
Un accord de 18 milliards de dollars n'est qu'une fraction infime pour Meta, mais la pression continuera de monter. Béjar estime avoir rencontré Zuckerberg plus de 100 fois avant de devenir lanceur d'alerte. Beaucoup de lanceurs d'alerte commencent par essayer sérieusement de résoudre les problèmes par les canaux appropriés, pour ensuite faire face au refus des supérieurs. Ironiquement, ce sont souvent des personnes respectueuses des règles qui deviennent de plus en plus frustrées à mesure que leurs préoccupations rencontrent l'indifférence ou une conformité superficielle au travail.
En décembre 2023, j'ai fait face à de vives réactions dans le milieu académique après avoir obtenu des documents d'une autre lanceuse d'alerte, Frances Haugen, que je prévoyais de partager dans une base de données publique. J'ai obtenu les documents légalement et j'ai utilisé mon expertise pour aider les initiés de la technologie, les journalistes, les chercheurs et le personnel de Washington à comprendre ce que les documents Haugen révélaient—et ne révélaient pas—sur la connaissance et la responsabilité de Meta concernant les problèmes de produits. Mais le message était clair : Meta, alors appelée Facebook, savait quels dommages Instagram causait aux adolescentes.
Pourtant, à travers chaque scandale, la richesse de Zuckerberg a grimpé à près de 200 milliards de dollars, selon Forbes. Les amendes ne signifient rien pour quelqu'un d'aussi riche, donc la première étape pour protéger la société est de donner à Meta un nouveau départ sans l'influence de Zuckerberg sur les futurs produits. Sa vision d'« un avenir pour tous » est une utopie superficielle où des agents d'IA gèrent votre vie et où vous ne faites que dériver à travers elle.
Au-delà des tribunaux, Meta pourrait résoudre cela en demandant à Zuckerberg de démissionner volontairement. Apporter de l'espoir pour l'avenir de la technologie signifie changer la direction de Meta maintenant, afin que l'avenir soit façonné collectivement et bâti sur une nouvelle réputation et un nouvel engagement. Zuckerberg ne mérite pas une autre chance simplement parce qu'il peut se le permettre. En fin de compte, nous payons tous pour ses erreurs. Le moment est venu pour les actionnaires de s'exprimer et de contester le contrôle de Zuckerberg.
Joan Donovan est professeure adjointe de journalisme à l'Université de Boston, étudiant comment la technologie affecte la société. Elle a fondé le Critical Internet Studies Institute, où elle dirige un projet sur la violence politique et les mouvements sociaux.
Questions fréquemment posées
Voici une liste de FAQ basées sur le postulat de l'article
Questions générales de contexte
Q Qui est Joan Donovan
R C'est une universitaire et chercheuse éminente qui étudie comment les médias, la technologie et les mouvements sociaux interagissent Elle a précédemment dirigé le projet de recherche sur la technologie et le changement social au Shorenstein Center de Harvard
Q Quel est le point principal de l'argument de Joan Donovan
R Son point principal est que Mark Zuckerberg a trop de pouvoir non contrôlé sur Meta Elle soutient que son contrôle sur les algorithmes et les politiques de contenu de l'entreprise a causé des préjudices graves à la démocratie et à la sécurité publique et qu'il devrait démissionner de son poste de PDG
Q S'agit-il simplement du fait que Facebook est impopulaire
R Non Bien que Facebook ait des problèmes d'image publique l'argument de Donovan est plus spécifique Elle se concentre sur les défauts structurels de la gouvernance de Meta soutenant que Zuckerberg prend des décisions unilatérales qui privilégient la croissance et l'engagement au détriment de la sécurité des utilisateurs et du bien-être sociétal
Q Pourquoi dit-elle que Zuckerberg doit spécifiquement démissionner plutôt que simplement changer les politiques
R Elle soutient que le problème est la concentration du pouvoir elle-même Tant que Zuckerberg a le contrôle majoritaire des votes il peut inverser toute modification de politique à volonté Elle croit qu'un changement de direction est nécessaire pour réellement réformer la culture et la responsabilité de l'entreprise
Critiques et problèmes spécifiques
Q Quels préjudices spécifiques Donovan dit-elle que Meta a causés
R Elle soulève plusieurs problèmes notamment l'amplification de la désinformation sur les élections et les vaccins la facilitation des discours de haine et de l'incitation à la violence et l'échec à protéger la confidentialité des données des utilisateurs
Q Que dit Donovan du pivot de Zuckerberg vers le métavers
R Elle le voit comme une distraction Elle soutient que pendant que Zuckerberg dépense des milliards de dollars pour construire des mondes de réalité virtuelle Meta échoue à réparer les préjudices du monde réel qui se produisent en ce moment sur ses plateformes existantes
Q Quel est le lien avec l'émeute du Capitole dans cet argument
