Na semana passada, a Meta—a empresa que é dona do Instagram e do Facebook—concordou em pagar até 18 bilhões de dólares para resolver um processo movido por dezenas de estados dos EUA. Os estados acusaram a Meta de prejudicar crianças com produtos viciantes. Mas o impacto regulatório desse acordo vai muito além dos adolescentes, afetando todos os usuários de redes sociais.
Se a Meta realmente quer colocar a segurança do usuário em primeiro lugar, seu conselho deveria pedir que Mark Zuckerberg renunciasse e reestruturasse a empresa para que a segurança importe mais do que o lucro.
O acordo não responde realmente à questão científica de quão viciantes as redes sociais são. Em vez disso, é o resultado de uma longa batalha que começou em 2016, quando jornalistas e pesquisadores independentes começaram a investigar como o design digital ajudou a espalhar desinformação durante a campanha do Brexit no Reino Unido e a eleição presidencial dos EUA. Zuckerberg é o fio condutor constante na história de erros bilionários da Meta que prejudicaram pessoas reais.
Nos últimos 15 anos, estudei como a ciência e a tecnologia impulsionam mudanças sociais—tanto para o bem quanto para o mal. Como fundador do Critical Internet Studies Institute, lidero uma equipe que investiga os danos causados por novas tecnologias. Ensinamos profissionais sobre os recursos óbvios e ocultos dessas tecnologias, incluindo suas falhas. Em 2020, testemunhei ao Congresso que a desinformação funciona como "fumo passivo". Meu testemunho veio depois que um executivo da Meta comparou o design dos algoritmos de engajamento da Meta a como as empresas de tabaco tornaram os cigarros mais viciantes.
Um acordo de 18 bilhões de dólares—e Zuckerberg mal piscou. Os gigantes da tecnologia devem ser destituídos de seu poder, e em breve.
Em uma série de artigos de opinião, briefings ao Congresso e artigos de pesquisa, expandi a comparação com o tabaco. Mostrei como visões culturais do fumo como uma escolha pessoal foram mudadas por ideias como fumo passivo e por provas científicas de que o tabaco aumenta o risco de câncer. Os custos reais do fumo foram repassados a famílias, seguradoras e empregadores que perderam tempo e dinheiro lidando com isso. A resposta de saúde pública não proibiu o fumo completamente, mas limitou onde as pessoas podiam fumar, estabeleceu uma idade mínima para comprar cigarros, forçou as empresas a financiar educação pública sobre os perigos e—o mais importante—colocou os cigarros atrás dos balcões, onde os caixas tinham que verificar identidades. Campanhas de saúde pública e rótulos de advertência também desempenharam um grande papel.
De maneira semelhante, as empresas de redes sociais tomam muitas decisões importantes sobre o que aparece no seu feed. Alguns desses recursos são projetados com algoritmos para manter os usuários no aplicativo por mais tempo.
Este acordo vem com restrições de design: contas de adolescentes são limitadas a duas horas por dia, bloqueadas da meia-noite às 6h, e não recebem notificações durante o horário escolar. Contas de adolescentes também precisam ser vinculadas à conta de um dos pais, junto com verificações de idade mais rigorosas. Ainda não está claro como isso funcionará na prática, mas provavelmente se tornará uma dor de cabeça para a privacidade. Embora essas regras limitem o tempo de tela para jovens de 13 a 18 anos, elas não fazem muito para abordar conteúdo prejudicial—como drogas, sexo e jogos de azar acabam sendo recomendados por algoritmos.
Está claro que este acordo mais recente sinaliza um caminho mais difícil pela frente para as empresas de Zuckerberg. A Meta travou muitas batalhas legais enquanto evitava uma regulamentação séria da moderação de conteúdo (que custa dinheiro) ou da publicidade (que gera dinheiro). Aplicar essas novas regras para adolescentes aumentará os custos. A Meta já enfrentou bilhões em acordos e multas por questões que vão desde falhas em proteger a privacidade do usuário, a uma violação de segurança em 2018, a resultados terríveis para a saúde mental dos jovens. A Meta também causou danos a outros grupos sem compensação, incluindo amplificar discurso de ódio contra os rohingya em Mianmar, e hospedar e promover algoritmicamente desinformação médica generalizada e teorias da conspiração que levaram a envenenamento tóxico e hesitação vacinal—algo que a Organização Mundial da Saúde chamou de "infodemia", um termo que captura como a desinformação se espalha como um vírus. As falhas de Mark Zuckerberg como líder causaram diretamente danos sérios e bem documentados à vida cívica, à democracia e à saúde mental e física das pessoas em todo o mundo—especialmente entre os jovens. Desde que começou o Facebook em 2004, Zuckerberg enfrentou processos constantes por questões como propriedade e ações desde os primeiros dias. Foi quando ele começou a usar uma estratégia de relações públicas para atrasar, negar e desviar problemas decorrentes de executivos que escolhiam o lucro em vez do bem-estar do usuário. Os líderes da Meta lucraram com a trágica amplificação de ódio, assédio e incitação.
Ao mesmo tempo, isso criou uma onda de denunciantes, e é provável que mais apareçam agora que está claro que as escolhas desses executivos levaram a "danos no mundo real"—um termo do Vale do Silício que separa espaços online da vida real. O acordo segue as duras audiências da semana passada, onde o denunciante Arturo Béjar disse corajosamente: "Você simplesmente não pode confiar em Mark Zuckerberg com crianças." Béjar, que liderou esforços de segurança no Instagram, viu sua filha adolescente enfrentar assédio sexista indesejado na plataforma. Graças ao seu papel na Meta, ele tinha dados reais para medir os danos do Instagram, incluindo como diferentes mudanças algorítmicas afetaram crescimento, engajamento e experiência do usuário.
Um acordo de 18 bilhões de dólares é apenas uma fração minúscula para a Meta, mas a pressão continuará aumentando. Béjar estima que se encontrou com Zuckerberg mais de 100 vezes antes de se tornar um denunciante. Muitos denunciantes começam tentando arduamente resolver problemas pelos canais adequados, apenas para enfrentar recusa dos superiores. Ironicamente, eles tendem a ser cumpridores de regras que ficam mais frustrados à medida que suas preocupações encontram indiferença ou conformidade superficial no trabalho.
Em dezembro de 2023, enfrentei intensa reação negativa na academia depois de obter documentos de outra denunciante, Frances Haugen, que planejava compartilhar em um banco de dados público. Obtive os documentos legalmente e usei minha experiência para ajudar insiders de tecnologia, jornalistas, pesquisadores e funcionários de Washington a entender o que os documentos de Haugen revelavam—e não revelavam—sobre o conhecimento e a responsabilidade da Meta por problemas de produto. Mas a mensagem era clara: a Meta, então chamada Facebook, sabia sobre os danos que o Instagram causava a meninas adolescentes.
No entanto, através de cada escândalo, a riqueza de Zuckerberg subiu para quase 200 bilhões de dólares, de acordo com a Forbes. Multas não significam nada para alguém tão rico, então o primeiro passo para proteger a sociedade é dar à Meta um novo começo sem a influência de Zuckerberg em produtos futuros. Sua visão de "um futuro para todos" é uma utopia superficial onde agentes de IA administram sua vida e você apenas flutua por ela.
Além dos tribunais, a Meta poderia resolver isso pedindo que Zuckerberg renunciasse voluntariamente. Trazer esperança para o futuro da tecnologia significa mudar a liderança da Meta agora, para que o futuro seja moldado coletivamente e construído sobre uma nova reputação e compromisso. Zuckerberg não merece outra chance só porque pode pagar por isso. No final, todos nós pagamos por seus erros. Agora é a hora de os acionistas se manifestarem e desafiarem o controle de Zuckerberg.
Joan Donovan é professora assistente de jornalismo na Universidade de Boston, estudando como a tecnologia afeta a sociedade. Ela fundou o Critical Internet Studies Institute, onde lidera um projeto sobre violência política e movimentos sociais.
Perguntas Frequentes
Aqui está uma lista de perguntas frequentes com base na premissa dos artigos
Perguntas Gerais de Contexto
P Quem é Joan Donovan
R Ela é uma acadêmica e pesquisadora proeminente que estuda como mídia, tecnologia e movimentos sociais interagem Ela liderou anteriormente o Projeto de Pesquisa de Tecnologia e Mudança Social no Centro Shorenstein de Harvard
P Qual é o ponto principal do argumento de Joan Donovan
R Seu ponto principal é que Mark Zuckerberg tem poder demais sem controle sobre a Meta Ela argumenta que seu controle sobre os algoritmos e políticas de conteúdo da empresa causou danos sérios à democracia e à segurança pública e que ele deveria renunciar como CEO
P Isso é apenas sobre o Facebook ser impopular
R Não Embora o Facebook tenha problemas de imagem pública o argumento de Donovan é mais específico Ela foca em falhas estruturais em como a Meta é governada argumentando que Zuckerberg toma decisões unilaterais que priorizam crescimento e engajamento em vez de segurança do usuário e bem-estar social
P Por que ela diz que Zuckerberg especificamente precisa renunciar em vez de apenas mudar as políticas
R Ela argumenta que o problema é a concentração de poder em si Enquanto Zuckerberg tiver controle majoritário de votos ele pode reverter qualquer mudança de política à vontade Ela acredita que uma mudança de liderança é necessária para realmente reformar a cultura e a responsabilidade da empresa
Críticas Específicas e Problemas
P Que dano específico Donovan diz que a Meta causou
R Ela aponta várias questões incluindo amplificar desinformação sobre eleições e vacinas facilitar discurso de ódio e incitação à violência e falhar em proteger a privacidade dos dados dos usuários
P O que Donovan diz sobre a mudança da Meta para o metaverso
R Ela vê isso como uma distração Ela argumenta que enquanto Zuckerberg está gastando bilhões de dólares construindo mundos de realidade virtual a Meta está falhando em corrigir os danos do mundo real que estão acontecendo agora em suas plataformas existentes
P Qual é a conexão com o Motim do Capitólio neste argumento
