Миналата седмица Meta—компанията, която притежава Instagram и Facebook—се съгласи да плати до 18 милиарда долара, за да уреди съдебен иск, заведен от десетки американски щати. Щатите обвиниха Meta, че вреди на децата с пристрастяващи продукти. Но регулаторното въздействие на това споразумение ще се простире далеч отвъд тийнейджърите, засягайки всеки потребител на социални медии.
Ако Meta наистина иска да постави безопасността на потребителите на първо място, нейният борд трябва да поиска от Марк Зукърбърг да се оттегли и да преструктурира компанията, така че безопасността да има значение повече от печалбата.
Споразумението не отговаря наистина на научния въпрос колко пристрастяващи са всъщност социалните медии. Вместо това, то е резултат от дълга битка, започнала през 2016 г., когато журналисти и независими изследователи започнаха да проучват как цифровият дизайн е помогнал за разпространението на дезинформация по време на кампанията за Брекзит в Обединеното кралство и президентските избори в САЩ. Зукърбърг е единствената постоянна нишка, минаваща през историята на Meta от милиардни грешки, които са наранили реални хора.
През последните 15 години изучавах как науката и технологиите движат социалната промяна—както за добро, така и за лошо. Като основател на Института за критични интернет изследвания, ръководя екип, който разследва вредите, причинени от новите технологии. Обучаваме професионалисти както за очевидните, така и за скритите характеристики на тези технологии, включително техните недостатъци. През 2020 г. свидетелствах пред Конгреса, че дезинформацията действа като „пасивно пушене“. Моето свидетелство дойде след като изпълнителен директор на Meta сравни дизайна на алгоритмите за ангажираност на Meta с това как тютюневите компании са направили цигарите по-пристрастяващи.
Споразумение за 18 милиарда долара—и Зукърбърг едва трепна. Технологичните гиганти трябва да бъдат лишени от властта си, и то скоро.
В поредица от коментарни статии, брифинги пред Конгреса и научни статии, разширих сравнението с тютюна. Показах как културните възгледи за пушенето като личен избор са били променени от идеи като пасивното пушене и от научни доказателства, че тютюнът повишава риска от рак. Истинските разходи за пушенето бяха прехвърлени върху семейства, застрахователни компании и работодатели, които губеха време и пари, справяйки се с него. Отговорът на общественото здравеопазване не забрани напълно пушенето, но ограничи местата, където хората могат да пушат, въведе минимална възраст за закупуване на цигари, принуди компаниите да финансират обществено образование за опасностите и—най-важното—постави цигарите зад гишетата, където касиерите трябваше да проверяват лични карти. Кампаниите за обществено здраве и предупредителните етикети също изиграха голяма роля.
По подобен начин компаниите за социални медии вземат много важни решения за това какво се появява във вашата емисия. Някои от тези функции са проектирани с алгоритми, за да задържат потребителите в приложението по-дълго.
Това споразумение идва с ограничения в дизайна: акаунтите на тийнейджъри са ограничени до два часа на ден, блокирани са от полунощ до 6 сутринта и не получават известия през учебно време. Акаунтите на тийнейджъри също трябва да бъдат свързани с акаунта на родител, заедно с по-строги проверки на възрастта. Все още не е ясно как това ще работи на практика, но вероятно ще се превърне в главоболие за поверителността. Въпреки че тези правила ограничават времето пред екрана за 13- до 18-годишните, те не правят много за справяне с вредното съдържание—като например как наркотици, секс и хазарт се оказват препоръчани от алгоритмите.
Ясно е, че това най-ново споразумение сигнализира за по-труден път напред за компаниите на Зукърбърг. Meta е водила много правни битки, като същевременно е избягвала сериозна регулация на модерирането на съдържание (което струва пари) или рекламата (която носи пари). Прилагането на тези нови правила за тийнейджъри ще повиши разходите. Meta вече се е сблъсквала с милиардни споразумения и глоби за проблеми, вариращи от неизпълнение на защитата на поверителността на потребителите, до пробив в сигурността през 2018 г., до ужасни последици за психичното здраве на младите хора. Meta също е причинила вреда на други групи без компенсация, включително усилване на речта на омразата срещу рохингите в Мианмар и хостване и алгоритмично популяризиране на широко разпространена медицинска дезинформация и конспиративни теории, довели до токсично отравяне и колебание относно ваксините—нещо, което Световната здравна организация нарече „инфодемия“. Терминът „инфодемия“ улавя как дезинформацията се разпространява като вирус. Провалите на Марк Зукърбърг като лидер пряко причиниха сериозна, добре документирана вреда на гражданския живот, демокрацията и психичното и физическото здраве на хората по света—особено сред младите хора. Откакто стартира Facebook през 2004 г., Зукърбърг се е сблъсквал с постоянни съдебни дела по въпроси като собственост и акции от ранните дни. Тогава той започна да използва PR стратегия за забавяне, отричане и отклоняване на проблеми, произтичащи от избора на изпълнителните директори да поставят печалбата над благополучието на потребителите. Лидерите на Meta спечелиха от трагичното усилване на омразата, тормоза и подстрекателството.
В същото време това създаде вълна от разобличители и е вероятно да дойдат още, сега когато е ясно, че изборите на тези изпълнителни директори доведоха до „вреда в реалния свят“—термин от Силициевата долина, който разделя онлайн пространствата от реалния живот. Споразумението следва суровите изслушвания от миналата седмица, където разобличителят Артуро Бехар смело заяви: „Просто не можете да се доверите на Марк Зукърбърг с деца.“ Бехар, който ръководеше усилията за безопасност в Instagram, видя тийнейджърската си дъщеря да се сблъсква с нежелан сексистки тормоз в платформата. Благодарение на ролята си в Meta, той имаше реални данни, за да измери вредите от Instagram, включително как различните алгоритмични промени влияят на растежа, ангажираността и потребителското изживяване.
Споразумение за 18 милиарда долара е само малка част за Meta, но натискът ще продължи да расте. Бехар изчислява, че се е срещал със Зукърбърг над 100 пъти, преди да стане разобличител. Много разобличители започват, като се опитват усилено да разрешат проблемите чрез официалните канали, само за да се сблъскат с отказ от висшестоящите. По ирония на съдбата, те обикновено са хора, които спазват правилата и стават все по-разочаровани, когато опасенията им срещат безразличие или повърхностно съответствие на работното място.
През декември 2023 г. се сблъсках с интензивна реакция в академичните среди, след като получих документи от друг разобличител, Франсис Хауген, които планирах да споделя в публична база данни. Получих документите законно и използвах експертизата си, за да помогна на технологични инсайдъри, журналисти, изследователи и служители във Вашингтон да разберат какво документите на Хауген разкриват—и какво не—за знанието и отговорността на Meta за продуктовите проблеми. Но посланието беше ясно: Meta, тогава наричана Facebook, знаеше за вредата, която Instagram причинява на тийнейджърките.
И все пак, през всеки скандал, богатството на Зукърбърг се е покачило до близо 200 милиарда долара, според Forbes. Глобите не означават нищо за някой толкова богат, така че първата стъпка за защита на обществото е да се даде на Meta ново начало без влиянието на Зукърбърг върху бъдещите продукти. Неговата визия за „бъдеще за всички“ е плитка утопия, където AI агенти управляват живота ви и вие просто се носите през него.
Отвъд съдилищата, Meta би могла да адресира това, като поиска от Зукърбърг да се оттегли доброволно. Да се донесе надежда за бъдещето на технологиите означава да се промени ръководството на Meta сега, така че бъдещето да бъде оформено колективно и изградено върху нова репутация и ангажимент. Зукърбърг не заслужава още един шанс само защото може да си го позволи. В крайна сметка, всички ние плащаме за неговите грешки. Сега е времето акционерите да говорят и да оспорят контрола на Зукърбърг.
Джоан Донован е доцент по журналистика в Бостънския университет, изучавайки как технологиите влияят на обществото. Тя основа Института за критични интернет изследвания, където ръководи проект за политическо насилие и социални движения.
Често задавани въпроси
Ето списък с често задавани въпроси, базирани на основата на статията.
Общи въпроси
Въпрос: Коя е Джоан Донован?
Отговор: Тя е виден академик и изследовател, който изучава как медийните технологии и социалните движения си взаимодействат. Преди това тя ръководеше Проекта за технология и социална промяна в Центъра „Шоренщайн“ в Харвард.
Въпрос: Каква е основната точка на аргумента на Джоан Донован?
Отговор: Основната ѝ точка е, че Марк Зукърбърг има твърде много неконтролирана власт над Meta. Тя твърди, че неговият контрол върху алгоритмите и политиките за съдържание на компанията е причинил сериозна вреда на демокрацията и обществената безопасност и че той трябва да се оттегли като главен изпълнителен директор.
Въпрос: Това само за това ли е, че Facebook е непопулярен?
Отговор: Не. Въпреки че Facebook има проблеми с публичния имидж, аргументът на Донован е по-конкретен. Тя се фокусира върху структурни недостатъци в управлението на Meta, твърдейки, че Зукърбърг взема едностранни решения, които приоритизират растежа и ангажираността пред безопасността на потребителите и благополучието на обществото.
Въпрос: Защо тя казва, че конкретно Зукърбърг трябва да се оттегли, а не просто да се променят политиките?
Отговор: Тя твърди, че проблемът е самата концентрация на власт. Докато Зукърбърг има мнозинство от гласовете за контрол, той може да обърне всякакви промени в политиките по свое желание. Тя вярва, че промяната в ръководството е необходима, за да се реформират наистина културата и отчетността на компанията.
Конкретни критики и проблеми
Въпрос: Каква конкретна вреда казва Донован, че Meta е причинила?
Отговор: Тя посочва няколко проблема, включително усилване на дезинформация за избори и ваксини, улесняване на реч на омразата и подстрекателство към насилие и неизпълнение на защитата на поверителността на данните на потребителите.
Въпрос: Какво казва Донован за завоя на Зукърбърг към метавселената?
Отговор: Тя го вижда като разсейване. Тя твърди, че докато Зукърбърг харчи милиарди долари за изграждане на светове на виртуалната реалност, Meta не успява да поправи вредата в реалния свят, която се случва точно сега на съществуващите му платформи.
Въпрос: Каква е връзката с Капитолийския бунт в този аргумент?
