先週、InstagramとFacebookを所有するメタ社は、米国の数十の州が提起した訴訟を解決するため、最大180億ドルを支払うことに合意しました。州側は、メタ社が中毒性のある製品で子どもに害を及ぼしたと非難していました。しかし、この和解の規制上の影響は10代の若者をはるかに超え、すべてのソーシャルメディア利用者に及ぶでしょう。
メタ社が本当にユーザーの安全を最優先するつもりなら、その取締役会はマーク・ザッカーバーグに辞任を求め、利益よりも安全を重視するよう会社を再編成すべきです。
この和解は、ソーシャルメディアが実際にどれほど中毒性があるかという科学的疑問に真に答えるものではありません。その代わり、これは2016年に始まった長い戦いの結果であり、その年、ジャーナリストや独立系研究者が、英国のブレグジット運動や米国大統領選挙中にデジタルデザインがどのように偽情報の拡散を助けたかを調査し始めました。ザッカーバーグは、実際の人々を傷つけてきたメタ社の10億ドル規模の過ちの歴史を通じて一貫して存在する糸です。
過去15年間、私は科学とテクノロジーがどのように社会変革を推進するかを研究してきました—良い面でも悪い面でも。批判的インターネット研究研究所の創設者として、私は新技術によって引き起こされる害を調査するチームを率いています。私たちは専門家に、これらの技術の明白な特徴と隠れた特徴（欠陥を含む）の両方を教えています。2020年、私は議会で偽情報が「受動喫煙」のように機能すると証言しました。私の証言は、メタ社の幹部がメタ社のエンゲージメントアルゴリズムの設計を、タバコ会社がどのように紙巻きタバコをより中毒性にしたかと比較した後に来ました。
180億ドルの和解—そしてザッカーバーグはほとんど動じませんでした。テック大手はその力を剥奪されるべきであり、しかもすぐにです。
一連の論説、議会向け説明会、研究論文で、私はタバコとの比較をさらに発展させました。喫煙を個人の選択とする文化的見解が、受動喫煙のような考え方や、タバコが癌リスクを高めるという科学的証明によってどのように変えられたかを示しました。喫煙の真のコストは、それに対処する時間と金を失った家族、保険会社、雇用主に転嫁されました。公衆衛生対応は喫煙を完全に禁止しませんでしたが、喫煙できる場所を制限し、タバコ購入の最低年齢を設定し、企業に危険性についての公的教育への資金提供を強制し、そして最も重要なことに、タバコをレジ係が身分証明書を確認しなければならないカウンターの後ろに置きました。公衆衛生キャンペーンと警告ラベルも大きな役割を果たしました。
同様に、ソーシャルメディア企業は、あなたのフィードに表示されるものについて多くの重要な決定を行います。それらの機能の一部は、ユーザーをアプリに長く留まらせるためのアルゴリズムで設計されています。
この和解には設計上の制限が伴います：10代のアカウントは1日2時間に制限され、午前0時から午前6時までブロックされ、学校時間中は通知が来ません。10代のアカウントは親のアカウントにリンクする必要があり、より強力な年齢確認も行われます。それが実際にどのように機能するかはまだ不明ですが、プライバシーの頭痛の種になる可能性が高いです。これらのルールは13歳から18歳のスクリーンタイムを制限しますが、薬物、性行為、ギャンブルがアルゴリズムによって推奨されるといった有害なコンテンツへの対処にはあまり役立ちません。
この最新の和解が、ザッカーバーグの企業にとってより厳しい道のりを示していることは明らかです。メタ社は、コンテンツモデレーション（コストがかかる）や広告（収益を生む）の深刻な規制を回避しながら、多くの法的戦いを戦ってきました。10代向けの新しいルールを施行することはコストを増加させるでしょう。メタ社はすでに、ユーザープライバシーの保護失敗から2018年のセキュリティ侵害、若者のメンタルヘルスへの悲惨な結果に至るまで、さまざまな問題で数十億ドルの和解金や罰金に直面しています。メタ社はまた、ミャンマーのロヒンギャに対するヘイトスピーチの増幅や、有毒中毒やワクチン躊躇を引き起こした広範な医療偽情報や陰謀論のホスティングおよびアルゴリズムによる宣伝を含む、他のグループへの害を補償なしで引き起こしてきました—これは世界保健機関が「インフォデミック」と呼んだものです。
「インフォデミック」という用語は、偽情報がウイルスのように広がる様子を捉えています。マーク・ザッカーバーグのリーダーとしての失敗は、世界中の市民生活、民主主義、人々の精神的および身体的健康—特に若者の間で—に深刻で十分に文書化された害を直接引き起こしました。2004年にFacebookを始めて以来、ザッカーバーグは初期の所有権や株式に関する問題で絶え間ない訴訟に直面してきました。その頃から彼は、幹部がユーザーの幸福よりも利益を選ぶことから生じる問題を遅らせ、否定し、そらすためのPR戦略を使い始めました。メタ社のリーダーたちは、憎悪、嫌がらせ、扇動の悲劇的な増幅から利益を得ました。
同時に、これは内部告発者の波を生み出し、これらの幹部の選択が「現実世界の害」—オンライン空間と現実の生活を分けるシリコンバレー用語—につながったことが明らかになった今、さらに多くの内部告発者が現れる可能性が高いです。この和解は、先週の厳しい公聴会に続くもので、そこで内部告発者のアルトゥーロ・ベハールは大胆に「マーク・ザッカーバーグを子どもに信頼することはできません」と述べました。Instagramで安全対策を率いたベハールは、10代の娘がプラットフォーム上で望まない性差別的な嫌がらせに直面するのを見ました。メタ社での役割のおかげで、彼はInstagramの害を測定するための実際のデータを持っており、さまざまなアルゴリズム変更が成長、エンゲージメント、ユーザーエクスペリエンスにどのように影響したかも含まれていました。
180億ドルの和解はメタ社にとってほんの一部に過ぎませんが、圧力は高まり続けるでしょう。ベハールは、内部告発者になる前にザッカーバーグと100回以上会ったと推定しています。多くの内部告発者は、適切な経路を通じて問題を修正しようと懸命に努力することから始めますが、上層部からの拒否に直面します。皮肉なことに、彼らは規則を守る傾向があり、彼らの懸念が職場で無関心や表面的な遵守に直面するにつれて、ますますフラストレーションを募らせます。
2023年12月、私は別の内部告発者フランシス・ハウゲンから入手した文書を公開データベースで共有する計画を立てた後、学界で激しい反発に直面しました。私はその文書を合法的に入手し、私の専門知識を使ってテック業界の内部関係者、ジャーナリスト、研究者、ワシントンのスタッフが、ハウゲン文書がメタ社の製品問題に関する知識と責任について何を明らかにし、何を明らかにしなかったかを理解するのを助けました。しかし、メッセージは明確でした：メタ社（当時はFacebookと呼ばれていました）は、Instagramが10代の少女に引き起こした損害を知っていたのです。
しかし、すべてのスキャンダルを通じて、ザッカーバーグの資産はフォーブスによると約2000億ドルにまで上昇しています。罰金はそれほど裕福な人にとっては何の意味もないので、社会を守るための第一歩は、ザッカーバーグの影響なしにメタ社に新たなスタートを与えることです。彼の「すべての人のための未来」というビジョンは、AIエージェントがあなたの人生を運営し、あなたはただ流されるだけの浅いユートピアです。
裁判所を超えて、メタ社はザッカーバーグに自発的に辞任を求めることでこれに対処できるでしょう。テクノロジーの未来への希望をもたらすことは、今メタ社のリーダーシップを変えることを意味し、未来が集団的に形成され、新しい評判とコミットメントの上に構築されるようにすることです。ザッカーバーグは、それを買う余裕があるという理由だけで別のチャンスに値するわけではありません。結局のところ、私たち全員が彼の過ちの代償を払っています。今こそ株主が声を上げ、ザッカーバーグの支配に挑戦する時です。
ジョーン・ドノバンはボストン大学のジャーナリズム助教授で、テクノロジーが社会にどのように影響するかを研究しています。彼女は批判的インターネット研究研究所を設立し、政治的暴力と社会運動に関するプロジェクトを率いています。
**よくある質問**
以下は、記事の前提に基づくFAQのリストです。
**一般的な背景に関する質問**
Q: ジョーン・ドノバンとは誰ですか？
A: 彼女は、メディアテクノロジーと社会運動がどのように相互作用するかを研究する著名な学者であり研究者です。彼女は以前、ハーバード大学のショーレンスタインセンターでテクノロジーと社会変革研究プロジェクトを率いていました。
Q: ジョーン・ドノバンの議論の要点は何ですか？
A: 彼女の要点は、マーク・ザッカーバーグがメタ社に対して過度の無制限な力を持っているということです。彼女は、彼の会社のアルゴリズムとコンテンツポリシーに対する支配が民主主義と公共の安全に深刻な害を引き起こしており、彼はCEOを辞任すべきだと主張しています。
Q: これは単にFacebookが不人気であるという話ですか？
A: いいえ。Facebookにはイメージ問題がありますが、ドノバンの議論はより具体的です。彼女はメタ社の統治方法の構造的欠陥に焦点を当て、ザッカーバーグがユーザーの安全や社会の幸福よりも成長とエンゲージメントを優先する一方的な決定を下すと主張しています。
Q: なぜ彼女はポリシーを変えるだけでなく、ザッカーバーグが具体的に辞任する必要があると言うのですか？
A: 彼女は問題が権力の集中自体にあると主張します。ザッカーバーグが過半数の議決権を持っている限り、彼はいつでもポリシー変更を覆すことができます。彼女は、会社の文化と説明責任を実際に改革するためにはリーダーシップの変更が必要だと信じています。
**具体的な批判と問題**
Q: ドノバンはメタ社がどのような具体的な害を引き起こしたと言っていますか？
A: 彼女は、選挙やワクチンに関する偽情報の増幅、ヘイトスピーチや暴力扇動の促進、ユーザーのデータプライバシーの保護失敗など、いくつかの問題を指摘しています。
Q: ドノバンはザッカーバーグのメタバースへの転換について何と言っていますか？
A: 彼女はそれを気晴らしと見なしています。ザッカーバーグが仮想現実世界の構築に数十億ドルを費やしている間、メタ社は既存のプラットフォームで今まさに起こっている現実世界の害を修正できていないと彼女は主張します。
Q: この議論における国会議事堂襲撃との関連は何ですか？
