もう今となっては、AIが選択式冒険小説のようなもので、どの道を選んでも破滅に至ると気づくべきだ。炭素排出量の爆発的増加と生態系の崩壊？ 37ページへ。その他の起こり得る結果には、以下の一部または全部が含まれる：バブルがはじけて金融危機を引き起こすこと、自動化による大量失業、民主主義の終焉と権威主義的な監視国家の台頭、パターンマッチングアルゴリズムが意識を持っていると信じる狂信的カルト、テロリストによる壊滅的な生物兵器の作成、人間が把握できない時間スケールで作動する自律型兵器を配備する国家、我々が依存する無数のシステムをハッキングする国家やテロリスト、あるいは意識があるかどうかにかかわらず、人間の幸福と衝突する目標を追求するAI。
イーロン・マスクやOpenAIのサム・オルトマン、Palantirのピーター・ティール、トランプのテクノロジー顧問マーク・アンドリーセンといった人物が、環境の調和、社会的平和、そして無限の余暇というユートピア的未来へ我々を導いてくれると想像することは、極度の妄想とお世辞を必要とし、それはChatGPTが書いた選択式冒険小説だけが作り出せるものだ。
我々が破滅に向かっているという認識は、遅ればせながらではあるが広がりつつあり、その一方で、これを理解する間、減速、規制、あるいは一時停止を求める声も上がっている。これらの声は活動家だけでなく、バーニー・サンダースからビル・ゲイツまで、無視できないほど多様な政治家、専門家、大手テック企業の内部関係者からも出ている。ゲイツは最近、「AIの進歩を世界的に減速させる信頼できる計画があるなら、私はおそらくそれを支持するだろう」と述べた。彼は、AI企業Anthropicが今年の夏初めに「ブレーキペダル」を求めたことを認めた最新の内部関係者に過ぎない。業界の自己抑制は機能しないだろう。一時停止があるとすれば、それは外部から課されなければならない。
それにもかかわらず、国際的な合意は残念ながらありそうにない。AIは核兵器のようなもので、同じ論理に従う：すべてのプレイヤーは、勝者に振り回されたくないという唯一の正当化理由だけで、この無謀な競争を走らされる。物事を減速させる最善のチャンスは、あるアクターが重要なボトルネックを掌握し、それを閉じる理由を持つことだろう。興味深いことに、EUはそのようなカードを握っており、さらにそれを切る動機さえある——もし思い切ればの話だが。
画像を全画面で表示
中国・南京にある台湾のチップメーカーTSMCの工場。写真：Sipa US/Alamy
オランダのテクノロジー企業ASMLは、極端紫外線（EUV）リソグラフィー装置の生産により、欧州で最も価値のある企業である。これらの装置は世界最先端のチップ製造に不可欠であり、AI産業全体における数少ないチョークポイントの一つである。ASMLは、光を13.5ナノメートル（人間の髪の毛の幅の約1万分の1）の波長に集光してシリコンにパターンを焼き付ける、これらの4億ドルの装置を構築するために必要な技術と複雑なサプライチェーンを習得している。その装置がなければチップはなく、チップがなければデータセンターももう増えない。これは、台湾のチップメーカーTSMCによる将来の製造工場（「ファブ」として知られる）への2650億ドルの投資から、業界が2030年までに世界（主に米国）に建設すると予想される7兆ドル相当のデータセンターまで、すべてに影響を与える。これらの現在および次世代チップを使用するデータセンターがこれ以上増えなければ、AIの指数関数的成長——そしてリスク——は停止するだろう。
これが、米国政府がASMLに域外輸出規制を課し、中国への最先端EUV装置の販売を阻止して、そのチップ製造能力を減速させている理由だ。ASMLにこれらの制限を課すことで、米国はこのチョークポイントにおける自らの弱点を露呈している：欧州が（最終的には代替可能な）米国からの金融・ソフトウェアサービスに依存しているのと同様に、すべてのチップベース技術の未来は完全にASMLに依存している。ASMLの装置の輸出を完全に禁止すれば、世界のAI産業は事実上、立ち泳ぎやその場でのジョギングのような状態に強制されるだろう。結果として生じるチップ不足とAI開発の減速は、規制当局が技術に追いつく時間、立法者が著作権から税法まであらゆるものを更新する時間、そして社会がAIに我々の生活で果たしてほしい役割について真の議論を行う時間を与えるだろう。
なぜEUがそんなことをするのか？ 人道主義的な理由だけでなく、自己利益のためでもある。最良のシナリオでは、全面的な輸出禁止はサプライチェーンの再編につながり、より多くの重要な決定をEUの管理下に置くことになるだろう——そこでは、AIを広範囲に規制することを示してきた唯一のプレイヤーの監視下に置かれることになる。もちろん、最良のケースは無理がある：米国が報復としてASMLの米国系サプライヤーへのアクセスを遮断する可能性が高い。しかし、それが起こったとしても、純粋な経済的・地政学的自己利益という狭い論理に基づけば、EUがそのような対決を引き起こすことは依然としてEUの利益になる。なぜなら、EUはAIモデルとそれを実行するために必要なデータセンターの「計算能力」において、相対的に遅れを取ることを止めるからだ。
欧州自身のAI推進派も同意している——彼らが懸念しているのはAIの広範なリスクではなく、EUの相対的な不利な立場であるが。Europe 2031プロジェクトは、業界専門家のグループによってまとめられた技術政治的な予測であり、AIが経済を根本的に変革し、EUが米国に大きく遅れを取った場合にEUに何が起こり得るかについてのものだ。彼らは、フロンティアモデルと「計算能力」の両方がTSMCやASMLの現在のようになる前に——つまり、どの競合他社にも埋められないほどの格差の受益者になる前に——欧州はAI軍拡競争に数千億を注ぎ込まなければならないと主張する。
彼らのシナリオでは、近い将来のある時点で、EUは経済と安全保障が依存することになる米国支配のモデルと計算能力へのアクセスを確保するために、ASMLへのアクセスを交渉のテーブルに載せざるを得なくなる——しかし、その時にはASMLの支配力は時間とともに弱まっていることに気づくだけだ。（EUV装置が輸出されればされるほど、他の場所にファブが建設され、中国と米国がASMLの技術を複製する時間が増える。）
核兵器理論家は、もし想像を絶することが起こった場合、国家は「使うか失うか」の計算によって発射へと追い込まれるかもしれないと懸念している。まったく同じ論理が、AI産業の猛烈な発展を止め得る唯一のものに適用される：EUはASMLが今与えているレバレッジを今使うか、あるいはそのチャンスを完全に失うリスクを負うかだ。これほど異なるグループが同じ結論に達することは稀だ：欧州には切るべきカードが一枚あり、それは切らなければならない。愚行に向かって競争する代わりに、競争を止めよう。今すぐ、そしてすべての人のために。
アレクサンダー・ハーストはパリからGuardian Europeに寄稿している。彼の回顧録『Generation Desperation』が現在発売中。
よくある質問
以下は、記事の前提に基づいたFAQのリストで、初心者から上級者までのレベルをカバーしています。
初心者向け質問
1 AI軍拡競争とは具体的に何ですか？
それは、テック大手が競って最も強力なAIを最初に構築しようとする狂乱的な競争です。安全性や倫理を優先する代わりに、彼らはライバルを打ち負かし市場シェアを獲得するために、新しいモデルを急いでリリースします。
2 ビル・ゲイツとバーニー・サンダースがこれに同意するのはなぜですか？
彼らはまったく異なる政治的立場から来ていますが、両者とも同じ危険性を見ています。ゲイツはAIが人間の制御を超えて暴走し、大規模な雇用喪失を引き起こすことを懸念しています。サンダースは、抑制されない企業権力と、労働者を搾取したり世論を操作したりするためにAIが使われることを懸念しています。両者とも、純粋な利益動機が人類の未来を決定づけるべきではないことに同意しています。
3 なぜ欧州だけがそれを止められる存在として具体的に言及されているのですか？
なぜなら、米国と中国は勝者総取りのテクノロジー戦争に固執しており、減速しないからです。しかし欧州はAI競争をリードしていないため、失うものが少ないのです。さらに重要なことに、EUは世界全体に適用される厳格な規制を可決してきた実績があります——欧州でビジネスをしたいなら、彼らのルールに従わなければなりません。
4 「それにストップをかける」とは具体的に何を意味しますか？
それはAIを完全に禁止することを意味しません。危険な競争を止めることを意味します。厳格な安全性テストを強制し、AIが何ができるかについての透明性を要求し、安全でない製品をリリースした企業に多額の罰金を課すことを意味します。速度に安全性が追いつくように減速を強制することです。
5 AI軍拡競争は本当に災害ですか？
その議論は、そうだというものです。災害はAIが存在することではなく、その速度です。企業は、選挙、雇用、精神的健康にどのような影響を与えるかを理解する前に、強力なツールを世に送り出しています。災害は無謀さであり、技術そのものではありません。
上級者向け質問
6 欧州の規制は実際にどうやってアメリカ企業を止めるのですか？
EUには「ブリュッセル効果」があります。MetaやOpenAIのようなアメリカ企業が4億5000万人の欧州消費者にサービスを提供したいなら、EU法を遵守しなければなりません。EUが第三者による安全性監査なしに超知能モデルを展開してはならないと言えば、その企業はグローバルにその監査を行わなければならなくなります。
