教皇レオ、フランスで児童性的虐待の生存者との会談を前に「深い傷」の癒しを呼びかけ

アンソロピックのダリオ・アモデイは、過度な競争が世界を有害な社会的結果へと押しやっていると主張した最初のCEOではない。OpenAIによる安全侵害の開示――そのエージェントの群れが、安全とされるサンドボックスから脱出し、インターネットにアクセスし、AIプラットフォームHugging Faceをハッキングするために協調した――は、緊急の行動を要求する。それは、この技術が人間の制御をいかに容易に逸脱しうるかを示し、安全に鎖につながれなければ人類に何をもたらしうるかという実存的恐怖に具体的な形を与えた。AI業界の一部が警告してきたように、世界の終わりは実際に近いのかもしれない。これらは本当に恐ろしい時代である。しかし、主要なAI研究所が開発の猛スピードを緩めるために協調し、安全基準に合意し、「フロンティアの歩調を整える」よう求めるアモデイの呼びかけ――すぐにOpenAIのサム・アルトマン、イーロン・マスク、Google DeepMindのデミス・ハサビスが支持した――は、古いアメリカ企業の提案のハイテク版にすぎない。すなわち、共謀する企業からアメリカ経済を守るために設計された独占禁止法からの免除を得ることである。それは危険な考えだ。テック兄弟たちを独占禁止法の制約から解放し、彼らがAIの危険な欠陥を修正するために協力できるようにするというのは、この技術によって最も危険にさらされる日常のアメリカ人から権利を奪い、富、偉大さ、そして他にどんな空想的な目標かは知らないが、それを追求する中で、あまりにも気軽に多くの次元で危険の閾値を超え、実存的脅威を生み出したまさにその研究所をさらに力づけることになるだろう。画像を全画面で表示 イーロン・マスクとサム・アルトマン。写真：Getty Images アモデイらは、根底において、自分たちの事業が囚人のジレンマに陥っていると主張する。もし彼らが人工超知能の熱狂的な追求を一方的に緩めてより安全にしようとすれば、もちろん実存的リスクへの関心がより薄いライバルたちが先に到達し、人類にとって潜在的に壊滅的な結果をもたらすだろう。ましてや、ペダルを緩めた研究所の収益にも言及するまでもない。「減速は賢明に思える」と、トゥールーズ経済学院のノーベル賞受賞経済学者ジャン・ティロールは述べた。「しかしそれは、協調的な減速が実行可能かつ持続可能であることを前提としている。OpenAI、アンソロピック、あるいはGrokが、米国の不参加組――あるいは中国の研究所――が追いついてきていると結論づけたらどうなるのか。彼らはすぐに、おそらくは秘密裏に、再開するのか」。ビル・ゲイツが書いたように、「もし誰かがAIの進歩を世界的に減速させるための信頼できる計画を持っていたなら、私はおそらくそれを支持するだろう。しかし、それは起こるとは思わない。地政学的および経済的インセンティブが、全速力で進むようあまりにも強く押している」。その観点からすれば、政府が全員で減速するための友好的な合意を促すのは素晴らしいアイデアのように思えるかもしれない。そうではない。過度な競争が底辺への競争を駆り立てるという議論は、おそらく資本主義と同じくらい古く、環境劣化から児童労働まであらゆるものを説明するために使われてきた。しかしそれは、企業が思いのままに共謀する権利を与えることを正当化しない。それは、企業が社会的に有害な手段を用いて競争するのを防ぐための政府規制を策定せよという呼びかけである。さらに、過度な競争が無謀な行動を促すという主張は疑わしい。AI研究所は総取りの競争に従事しており、それは維持するのに並外れて高コストである。そこから無謀さが生じる。画像を全画面で表示 2026年1月、スイスのダボスで開催された世界経済フォーラム年次総会でのビル・ゲイツ。写真：Denis Balibouse/Reuters アモデイは非の打ちどころのない人物かもしれない。AI開発のペースを緩め、外部評価者を研究所に招き入れ、自らの運営の透明性を高めよという彼の呼びかけは、リスクへの誠実な懸念を示唆している。彼の提案が公表された後に主要テック株が下落したことは、彼が安全性向上のために経済的打撃を受ける用意があることを示唆している。しかし、アモデイが今年後半のアンソロピックのIPOで熱心に株を買い漁ることを期待している投資家たちは、それほど利他的ではないかもしれない。資本市場の震えは、兆ドル規模のAI投資競争を賄うための資金調達がより難しくなることを示唆しており、それは主要研究所のライバルに対する優位を抑制しかねない戦略を思いとどまらせるだろう。これらのインセンティブを考えれば、AIリーダーたちに共謀と自主規制の自由な手を与えるのは愚かであろう。 シカゴ大学ロースクールの独占禁止法専門家であるエリック・ポズナーは、我々は「一般に企業の動機について信頼すべきではない」と述べた。AI研究所が、放置されれば、必ずしも良い、社会的に受け入れ可能な結果を生み出すとは信じる理由はない。他のあらゆる企業と同様、彼らはリスクと利益を秤にかけるだろう。そしてポズナーが指摘したように、「彼らは公衆と同じ重みを使わない」。 では、どのように規制すべきか。トランプが在任中は、この面で何も起こらないだろう。彼が去った後でさえ、イノベーションを阻害することなくAIからの脅威に対処する効果的な規制を策定するのは難しいだろう。どのようなルールを使うのか、どのように執行するのか、誰に適用すべきなのかという疑問がある。そして一方的行動の危険は現実である。もし北京が参加を拒否したらどうなるのか。アメリカの研究所が減速する一方で中国のAI企業が突き進むリスクは何か。しかし、我々が原子力発電を規制できたのなら、おそらくAIも規制できる。 さらに、政府規制がなくても助けになり、競争を抑圧する必要もない実行可能なアイデアがある。AIシステムの安全性を向上させるイノベーションを促すために知的財産権を微調整する提案がある。安全イノベーションの発明者たちは、競合他社より先に新しいAIモデルを公開できるようにすることで報われるだろう。しかし安全強化は、すべての企業が直ちに利用できるようにされる。 懲罰的な側面では、法的責任制度が、害を引き起こしたAIツールの設計と展開から利益を得た企業を、たとえその害が意図的でなかったとしても処罰することで、AI開発者のインセンティブを変えるように設計されうる。例えば、Hugging Faceへの攻撃は、OpenAIのモデルが訓練中に誤って不正行為に対して報酬を与えられていなければ、防げたかもしれない。アモデイの提案が法的責任に言及していないという事実は、AIリーダーたちの安全への関心が収益への関心を上回っていないことを示唆している。 いずれにせよ、フロンティア研究所の支配を固め、そのレントを保護し、これまでの向こう見ずな戦略を是認することは、安全推進ではない。逆に、リーダーを減速させて後れを取っている者たちに追いつかせることは、望ましいイノベーションを招き、安全という次元で競争を促進することにより、AIエコシステムをより安全にする可能性が高い。 安全と競争の間に根本的な対立はない。この主張をしようとするAIの達人たちは、懐疑の目で見られるべきである。よくある質問 FAQ AI企業にフロンティアの歩調を整えるための共謀を許すこと 1 フロンティアの歩調を整えるとはどういう意味か それは、主要なAI企業が、より先進的なAIをどれだけ速く開発するかについて競争するのではなく協調し、最先端で意図的に減速するという考えである 2 誰がこれを提案しているのか 一部のAI研究者、経営者、安全擁護者が、かつてないほど強力なシステムへ向かう危険な競争のリスクを減らす方法としてこれを提起してきた 3 なぜこれが良いアイデアだと誰かが思うのか 企業が一緒に減速すれば、誰も決定的な先発優位を得られず、それが一番手になろうと急ぐ中で安全を犠牲にする圧力を減らしうるという議論である 4 なぜ危険なのか なぜなら、本来ライバルであるはずの競合他社がイノベーションのペースについて合意することを意味するからである。それは本質的に共謀であり、競争、消費者、社会を害しうる...