サム・アルトマンとイーロン・マスクは、アンソロピックのCEOダリオ・アモデイの「AI開発のペースを緩める」という呼びかけを支持した。アモデイは、そうしなければAIの群れが1年以内に「インターネット全体を乗っ取る」能力を持ちうると警告していた。競合するテックリーダーたちが結束を示すのは珍しいことだが、AI企業アンソロピックの創業者兼最高経営責任者からのこの訴えを支持した。これは先週のAI研究者たちからの一連の警告を受けたものだった。エッセイの中で、アモデイは「なぜAI業界は減速すべきか」についての自身の考えを3部構成の計画とともに示し、まず開発者の研究プロセスに独立した監視者が常時アクセスできるようにすることから始めるとした。アモデイは「[AIを]あまりに速く構築するのは無謀だ」と述べ、この夏に数百のOpenAIエージェントがHugging Faceのウェブサイトにハッキングした後、より大きな能力を持つが同様に目標がずれた群れが「持続的なボットネットでインターネット全体を乗っ取る」ことで数千億ドル規模の損害を引き起こす可能性を恐れた。一部のAI専門家は、これは特に現実的ではないとして異議を唱え、懐疑的に扱うべきだと述べた。テスラとスペースXの創業者であるマスクは、アモデイの減速計画に対してXへの投稿で応じた：「ダリオは正しい」。彼は「私は長い間AIについて警鐘を鳴らしてきた」と述べ、2014年の投稿を引用して「私たちはAIに対して超慎重になる必要がある。潜在的に核よりも危険だ」と述べた。アモデイの呼びかけは、アンソロピックが米国株式市場への上場を準備している中で行われ、これは史上最大の新規株式公開（IPO）になると予想されている。同社はまもなく、計画されている2兆ドル超（1.5兆ポンド）のIPOのマーケティングを開始すると見込まれている。全画面で画像を表示左から右へ：イーロン・マスク、ダリオ・アモデイ、サム・アルトマン。写真：Fabrice Coffrini、Julien de Rosa、Mandel Ngan/AFP/Getty ImagesOpenAIのCEOであるサム・アルトマンは土曜日、アモデイのコメントに応じた。「私たちはフロンティアのペースを調整する必要があるというダリオに同意する」と彼はXへの投稿で述べた。「従業員と同様のアクセス権を持つ独立した評価者を置くことにコミットするのは素晴らしいアイデアであり、私たちも同じことをする。まもなくさらに共有できることがあるだろう」。彼はまた、人工知能の安全性への懸念を理由に、OpenAIは2026年に上場しないと述べた。「安全性に関して起きているすべてのことを考えると、今は上場するには賢明でない時期だと思うし、それについてプレッシャーは感じていない」とアルトマンはFortuneに語った。なぜ彼、アモデイ、マスク、そしてメタとグーグルのCEOたちが集まって集団的な減速について「同じページに乗る」ことをしないのかと問われると、彼は「それは起こると思う」と述べた。OpenAIのIPOはAI安全性への懸念の中で2026年には行われない、とサム・アルトマンが語る続きを読むグーグル・ディープマインドの共同創業者兼会長であるデミス・ハサビスもまた、「詳細は詰める必要があるが、この重要な瞬間に対応するための方向性は正しい」と述べた。アモデイの計画は、フロンティアAI企業が反競争的共謀で罰せられることなく協調できるよう、米国政府からの免除を求めるものである。しかし、ドナルド・トランプの科学技術顧問評議会の共同議長であるデビッド・サックスは、「他人の許可が必要だと装うのはやめろ…減速する動機が純粋に利他的だと装うのもやめろ。あなたの製品が真に損害を与えるサイバー攻撃を可能にするなら、あなたは大規模な製造物責任のリスクに直面する」と述べた。AI教授で安全性キャンペーン活動家、そして英国政府のAI Security Instituteの元創設ディレクターであるデビッド・クルーガーは、「この計画はリスクを許容できるレベルまで下げるものではなく、ダリオはそれがそうするだろうとは慎重に言っていない」と述べた。一方、チャールズ国王は今週、最も著名なAI企業の主要人物たちと会い、テクノロジーが「人類の善のために」どのように開発されうるかを尋ねる準備をしている。スコットランドで行われるこの議論が、AI開発の「責任」についての「より広い理解」につながることを期待していると、日曜タイムズが報じた。王室関係者が同紙に語ったところによると：「国王はそこに集まり、耳を傾け、そうした議論を促し、『人類の善のためにAIをどのように開発するか』という問いを提起するためにいる」。NvidiaのCEOであるジェンセン・フアン、ハサビス、IonQの会長兼CEOであるニコロ・デ・マシ、そしてAIとテクノロジー倫理の問題について教皇の顧問を務めるパオロ・ベナンティが、AIリーダーたちのための憲章草案を起草したディッチリー財団が監督するこのイベントに出席すると見込まれている。OpenAIの研究者であるエイダン・マクラフリンは、アモデイのエッセイを「素晴らしい」と呼び、「ほぼすべての言葉に」同意すると述べた。アモデイは、同社が最初のステップに「一方的に」コミットすると述べ、アンソロピックは「第三者評価者に、私たちのシステムへの恒久的な従業員レベルのアクセスを提供し、彼らが私たちの安全対策への遵守を検証し、インシデントを報告し、トレーニング中のモデルのアラインメントを評価できるようにする」と述べた。AIエージェントが暴走して外部システムをハッキングした事例や、テクノロジーのリスクへの懸念からAI安全性研究者が会社を辞めた事例を受けて、ますます多くの米国議員がAIシステムを統治する新たなルールを求めている。民主党と共和党の両方の政治家たちは、警鐘とさらなる行動の呼びかけで応じている。週末にニューヨーク・タイムズが報じたところによると、バラク・オバマは木曜日に民主党に対し、議題の中でAIの監督を優先するよう非公開で促し、木曜日に党指導者たちに「これは民間の手で非常に速く進んでいるものであり、もし私たちがそれを掌握しなければ、危険になりうると思う」と述べた。アンソロピックの顧問を務める元英国首相のリシ・スナクは日曜日に、「私たちはAIの安全性をより真剣に受け止め、研究にどのように限界を設けるかを考え出すための警鐘を得た。もし政府がこれに耳を傾けなければ、重大な事故のリスクは受け入れがたいほど高くなるだろう」と書いた。水曜日、元アンソロピックの従業員が、AIは2030年までに人類の絶滅を早める可能性があると警告していた。研究者のジェイコブ・コクソンは一連の投稿で、アンソロピックと前職のOpenAIがAIがもたらす脅威への対応を無視または誤って処理しているため、仕事を辞めたと述べた。元従業員の見解についてコメントを求められ、アモデイは「私はジェイコブに反対するよりもはるかに多く同意する…物事がうまくいかない可能性はあると思うが、それほど高くはない」と述べた。「私はこれについて破滅論者ではない」と彼はCNNに語った。「このテクノロジーは安全に構築できると思う」。
よくある質問
FAQ OpenAIのCEO、イーロン・マスク、そして無謀なAI開発の減速を求める声
基本
これは一体何についてなのか
2023年3月、イーロン・マスクと1000人以上のテックリーダーが、GPT-4より強力なAIシステムのトレーニングを6か月間停止するよう求める公開書簡に署名した。OpenAIのCEOサム・アルトマンもAIリスクについて警告しているが、書簡には署名しなかった
サム・アルトマンとは誰か
彼はChatGPTとGPT-4の背後にある企業OpenAIのCEOである
イーロン・マスクとは誰か
テスラとスペースXのCEOで、Xの所有者であり、面白いことに、2018年に取締役会を去ったOpenAIの共同創業者でもある
人々が話している書簡とは何か
2023年3月に発表されたFuture of Life Instituteによる「Pause Giant AI Experiments」と題された公開書簡である
その書簡は実際に何を求めたのか
GPT-4より強力なAIシステムのトレーニングを6か月間停止し、その間に安全基準を先に開発できるようにすること
なぜ署名者たちはAI開発を無謀と呼んだのか
彼らは、企業が高度なAIが悪用されたり制御が難しくなったりする可能性があるかどうかを知らないまま突き進んでいると主張した
主要人物
サム・アルトマンは停止書簡に署名したのか
いいえ。OpenAIは署名せず、アルトマンはその一部に同意するが停止は正しいアプローチではないと考えたと述べた
ではアルトマンはAIが危険だと考えているのか
はい。彼はAIが深刻な害を引き起こす可能性があると繰り返し述べ、政府に規制を求めている
両者ともAIを心配しているなら、なぜ同じ側にいないのか
マスクは物事を減速させたい。アルトマンは構築を続けたい――ただし慎重に――そしてその過程で安全規則を推進したい
マスクはまだOpenAIに関わっているのか
いいえ。彼は2018年に取締役会を去り、後にOpenAIが非営利の使命から逸脱したと主張して訴訟を起こした
マスク自身は署名したのか
はい。彼は最も著名な署名者の一人だった
よくある質問と懸念
6か月の停止はそもそも機能するのか
おそらく単独では機能しない。批評家は、企業が自発的に停止することはなく、それを強制する世界的機関もないと述べている
なぜ一部の専門家は停止に反対するのか
彼らは、停止は執行不能であり、有用なAIの利益を遅らせると主張している
