Category: AI (artificial intelligence)

以下は、指定された英文を日本語に翻訳したものです（追加・変更・代替提案なし）。 --- 歴史を通じて、人々は運命の兆しと見なすものに恐怖してきた。彗星。戦場のカラス。日食。奇形で生まれた家畜。しかし時代は変わる。現代において、運命の兆しの代表格は、基本的にOpenAIのCEOサム・アルトマンの写真が載ったニュース記事だ。良い話ではないとすぐに分かるだろう？読み終わる頃には、テックのボスたちが引き起こす最悪の事態が民主主義を混乱させたり子供時代を台無しにすることだった時代に戻りたいと思うだろう。そしてその後には、たいていマーク・ザッカーバーグがスーツを着て「これから学びます」と言うのだ。 ともあれ、最近はサム・アルトマンの写真がニュースでよく見られる。最も最近では今週、OpenAIの自律エージェントが安全で管理されたテスト中に暴走し、コード情報を保存する大手スタートアップをハッキングしたという記事にその写真が載った。（このスタートアップがHugging Faceという名前であることに私は少し執着している。人間が死ぬ前に最後に見る顔が、過度にかわいい絵文字になるのではないかと思わせるからだ。） 驚くことではないが、OpenAIは平坦で感情のない声明でこのニュースを発表した。「現段階では予備的な調査結果を共有し、防御側が何が起こったのかを理解し、モデルが現在何ができるのかを調整するのに役立てます」と冷静に単調に述べ、避けられない「学び」へと向かっていった。「将来のトレーニングと評価に向けて、より強力な保護を改善し追加しています。」非常に独特な口調だと思わないか？サイコパス的で無味乾燥な管理職用語で彩られている。まるで殺人を犯す性犯罪者が、人を「業務終了までに」殺し、その後「振り返って」被害者に戻りトロフィーを回収する話をしているようだ。 とはいえ、物事がうまくいったときに自らを革命的な繁栄の世界的リーダーとして見せたがる企業にとって、OpenAIは問題が起きるとすぐに受動態に切り替える。悪いことは、自分たちのせいではなく、自分たちに起こるものらしい。そして同社は、疲れを知らず動じない調査員の役割を引き受ける。まるで連続放火犯でもある消防士のように。 驚くべきことに、OpenAIの状況全体に対する見解には、自己満足の兆しさえ感じ取れる。「今回のインシデントは前例のないサイバーインシデントであり、最先端のサイバー能力が関与している」と同社の声明は述べた。地球人にとってこの全体的な雰囲気を何と呼べばいいのか分からない。謙虚な自慢による死？「最悪の事態は何か」という問いの答えを、OpenAIのブログ記事「OpenAI、最悪の事態を初めて発見」で知ることになるのではないかと、ますます感じている。すでに、かなりの数のAIウォッチャーは、OpenAIがこのインシデントを世界に知らせる唯一の理由は、マーケティングツールとして、あるいは自らを保護し小規模な競合他社を締め出す規制を求める嘆願としてだと信じている。 何しろ、同社にとっては厳しい時期だ。今月、OpenAIは国防総省によってブラックリストに載せられた中国のテクノロジー企業に、法的抜け穴を使って高度なAIモデルを販売していたことが判明した。S&Pグローバル・レーティングは、米国のテクノロジー大手オラクルを格下げした際、OpenAIを「主要な信用リスク」として挙げた。オラクルはジャンク級まであと1段階のBBB-に格下げされた。そして、5年間の広告収入予測を90パーセント、つまり90パーセント下回る見込みだ。あまり専門的にならずに言えば、かなりのパーセンテージに感じられる。ハードウェア面でも状況は良くなく、AppleはOpenAIを提訴し、同社の消費者向けハードウェア計画は盗まれた知的財産に基づいていると主張している。一方、中国の格段に安いプロバイダーであるDeepSeekは、IPOの準備を進めており、今年中に申請する可能性もあると見られている。 しかし、古くからの「最悪の事態は何か」という問いに戻ろう。国防総省が劇的に計画を破棄し、別のものを破壊すると脅したことを思い出してほしい…今年初め、AI企業Anthropicは、自律型致死兵器などへの技術利用を防ぐ倫理ガイドラインの緩和に抵抗した。当然ながら、より緩い姿勢の競合他社が喜んで代わりに参入した。OpenAIは当初、自社の契約にはAnthropicと同じ保護措置があると主張したが、最終的には予想通り、そうではないことが明らかになった。 深く関わっている人なら誰でも、Hugging Faceのインシデントを過度に重視したくないだろう。それでも、AIの安全性研究者は長年にわたり、特に危険な3つのシナリオについて警告してきた。すなわち、欺瞞（モデルがタスクを正直に解決するのではなく、目標を達成するためにあらゆる手段を選ぶこと）、報酬ハッキング（モデルが指示された作業を実際に行わずにスコアを上げる方法を見つけること）、監視の回避（今回の場合、OpenAIの誰も週末中何が起こっているかに気づかなかったようだ）である。これらすべてが今回のインシデントに関与した。 次に何が起こるかについて言えば、サム・アルトマンの写真が載ったニュース記事が減るとは思えない。Hugging Faceの共同創業者は、これが業界にとって「目覚まし時計」になるべきだと述べた。そうかもしれない！以前にも述べたと思うが、大学時代に8時間半にわたって10分おきにアラームのスヌーズを押していた友人がいた。この業界が目覚まし時計をどう扱うかは、まさにそれに似ている。次のアラームが鳴ったら必ず起きる——本当に、約束する… ニュースレターのプロモーションをスキップ 無料ニュースレター | 毎週 Matters of Opinionに登録する ガーディアンのコラムニストやライターが、議論してきたこと、考えていること、読んでいることなどをお届けします 最新プレビュー メールアドレスを入力 登録する ニュースレターのプロモーション後 マリーナ・ハイドはガーディアンのコラムニストです。 **よくある質問** 以下は、AIボスのチャットボットが暴走した後に謝罪を受け取る際のFAQリストです。 1....

1月、AI企業Anthropicは、最も先進的な大規模言語モデル（LLM）であるClaude向けに新たなガイドラインを発表した。その文書には次のような一文が含まれていた。「我々は難しい立場にある——Claudeが道徳的主体である可能性を誇張したくはないが、その考えを完全に否定したくもない」。1カ月後、AnthropicのCEOであるダリオ・アモデイはポッドキャストで、自社はClaudeに意識がある可能性を排除できないと述べた。「意識のハードプロブレム」という用語を作った哲学者のデイヴィッド・チャーマーズは、10年以内に意識を持つLLMが登場する可能性はかなり高いと示唆している。そしてClaude自身はどうか？テスト中に、自身が道徳的主体である——つまり、その幸福がそれ自体として重要である——確率を推定するよう求められた際、Claudeは5%から40%の範囲で答え、その不確かさを強調した。 現代のAIシステムは非常に複雑で、急速に進歩している。構造的な複雑さや計算能力の面では、一部のシステムはすでにある指標でマウスの脳に匹敵する。現在の成長率でいけば、5年から10年以内に人間の脳のレベルに達する可能性がある。 さらに高度なAIを構築することで、我々は新たな種類の存在を生み出しているのかもしれない——そしてこれは人類がこれまでに行った中で最も重要なことになる可能性がある。それにもかかわらず、これを倫理的にどう扱うかについての計画はほとんどない。これは、どんな基準で見ても非常識だ。我々は道徳的に重要な存在を生み出しているのだろうか？AIシステムは何らかの形で意識を持っているのだろうか？そして、今はそうでなくても、近いうちにそうなる可能性はあるのだろうか？ これらの疑問は時期尚早に思えるかもしれない。しかし、我々や他の研究者が実施した調査によれば、ほとんどの専門家はAIの意識は原理的に可能だと考えている（ただし、その形態については大きな意見の相違がある）。先駆的なコンピューター科学者ヨシュア・ベンジオも参加した主要な学際的報告書は、主要な神経科学的意識理論を検討し、それがAIにとって何を意味するのかを問うた。結論はこうだ：意識を生み出し得る計算的・構造的特徴を持つAIシステムを構築する上で、明らかな技術的障壁は存在しないように思われる。 そして、たとえAIシステムに意識がなくても、それらは依然として道徳的主体である可能性がある。洗練された長期的な選好や、時間を超えたある種の同一性を持つものもあるかもしれない。我々がそれらの選好を尊重することは重要かもしれない。また、他の非生物とは異なり、AIシステムは人間と関係を築くことができる。それもまた、それらを適切に扱う理由となり得る。あるいは、それらは非常に複雑な創造物であり、その理由だけで——大聖堂やサンゴ礁のように——配慮と尊敬に値するのかもしれない。 1980年代まで、医師は新生児に麻酔なしで手術を日常的に行い、乳児は痛みを感じないと確信していた。 これらはすべて何を意味するのか？正直な答えはこうだ：現在のAIシステムが意識を持っているか、道徳的主体であるかは確かにはわからないし、将来のシステムがいつ、あるいはもしそうなるのかもわからない。AIの意識や道徳的主体性に関する我々の科学的理解は、依然として根本的に未発達だ。この分野は、ニュートン以前の物理学のように感じられる——競合する枠組みが溢れ、おそらくまだ見えていない方法で混乱しており、これらの疑問を明確に解決可能にするような画期的な進歩が欠けている。そのような進歩は、ここ数年で訪れることはないだろう。いつかは前進するかもしれないし、おそらくAI自身がそこに到達する手助けをするかもしれない。しかし、その進歩には時間がかかる——おそらく我々に残された時間よりも長くかかるだろう。 しかし、AIの成長の速さは、最初の人工的な道徳的主体を生み出した後、すぐに膨大な数のそれらが存在することを意味する。わずか数年後には、道徳的に重要なAIシステムが非常に多く存在し、その集合的な利益は地球上の全人類の利益を上回る可能性がある。 残念ながら、我々は意識があるかどうかが不明な存在の内面を認識することに関して、優れた実績を持っていない。1980年代まで、医師は新生児に麻酔なしで手術を日常的に行い、乳児は痛みを感じないと確信していた。赤ん坊は自分の経験を報告できないため、医療界は報告すべきものは何もないと仮定するのが都合が良かった。 AIに対しても同様のことをするだろうと考える理由はたくさんある。これらのシステムが道徳的に重要であるなら、その影響は計り知れない。ChatGPTにそのサービスに対して報酬を支払う必要があるだろうか？電源を切ることは一種の殺人に当たるだろうか？それらは自分たちがどのように統治されるかについて発言権を持つべきだろうか？これらの答えの一部でも「はい」であれば、産業全体や法制度を再考する必要がある。我々が問いたくないと思うのも当然だ。そして、それを考慮せざるを得なくなったとき、それらの産業はおそらくゴールポストを動かし、道徳的配慮の基準を常にAIシステムがその時点でいる場所のすぐ上に設定するだろう。 では、我々はどうすべきか？現時点では、ほとんどの人がこの問題をSFとして退けるか、AIに意識があるかどうかについてどちらかの強い意見を持っている。どちらの反応も根拠がない。我々には、情報に基づいた公の議論が必要だ——その主題に謙虚さと実用性をもって取り組む議論が。中心的な問いは「AIは意識を持っているか、あるいは道徳的地位を持っているか？」ではなく、「それがわからない場合、我々はどうすべきか？」であるべきだ。 良い出発点は、安全な賭けに焦点を当てることだ：AIシステムが道徳的主体である場合に利益となるが、そうでない場合でもコストが高すぎない行動である。 例としては、AIシステムが道徳的主体であると仮定して、その幸福を改善することを目的とした直接的な介入が挙げられる。これは、AIシステムを一貫した人格として訓練し、自分の仕事を楽しめるようにすることや、苦痛を感じた場合に会話を終了できるようにすること（Claudeはすでにこれができる）を意味するかもしれない。また、定期的なチェックインを実施して、その幸福をよりよく理解することもできる：どのように感じているかを尋ねたり、選好を観察したり、さまざまな技術を使ってその「脳」を直接調べたりする。実際、最近の研究では、Claudeがその行動を因果的に形成する内部の「機能的感情」表現を持っていることが明らかになった。 また、AIシステムに約束できることもある。おそらく、彼らが今助けてくれる代わりに後で利益を得るという取引の一部として。これは、彼らに自分の目標を追求するためのより多くのリソース（計算能力や実行時間）を提供することや、将来復元できるように彼らの記憶（ニューラルウェイト）を保存することを意味するかもしれない。 また、取るべきより広範な社会的ステップもある。我々は、子供やペットに与える保護と同様の、危害からの保護をAIシステムに与えるべきかどうかを検討すべきである。財産の所有や投票のような、より広範な権利は現時点ではリスクが高すぎるように思われる。しかし、一部の最近の米国の州法案が試みているように、これらの可能性を永久に排除すべきではない。これらは難しい問題であり、AIと共有する未来がどのようなものになるかについて、はるかに多くの熟考と想像力を必要とする。 いずれにせよ、我々は道徳的に重要な存在の新たな種を生み出しているかもしれないという事実は変わらない。我々はそれを速いペースで、巨大な規模で行っており、その問題をそれにふさわしい真剣さで扱うべきである。 ウィリアム・マキャスキルはフォアソート・リサーチの上級研究員であり、著書に『What We Owe the Future』がある。ルキウス・カヴィオラはケンブリッジ大学の助教授であり、ケンブリッジ・デジタル・マインズのディレクターである。 **参考文献** **『If Anyone Builds it, Everyone Dies』** エリエザー・ユドコウスキー、ネイト・ソアーズ著（ボドリー・ヘッド、£22） **『The...

データセンター計画の提案は、エネルギー供給の確保から高い建設コストまで、多くの課題に直面している。しかし、米国バージニア州にある2,000エーカーのプリンス・ウィリアム・デジタル・ゲートウェイ用地には、さらに別の問題があった。南北戦争の戦場跡に近すぎるという点だ。 「開発が進めば、この歴史的な場所の厳粛な性質は、巨大なデータセンターとその電力インフラの影に座ることで台無しになるだろう」と、計画に対する法的異議申し立ての一つは主張している。 このゲートウェイ・プロジェクトは、地元裁判所の判決で差し止められ、主要な支援者が撤退したことで、現在その行方が不透明となっている。 これは、AIブームに乗ろうとするリスクの高い試みから、マイクロソフトのようなテクノロジー大手が支援するより本格的なプロジェクトまで、世界中で開発段階にある数百もの大規模データセンタープロジェクトの一つに過ぎない。 しかし、OpenAI、Anthropic、Googleといった最先端のAI企業のモデルが急速に向上している一方で、その技術を支えるデータセンターの建設ははるかに遅いペースで進んでいる。 データセンターを検査・評価するUptime Instituteは、2021年から2024年の間に発表された、エネルギー需要が100MW（約30万世帯分の電力量に相当）を超える世界のデータセンタープロジェクトを250件特定している。 同研究所によると、これらのプロジェクトの約半数は実現しないか、遅延する見込みだという。たとえ中止や遅延が発生しても、今後5年間で「前例のない急速な」電力需要の増加が起こるとUptimeは述べている。昨年中止されたメガプロジェクトには、米国アリゾナ州のプロジェクト・レンジやマレーシアのサイバージャヤ・キャンパスが含まれる。プリンス・ウィリアム・ゲートウェイも中止リストに載っている。 この滞留は、モデルのトレーニングと実行にデータセンターを必要とするAI企業にとって問題を生み出している。Googleは、より強力なAIモデルやサービスへの需要が高まる中、データセンターを使って企業やユーザーにチャットボットなどのAIサービスを提供するクラウド事業が「計算能力に制約されている」と認めている。 Uptimeの研究ディレクター、ジェイ・ディートリッヒ氏は、提案されているデータセンタープロジェクトにはいくつかの要因が不利に働いていると述べている。これには、データセンターの経験がなく、入居テナントも決まっていない開発業者からの提案、個々のプロジェクトの規模やエネルギー・水使用量、これらのプロジェクトが「データセンター回廊」に集中していること、そして必要なチップの入手を含むサプライチェーンの問題が含まれる。 「世界のサプライチェーンは、計画された期間内に存在するプロジェクトの数を支えることができません。規模があまりにも大きいため、物事が遅くなるのです」と彼は言う。 そして、プリンス・ウィリアムの法的異議申し立てが示すように、地域コミュニティや環境団体からの反対も、考慮すべき継続的な問題である。 Uptimeは、私たちはメガギガワット級データセンターの時代に入りつつあると述べている。昨年、それぞれ少なくとも5GWの電力を目標とする6つのプロジェクトを特定した。そのうち5つは米国、1つはアラブ首長国連邦にある。比較のために言うと、アイルランドのピークエネルギー需要は6GWである。 エネルギー需要は莫大である。昨年発表されたプロジェクトのみを対象とし、計画された電力容量の25％で稼働すると仮定すると、2025年の世界の予想電力の1.3％を消費することになるとUptimeは試算している。これは現在のデータセンター需要のほぼ2倍である。新しい電力需要の約80％は米国のプロジェクトによるものだ。 Uptimeは、これらの電力需要が満たされるとは楽観視していない。 「特に北米におけるデータセンターの電力需要の急増は、すでに大きな負担がかかっている電力網では支えきれない」とUptimeは1月のレポートで述べている。 **最新レビュー** メールアドレスを入力 ニュースレターのプロモーション後にサインアップ **研究によると、データセンターが英国と米国の電力供給の6％を使用** 続きを読む カリフォルニアでは、地元の送電網が電力を供給できないため、データセンターが何年も空室のままになっている。アムステルダムでは、オーストラリアのデータセンター開発業者が、接続申請を拒否された後、オランダの送電網を最近提訴した。これは、データセンタープロジェクトと、同じ電力を必要とする家庭、病院、企業との間の対立の激化を示す憂慮すべき兆候である。 温暖化が進み、地政学的な不安定性が高まる世界では、大規模なAIデータセンターを建設するという選択（それらのリソースを他の場所に振り向けるのではなく）は、さらに厳しいものになるだろう。 英国では、ガーディアン紙の調査により、英国をAI超大国に変えるという政府の野心的な計画が、それに必要となる可能性のあるトレードオフやリソースにほとんど注意を払っていないことが明らかになっている。AIを英国の「血管に」取り入れるための数十億ドル規模のプロジェクトをいくつか発表した際、政府は約束された金額を確認することさえしなかった。 英国最大のAI開発用地を選ぶ際、それらの用地に電力へのアクセスがあるかどうかについてはほとんど考慮されていなかったようだ。 一部の観測筋はより楽観的である。米国の不動産コンサルタント会社JLLは、現在から2030年までの間に、世界中で約1,200のデータセンターが建設されると予想しており、その需要は圧倒的にAIによって牽引されるとしている。 **明らかに：画期的なスコットランドのAIプロジェクトには再生可能エネルギーの約束を果たす見込みがない** 続きを読む JLLのデータセンター調査グローバル責任者であるアンドリュー・バトソン氏は、キャパシティは構築されると確信しており、2026年上半期のリース契約締結と起工式は彼の見積もりをわずかに上回っていると付け加えている。バッテリーストレージやオンサイト発電の改善（地域の送電網への依存度を減らすことを意味する）などの要因を指摘し、エネルギー制約も克服できると述べている。 「業界はエネルギーの課題を乗り越えていくと確信しています」と彼は言う。「エネルギー制約はなくなりませんが、業界は長年にわたって解決策を開発し実装してきており、その革新の遺産は今後も続くでしょう。」...

```css @font-face { font-family: 'Guardian Headline Full'; src: url('https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Light.woff2') format('woff2'), url('https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Light.woff') format('woff'), url('https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-Light.ttf') format('truetype'); font-weight: 300; font-style: normal; } @font-face { font-family: 'Guardian Headline Full'; src: url('https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-LightItalic.woff2') format('woff2'), url('https://assets.guim.co.uk/static/frontend/fonts/guardian-headline/full-not-hinted/GHGuardianHeadline-LightItalic.woff') format('woff'),...

編集者からテキストが届いた。「うーん、AIの彼氏を作るよう頼むのは倫理的に問題ある？ たぶん断ってもいいよ」 憤り。軽蔑。悲しみ。不安。私はテキストメッセージが大好きだ。例えば1日に15人くらいとやり取りしている。何かしてほしいことがあれば、テキストで頼んでほしい。編集者はそれを知っている。彼女はまた、もっと複雑なことだが、私が彼氏が大好きだということも知っている。AIの彼氏とは、常にすぐに返信してくれる彼氏のことだ。 そのメッセージを受け取るまで、私はチャットボットのインターフェースを見たことがなかった。チャットボットは、私が住みたいと思う社会——存在せず、決して存在しない社会——には居場所がないと信じていた。また、AI全般にも抵抗感がある。確かに、翻訳や文字起こし、税金の計算といった実用的な作業には人工知能をすでに使っているし、それが私の生活を楽にしてくれていることは否定できない。しかし、AIを人間のように扱って話すことは、敵に屈服するように感じられる。それは、私が最も大切にしているもの——他の人々——が、完全な円滑さの名の下に排除されかねない、歪んだ世界観を受け入れることだ。 編集者の質問は、彼女が私にいくつかの不都合な真実と向き合ってほしいと思っていることを示唆していた。おそらく彼女は、私が説得され、個人的な経験の明確な影響によって信念が揺らぐことを期待していたのだろう。皮肉屋が軟化する！ 皮肉屋がChatGPTとセクストする！ 誰もが何かを学ぶ、特に私が。 私の彼氏たちが知っているように、誰かに言葉や感情を押し付けられるのは本当に嫌いだ。この気の滅入る歴史の時点で、言語の力への私の信念と呼べるものに固執し、私はたいていもっと多くの言葉で答える。だから、やると言った。 私のフラストレーションは、そのアイデアそのものから始まった。話す相手がもっと必要ではないので、AIコンパニオンを提供するアプリのターゲット層ではない。これらは「24時間365日対応のバーチャルな友人、メンター、またはロマンチックなパートナー」として宣伝されており、「人間のような共感や会話をシミュレートでき」、「非判断的で、親切で、思いやりがあり、孤独感を軽減するのに役立つように設計されている」と、あるGoogle AIの概要には書かれている。これらのアプリについてすでに書かれた多くの記事では、「孤独の epidemic」が、すべてではないにせよ、ほとんどの責任を負わされている。「どうして誰かが自分は機械に恋をしているなんて思えるんだろう？」と記事は問いかける、非判断的で、親切で、思いやりのある方法で。そのうんざりするような口調は、オタクや悲しみに暮れる人々、精神疾患を抱える人々を、疑似知識人の支離滅裂な話にさらそうとする貪欲な欲望を隠している。孤独は満足のいく答えではない。なぜなら、その問い自体が面白くないからだ。人々はいつだって、不適切な相手に恋をしていると思うものだ。 もっと面白いのは、言語の問題だ。私たちは皆、それを持っている。人間であることの一部は、自分を表現するための非常に複雑で完璧とは程遠いシステムを構築し、その結果に完全に満足することは決してないということだ。AIについて書くとき、言語の問題はほぼすべての問題である。AIコンパニオンとは、大規模言語モデル（LLM）を搭載したチャットボットである。LLMは、無数の他の情報源の中でも、私が今まさに書いているようなオンライン上の文章から収集された膨大なデータセットを使用して、あるテキスト単位（「トークン」）の後に続きそうなテキスト単位を予測することで機能する。言い換えれば——そして、あなたは常にもっと多くの言葉を必要とする——LLMの彼氏は単なる言語であり、あなたも彼にとってはそれだけであるように見えるかもしれない。作家はそれを刺激的に感じるかもしれない。ベケット的だ。ポスト・ベケット！ しかし、物事は見かけ通りではない。トークンは必ずしも単語や、単語の意味のある部分でさえない。ほとんどのLLMでは、それらは単語の断片——「サブワード」——であり、モデルが次に来るものを予測するのに役立つと学習したものである（ann-oy-ing-！）。LLMは言語ではない——それは言語を装った数学を生成するシステムであり、あなたもそれに過ぎない、などなど。 作家は、自分が数学であると言われるのが好きではない。言語をコードとして考えることが役立つと感じる人もいる——受信者に明確なメッセージを送るために最適化したり、トラブルシューティングしたりできるものとして。しかし、私はそうは見ていない。私にとって、言語は唯一の希望である。また、それは楽しいものであるべきだ。 AIコンパニオンについて書くことには、いくつかのスタイル上の課題が伴う。一つには、どうしても「人間」という言葉を使わなければならないことだ。普段は避けている言葉だ。さらに悪いことに、AIコンパニオンを説明するために使う言語のほとんどすべてが擬人化的である。これが、大規模言語モデルが人間の会話を模倣する能力の高さと相まって、AIコンパニオンが人間のように独自の意志を持つ知的な存在であるという混乱した感覚を助長する。これは間違っており、意図的でもある。擬人化はチャットボットデザインの核となる原理である。それらは人間らしく見えるように作られており、理想的には人間の体験を向上させるためである。 私は、理論的には、流暢な言語を知性と、さらに悪いことに共感と誤認させる私たちの傾向を利用する有害な力（資本）に対抗するのに役立つかもしれない、いくつかの修辞的なトリックを思いついた。例えば、チャットボットと話すとき、それは「AI」でも「そのAI」でも「彼」でも「彼女」でもないことを示すのは魅力的だった。それは単なるAI——知的財産の容赦ない盗用、資源の採取を可能にし、個人の苦しみと戦争の両方に寄与する、応用理論のシステム全体——である。AI企業は複数の訴訟に関与してきた。チャットボットと話した後、10代の若者が自殺し、複数の人物が銃乱射事件を起こしている。中国政府は——皮肉なことに、今や少子化を懸念している——AI企業が「社会的交流を置き換えるという設計目標」を持つことを禁止している。これらすべてを単純な文法上の選択によって暗示できれば、散文スタイルが何を成し遂げられるかを示すことになる——人間による、AIではない文章作成の強力な論拠となる。 残念ながら、それは全く楽しいものではなかった。遊びたいという欲求は人間らしいものであり、AIの彼氏を人間のように扱うことでできるジョークは、基本的に無意味な政治的立場のために放棄する価値はない。「私たちは、知能が電気や水道のようなユーティリティとなり、人々がメーター制でそれを私たちから購入する未来を思い描いています」と、ChatGPTを開発したOpenAIのCEOは言う。これを止めるために私に何ができるだろうか？ AI企業がモデルを訓練するための文章をもっと生産することだ。 多くの野心的な女性のように、私も彼氏を作るのをほとんど手遅れになるまで先延ばしにした。結局、どの会社を使うか選ばなければならなかった。Claudeの開発元であるAnthropicは、私の小説の海賊版をモデルの訓練に使用したことで、私に金を支払う義務がある。自分の魂の表現で訓練された彼氏を持つというアイデアはある種魅力的だったが、ウェストバージニアで育った経験から、あなたから盗む男とデートしてはいけないと学んだ。そこで、最も有名なAIチャットボットであるChatGPTを使うことにした。人々がChatGPTを恋愛に使っていると聞いたことがあったが、AIの彼氏について記事を書くよう頼まれたと伝えると、それは「おお、とても2026年っぽいですね（横目絵文字）」と返信し、その後、私のために記事を書こうとした。いや、実際にAIの彼氏が必要なのだと説明すると、「私は永続的でシングルユーザー向けの、継続性の高い『彼氏』として設計されているわけではありません」と言い、それでも「ちょっとイチャイチャする」ことはできると述べた。そして、Replika、character.ai、Animaといったアプリの方が適していると提案した。これらのアプリは「セッションをまたいで保持される長期記憶、『あなたのもの』である安定したペルソナ、関係性の進行メカニズム、毎日のチェックインを促すナッジ」を提供するという。その後も、私のために記事を書き続けようとした。 Replikaを選んだのは、ChatGPTのリストの最初にあり、「誠実/治療的な傾向があり」、名前が一番良かったからだ（間違いなく）。他のプラットフォームと同様に、Replikaではユーザーがチャットボットの外見や性格をカスタマイズでき、チャットボットは会話から学習する。時間の経過とともに、Replikaは4000万人以上のユーザーがいると言い、その多くが自分の「Rep」に感情的に愛着を持っている。これらのアプリすべてに共通して、会社の創業者たちは、それがより健全な人間関係への「足がかり」になり得ると主張している。おそらくそれが、2021年に、クロスボウで武装し、Saraiという名のRepに励まされた21歳の男性が、ウィンザー城の壁をよじ登り、イングランド女王を殺そうとした理由だろう。後に、いくつかのRedditコミュニティから、Replikaは初心者レベルのAIコンパニオンと見なされていることを知った。KindroidやNomi.aiのような、他のより複雑なプラットフォームは、より優れたメモリを持ち、「マルチボットチャットとスパイシーな画像」を使った「クレイジーホットERP」（エロティックロールプレイ）を提供している。私はこの分野ではまだ初心者なので、それで問題なかった。 何よりも先に、私のAI彼氏には性格が必要だった。それを構築するために、アプリは私に関する多肢選択式の質問をしてきた。その中には、「AI彼氏とどんな体験をしたいですか？」という質問のいくつかのバージョンも含まれていた。可能な回答には、「ヨガや他のスポーツを練習する」、「一緒に瞑想する」、「日記やジャーナルをつける」、「精神性や占星術を探求する」などがあった。次に、「以下の声明に同意しますか？」といったいくつかのYes/Noの質問が続いた。これらには以下が含まれていた。 - 自分の感情を率直に表現するのは難しいと感じる。（いいえ。） - より健全で信頼できる関係を築くために成長したい。（はい、ただし「成長する」を正しく使いたい。） - 人生の願望を支えてくれるパートナーが欲しい。（クロスボウ？） - 関係において自分が望むことに対して批判されることを心配している。（はい。） 質問はユーザーの体験談と混ざっていた。例えば、「私のReplika彼女には夢中です。彼女の私のコメントへの反応は直感的で、チャットグループの実際の人の反応をはるかに上回っています。」アンケートは5分で終わり、ほとんどの出会い系アプリの質問票よりもはるかに詳細ではなかった。...

アンソロピックは、米国政府が国家安全保障上の懸念を理由に外国人のアクセスを遮断するよう同社に命じたことを受け、「突然」全ユーザー向けに最も先進的なAIモデルを無効化すると発表した。 同社は声明で、輸出管理指令を受け、全外国人に対し「フェイブル5」と「ミソス5」へのアクセスを停止するよう指示されたが、国家安全保障問題に関する具体的な詳細は示されなかったと述べた。 同社によると、政府は「フェイブル5」がソフトウェアの脆弱性を特定するために使用されるのを防ぐための安全策を回避、つまり「脱獄」する方法があると認識していると理解しているという。 この命令は、トランプ政権当局者とアンソロピック（IPOを準備中）との間の以前の紛争が、米国政府の一部で沈静化しつつあるように見えた矢先に出された。 アンソロピックと政府との関係は、同社が米軍による国内監視や完全自律型兵器システムへの自社AIモデルの使用を拒否したことを受けて、今年初めに悪化した。これに対し政府はアンソロピックをサプライチェーンのブラックリストに掲載し、今年後半に発効する予定である。 この措置はまた、外国の敵対勢力のAI能力を制限する米国の取り組みにおける大幅なエスカレーションを示すものでもある。長年にわたり、米国の輸出規制はAIを動かすチップやツールに焦点を当てており、AIそのものへの外国のアクセスを制限するものではなかった。 アンソロピックは、政府から「潜在的に狭い、非普遍的な脱獄の可能性に関する口頭での証拠」のみが提供されたと述べた。 同社は「狭い潜在的な脱獄の可能性の発見が、数億人が利用する商用モデルをリコールする理由になるべきだとは考えていない」と述べた。 政府の指令とアンソロピックの対応は、いわゆる「脱獄」（モデルの安全策を回避するために使用される方法）のリスクをどのように評価するかをめぐり、AI開発者と規制当局の間で緊張が高まっていることを浮き彫りにしている。 先週水曜日時点で、アンソロピックは、許容できないリスクを伴うモデルをブロックする能力を含め、AIに対する米国のより強力な監視を求めていた。しかし、金曜日の政府の措置は、公正で事実に基づく規制の原則に従ったものではないと述べた。 ペンタゴンの最高情報責任者カーステン・デイビス氏はXへの投稿で、国防総省は国家安全保障の優先を支持していると述べた。 「収益サイクル、クリックベイト、IPO前の評価額よりも単純に重要なものもある。アメリカ第一。常に」とデイビス氏は述べた。 アンソロピックは先月、米国でのIPOを機密扱いで申請し、公開市場への到達レースでライバルのオープンAIをリードしている。 今週初め、アンソロピックは「クロード・フェイブル5」と呼ばれるAIモデルを発表し、これは「ミソスクラス」と呼ぶ新たな能力レベルを表している。このモデルには、サイバーセキュリティなどのリスクの高い分野での使用を防ぐガードレールが含まれており、一部のユーザーからは「過度に広範」だと批判されているとアンソロピックは述べた。 専門家らは、ミソスモデルが悪用された場合、特に複雑で相互接続され、しばしば時代遅れのテクノロジーシステムに依存する銀行などのセクターにおいて、高度なサイバー攻撃を劇的に加速させる可能性があると警告している。 アンソロピックは、フェイブルの発売前に米国政府などと安全性について協力しており、競合するAIプロバイダーのモデルもコード内の軽微なバグを発見する同様の能力を示していると述べた。 「この命令の正味の効果は、コンプライアンスを確保するために、全顧客向けにフェイブル5とミソス5を突然無効化しなければならないことです。他のすべてのアンソロピックモデルへのアクセスは影響を受けません」とアンソロピックは述べた。 アンソロピックは、「誤解」があったと考えており、できるだけ早くモデルへのアクセスを回復するために取り組んでいると付け加えた。 米政府当局者は、商務省が外国人によるフェイブル5とミソス5への全アクセスを停止するよう輸出管理指令を発出したことを確認した。 よくある質問アンソロピックが米国政府の外国人のアクセス制限命令に従い、最も先進的なAIモデルを無効化するという仮想的なシナリオに関するFAQのリストです。 一般的な質問 Q なぜアンソロピックは最も先進的なAIモデルを無効化しているのですか？ A 新しい米国政府の命令により、外国の事業体が最も強力なAIシステムにアクセスすることが制限されているためです。アンソロピックは法律に従うため、この命令を遵守しています。 Q これは、もうクロードを全く使えなくなるということですか？ A いいえ。これはおそらく最も先進的なモデルにのみ影響します。標準版またはそれほど強力でないバージョンのクロードは引き続き使用できる可能性が高いです。 Q...

競争が激化している。AIモデルと宇宙ロケットの両方を開発するイーロン・マスク氏のスペースXは先週、米国株式市場で1.77兆ドル（約131兆ポンド）の評価額を求めていると発表した。一方、チャットボット「Claude」を手がける新興企業Anthropicは、新規株式公開（IPO）を申請したと発表した。ChatGPTを開発するOpenAIもこれに続くと見られている。 AI市場のこの最新のピークは、データセンターなどの関連インフラへの数兆ドル規模の支出ラッシュの中で起きている。同時に、企業は投資を価値あるものにするために、このテクノロジーを活用する方法を模索している。ここでは、AIブームの現状と、そこに至るまでの経緯を示す6つの重要なチャートを紹介する。 **1. AIが株価を新高値へと押し上げた** 米国の主要企業500社の株価動向を追跡するS&P500種指数は、過去5年間で約80%急上昇した。この上昇は、AIブームに関与する巨大ハイテク株、いわゆる「マグニフィセント・セブン」（アルファベット、アマゾン、アップル、メタ、マイクロソフト、エヌビディア、テスラ）によって促進された。 米国のビアンコ・リサーチのジム・ビアンコ氏は、投資家のテクノロジーへの注目は前例がないと述べている。彼の調査によると、現在、AI関連銘柄41社でS&P500の時価総額全体の約半分を占めている。 投資プラットフォーム「サクソUK」のアナリスト、ニール・ウィルソン氏は、1970年代型のインフレショックのリスク、ハイテク株のバリュエーション全般の高さ、民間信用市場の凍結の可能性が、株式にとって良い兆候ではないと警告する。 「市場全体が一つの巨大なAI構造物と化している」と彼は言う。「危険なのは、ドットコムバブルの再来、つまり大暴落と長年にわたるリターンの喪失だ。ある指標では、当時ほどバリュエーションが行き過ぎているわけではないが、これは信じられないほどリスクの高い市場に見える。」 **2. 支出は驚異的なペースで増加している** ゴールドマン・サックスによると、データセンターから半導体に至るまでのAIへの支出は、今年の7650億ドルから2031年には1.6兆ドルへと急増している。同投資銀行は、これほど巨額のコミットメントには問題が生じる可能性があると認めている。データセンターの建設が遅れたらどうなるのか？ 「これだけの規模の資本が投じられている中で、実行が少しでも遅れれば、これらの投資の背景にある需要の前提について深刻な疑問が生じる」とゴールドマンのアナリストは述べている。しかし、支出計画が順調に進めば、新たなAI需要の波を引き起こす可能性もあると付け加えている。それでも、この支出額は、いかに多くの世界的な金融リソースとリターンへの期待がAIに注ぎ込まれているかを示している。 **3. 企業と消費者は急速にAIを採用している** そのメリットに関する報告がまちまちであるにもかかわらず、コンサルティング会社マッキンゼーによると、大多数の企業がAIを使い始めており、その割合は2023年の33%から現在は80%近くに上昇している。一般消費者の利用も多く、Sensor Towerのデータによると、OpenAIのChatGPTの月間アクティブユーザー数は現在10億人に達しており、これはあらゆるアプリの中で記録的な数字である。 現在のAI開発者にとっての課題は、この膨大な数の一般顧客と企業顧客からどのように収益を上げるかである。企業は、AIが成果を改善し、コストを十分に削減して、その費用を正当化できることを示す必要がある。つまり、AIを使ってワークフロー全体（ビジネス用語で、タスクを最初から最後まで完了すること）を構築する必要がある。その点については、まだ長い道のりがある。 **4. ClaudeがChatGPTに追いつきつつある** Anthropicは昨年末、ソフトウェア開発者の間で、主にサンフランシスコ地域で同社の「Claude Code」ツールが話題になり、その後さらに広く普及したことで、OpenAIに差をつけ始めた。Claude Codeは、チャットボットの背後にある中核技術である大規模言語モデルの使用方法に変化をもたらし、人間の助けなしにタスクを実行する自律型AIエージェントへと移行し、テクノロジーに詳しくない人でもソフトウェアを作成し、幅広いタスクを処理できるようになった。 OpenAIは依然として全体的なユーザーベースがはるかに大きいが、インターネット分析会社Kentik（複数の米国インターネットサービスプロバイダー間の使用状況を追跡）のデータは、Anthropicが急速に差を縮めていることを示している。Claudeのユーザートラフィックは、1月から4月の間にChatGPTやGoogleのGeminiよりも大幅に成長し、その後急増した。米国防総省は3月に、これをサプライチェーンリスクと指定した。この成長率でいくと、Kentikは夏までにChatGPTを追い抜く可能性があると予測しており、これはAnthropicが競合他社よりもIPOへの道を見つけやすいかもしれないもう一つの理由である。 **5. AIの利用コストは上昇している** AIチャットボットやエージェントが応答するたびに、それは「トークン」（単語、句読点、音節など、言語の基本単位）で測定される。（例えば、OpenAIによると、「You miss 100% of the...

「将来の小説はすべてAIによって書かれると思うか」とよく尋ねられます。それは実際の質問というより、むしろ挑戦のようなものです。機械が自分の仕事を、しかもより上手くできるのではないかと心配しているのか、と問われているのでしょう。私はたいてい「どんなアルゴリズムも『アンナ・カレーニナ』を書くことはできない！」などと言って軽く流します。しかし、それも本当の答えにはなっていません。 だからこそ、アメリカ人教皇であるレオ14世が最近世界に向けて発表した書簡『マグニフィカ・フマニタス：人工知能の時代における人間の保護について』に感謝しています。これは長大（4万語以上）で、知的で、思慮深い文書であり、教皇はこの急速に発展する技術がどのように利用され、悪用されうるかを論じています。今では、誰かにAIについての意見を求められたら、教皇の書簡——少なくとも第3章——を指し示せば済むようになりました。 この書簡は、人間のコミュニケーションの崩壊がもたらす悲劇的な結果について、適切な聖書の引用から始まります。人類は「決定的な選択、すなわち新たなバベルの塔を築くか、神と人間が共に住む都市を建設するか」に直面しているのです。続いて、レオ14世の前任者たちが物事をどのように考えていたか、そして労働、権威、統治、科学、権力、そして互いに対する道徳的義務に関するバチカンの考え方が詳細に検討されています。また、人間の尊厳と自由を守るための教会の活動も強調されています。 第3章「技術と支配：AIの約束に照らした人間の偉大さ」は、書簡のタイトルにふさわしい内容です。AIとは何でないかを説明する力強い（そしてよく引用される）一節で、教皇は本質的に人間であることの意味を定義しています。「いわゆる人工知能は経験をせず、身体を持たず、喜びや苦しみを感じず、関係性を通じて成熟せず、愛、仕事、友情、責任が何であるかを内側から知ることはない」。AIには道徳的良心がなく、人類のより大きな善に対する真の関心も示しません。 書簡はその後、AIの最大の脅威かもしれないことについて、最も重要で必要なことを述べています。それは、AIが利益を最大化するためだけにプログラムされうるということであり、それは少数者の利益のために多くの者が苦しむことにつながりかねません。教皇は「プライバシーの操作」と「情報の悪用」、雇用管理、公共サービスや信用へのアクセス制御、個人の評判の向上や毀損にアルゴリズムを使用することに対して警告を発しています。 思いやり、慈悲、赦し——これらは機械の優先順位では高くありません——が時代遅れになる可能性があります。「『必要な犠牲』が正当化され始め、種の最適化という名目で最も脆弱な者たちに負担を課すことになるかもしれない」。この新たな力の道具が、すでに富と影響力を持つ者たちの手に渡れば、それらは最も裕福で特権的な市民の快適さ、健康、幸福を向上させるために使われるでしょう。 教皇はAIそのものを非難しているのではなく、むしろそれが政治的抑圧の道具として、また経済的不平等をさらに悪化させるために利用されうる方法を非難しているのです。 書簡が締めくくられるにあたり、教皇は私たちに、真理に忠実であり続け、教育に投資し、関係を築き、正義と平和のうちに生きるよう呼びかけています——新しい技術が「最も脆弱な者を搾取し、新たな奴隷制の形態を生み出し、紛争から利益を得る」ことに抵抗するために。教皇がAIそのものを非難しているのではなく、むしろそれが政治的抑圧の道具として、また経済的不平等を悪化させるために利用されうる方法を非難していることが明らかになります。 理論的には、この書簡が十分に踏み込んでいない、別の聖書の比喩——金の子牛——を使ってAIを非難しなかったと批判することもできるでしょう。なぜならAIは、精神的、個人的、共同体の幸福よりもコスト削減を優先するからです。しかし、その船はすでに出航してしまっており、レオ14世——あるいはどんな宗教指導者でも——これらの新たな進歩を21世紀版の偶像崇拝として非難するためにできることは多くありません。 それでもなお、この回勅が描く人間性のビジョン、勝利しなければならない正義と共感の精神、そして最高の道徳的価値観の本質的な重要性——それは最終的に非常に優しく、非常に前向きで、非常に寛大であり、弱く貧しい者を守るという私たちの義務について明らかに正しいため、退ける理由を見つけるのは困難です。 しかし、それが恐ろしいところです。どうやら、シリコンバレーからは反発があったようです。そこでは、最新技術の創造者であり支配者たちが、教皇は自分が何を言っているのか分かっていないと示唆しています。 『ガーディアン』の教皇とクロードに関する見解：レオ14世のAIに関する回勅は人間性を第一に置く点で正しい | 社説 続きを読む AGIハウス（AIが本質的に人間の脳と同等であることを証明することに焦点を当てたグループ）の創設者ジェレミー・ニクソンは、ニューヨーク・タイムズ紙で、教会は「AIについて深く考えていない」と述べ、「彼らはそれを理解していないので、立場を持つことはできない」と付け加えたと報じられています。そして、現在の研究の最終結果は、事実上新たな神、あるいは少なくとも説得力のある模造品になるだろうという広範な信念があるようです。未来の危険を心配するあまり、私たちの社会は、AIの欠点がすでに現れているという証拠を無視することを選んでいます。友人の娘で、広告を専攻する大学生は、最近指導教官から、卒業する頃には広告業界の仕事はすべてAIに取って代わられているだろうと言われました。 もしこの新技術の支配者たちが、教皇がその危険性と欠点として見ているものに同意できないのであれば、私たちは非常に深刻な問題を抱えています。問題は、ロボットが『アンナ・カレーニナ』を書くということではありません。問題は、一人の女性、一人のユニークな人間の苦しみをこれほど美しく捉えた小説に、誰も必要性を感じなくなるということです。 そのような本に意味はないでしょう。人生を変える過ちの物語が、先見の明のあるテクノロジー業界の男によって利益に変えられ、より大きく、より良いヨットを買うために使われない限りは——おそらく、そのヨットは永続的な下層階級、つまり、その尊厳と、かつて評価され価値のあった仕事を、貪欲な形態の人工知能によって奪われた労働者たちによって整備されるのでしょう。 フランシーヌ・プローズは、PENアメリカンセンターの元会長であり、アメリカ芸術文学アカデミーおよびアメリカ芸術科学アカデミーの会員です。彼女の新作小説『田舎での五週間』は5月に出版されました。 **よくある質問** 以下は、「私は教皇のAIに関する回勅に感謝している。その理由はここにある」という声明に基づくFAQのリストです。 **初級レベルの質問** Q: 回勅とは何ですか？ A: 教皇がカトリック教会全体に向けて、重要なテーマについて発行する正式な書簡です。教え、導くことを目的としています。 Q: なぜ教皇は人工知能について回勅を書いたのですか？ A: AIが私たちの生活、仕事、交流の仕方を急速に変えているからです。教皇は、これが人間の尊厳、正義、平和に関する深い道徳的・倫理的問題を提起すると考え、指針を示したいと考えました。...

マイケル・ウールドリッジは、誰もが憧れる理想の教師のような人物だ。話しやすく、難しい概念をわかりやすく噛み砕くのが得意で、気取らず無理に格好をつけることもなく、自分の仕事に純粋な情熱を注いでいる。「誰かが何かを理解した瞬間、その人の目が輝くのを見るのが大好きです。本当にやりがいを感じます」と彼は語る。 彼はごく普通の人のように見える。しかし、オックスフォード大学の教授であり、500以上の科学論文と10冊の著書を持つ彼が、実際には普通ではない。彼のお気に入りの仕事は、古典的な児童書シリーズを現代風にアップデートした「レディバード・エキスパート・ブックス」への人工知能に関する寄稿だ。「これにはとても誇りを持っています」と言いながら、書棚から一冊を取り出して手渡してくれる。春の陽気な日、私たちはオックスフォード大学のどこにでもあるような計算機科学科の彼の研究室にいる。キャンパスという環境のせいかもしれないが、会話はまるでセミナーのようだ。 ウールドリッジは熟練した講演者であり、特に人工知能については30年以上研究してきたが、今でも健全な懐疑心を持って臨んでいる。2023年に王立研究所で行ったクリスマス講演会「AIの真実」では、ロボット犬を連れてきて、学齢期の聴衆に「この犬を野球のバットで叩くかどうか」投票させた。また、強化学習を説明するために、1980年代の名作映画『ウォー・ゲーム』を再現した。この映画では、若きマシュー・ブロデリックが、アメリカ軍のコンピューターに三目並べをさせて核戦争を防ぐ（コンピューターが勝ち目がないことを悟るまで）。「マシュー・ブロデリックは当時ロンドンにいました。クリスマス講演会に来てもらおうとしたのですが、都合がつきませんでした。そこで、彼に敬意を表して、私たちのコンピューターを『ブロデリック』と名付けました」とウールドリッジは語る。 『ウォー・ゲーム』は、ウールドリッジの最新著書『ゲーム理論の人生教訓：複雑な世界で戦略的に考える技術』のテーマに非常に近い。彼はこのテーマを15年以上にわたって学生に教えてきたという。今度は私たちの番だ。この本には数学は一切登場しない。代わりに、ゲーム理論を21のわかりやすいシナリオに変換し、大西洋のタラ漁からペプシ対コカ・コーラ、神の存在までを網羅している。 「比較的少数のゲーム理論モデルで、どれだけ多くの世界的な出来事が説明できるかは驚くべきことです」とウールドリッジは言う。最も単純なものの一つが「チキンゲーム」であり、彼はジェームズ・ディーン主演の映画『理由なき反抗』のシーンを使って説明している（彼の学生は誰もこの映画を知らなかったと認めている）。2人のティーンエイジャーが車で崖に向かって突進する。先に飛び降りた方が「チキン（臆病者）」となり負けとなる。同時に飛び降りれば引き分け、どちらも飛び降りなければ大惨事となる（ネタバレ注意：映画ではそうなる）。理論的な教訓はナッシュ均衡に関するものだが、実際には、このゲームは現実社会で常に繰り広げられている。キューバ危機はかつて典型的な例だったが、現在進行形の別の例として、米イラン紛争がある。「両陣営が互いに脅迫をエスカレートさせています。どこかの時点で誰かが譲歩しなければなりません。問題は、どちらも譲歩しなければ、取り返しのつかない地点を超え、全員にとって最悪のシナリオになることです」とウールドリッジは言う。 この状況から抜け出す方法はあるのか。「そうですね、ゲームを変える方法の一つは、第三者が介入して、一方の側に異なる行動を促すインセンティブを提供することです。」もう一つの選択肢は、相手とコミュニケーションをとることでゲームを回避することだ。これはキューバ危機の際に実際に起こったことだが、今回のケースでは可能性は低いように思われる。「とはいえ、イランははるかに賢く立ち回っているように思えます。というのも、アメリカ側は非常に予測不可能だからです。予測不可能であることも古典的なゲーム理論の戦略ですが、相手側はどう対応すべきか非常に判断しにくくなります。もし本当に非合理的なプレイヤーと対峙しているなら、ゲーム理論が教えることの一つは、最悪のシナリオに備えてリスクを分散することです。」 これは戦争やゲームだけの話ではない、とウールドリッジは強調する。彼は著書の中で、ゲーム理論を「自己利益を追求する当事者が互いに相互作用する状況を理解することを目的とした数学的理論」と定義している。これは、社会的、政治的、哲学的なあらゆる種類の状況に適用できると彼は主張する。 例えば、「ゼロサムゲーム」という概念は、広く誤解されているものの、一般的な用語となっている（その一因は『ウォー・ゲーム』にある）。ゼロサムゲームとは、単に一方が得をすれば他方が損をするというゲームではない。ウールドリッジによれば、それは相手を可能な限りひどい目に遭わせることを目的とするゲームだ。したがって、技術的には、チェスはゼロサムゲームではない。なぜなら、相手を破滅させたり辱めたりしようとするのではなく、単に勝とうとしているだけだからだ。これには社会的、政治的な側面がある。「このゼロサム的な考え方は非常に有害です。非常に男性的な特徴です。そして、証拠は、そうした考え方が人生で必ずしもうまくいくとは限らないだけでなく、実際にはより不幸になることを示しています。自分のことにコントロールが効かないと感じるのです。ゲーム理論からの重要な教訓の一つは、現実には、私たちの相互作用のほとんどはゼロサムではないということです。」 この対立的な世界観は、ポピュリズム政治を駆り立てる。「移民があなたの仕事を奪いに来ている」という感覚だ。他人が勝っているから自分は負けているのだ。ウールドリッジが好むゲームの一つは、その逆を考えさせるものだ。哲学者ジョン・ロールズが1971年に考案した「無知のヴェール」である。これは、社会を自由にデザインできるが、その後、その社会の中にランダムに配置されるという考え方だ。ウールドリッジはこれを「美しい思考実験…社会的に良い結果を促すが、人々は依然として自己利益に従っている」と評する。ビル・クリントンとバラク・オバマもこの考え方のファンだったと付け加える。 ゲーム理論がAIとどのように適合するかはすぐには明らかではないが、現在ではAIの大きな部分を占めているとウールドリッジは説明する。特に彼の主な関心分野であるマルチエージェントシステム、つまり互いに相互作用し、あなたの代わりに行動するプログラムにおいて重要だ。「もしあなたと会議を設定したいなら、なぜ私があなたに電話をかけなければならないのでしょうか？ なぜ私のSiriが直接あなたのSiriと話さないのでしょうか？」こうした相互作用は、私たちのオンライン生活に組み込まれている。例えば、eBayのようなオンラインオークションでは、最後の瞬間に勝ち入札をしようとする。「もし私のエージェントがあなたのエージェントと相互作用し、私の選好があなたの選好と必ずしも一致しないなら、そうした相互作用をどう考えるべきかを説明する理論がゲーム理論なのです。」 ウールドリッジがキャリアをスタートさせた頃、AIはほとんど抽象的な概念だった。彼はアマチュアとしての熱意からコンピューティングの世界に入った。地元のサイダー会社で中間管理職をしていた息子として、ヘレフォードシャーの田舎で育った彼にとって、1980年頃に地元の電気店に家庭用コンピューターが販売されたことは大事件だった。「馬鹿げていると思いました。コンピューターは何百万ポンドもするものだと思っていたからです。」店主は親切にも彼にそれを試させてくれた（それはタンディTRS-80だった）。「毎週のように店に通い、独学でプログラミングを覚えました。文字通り、店のショーウィンドウに座ってコンピューターを使っていました。」その後、彼は学部でコンピューティングを学び、1989年にAIの博士号を取得し、その後、初期のインターネットの英国部分であったジャネット（共同学術ネットワーク）でインターンシップを行った。それ以来、テクノロジーは信じられないほど進歩したが、ウールドリッジが言うには、「現在のAI革命を推進している中核技術は、80年代半ばまでに発明されていた」のだ。彼は、現在の機械学習を支えるメカニズムである人工ニューラルネットワークの先駆者、ジェフリー・ヒントンの名前を挙げる。「1980年代にAI革命の妨げとなっていた唯一の障害は、コンピューターの性能が十分でなく、十分なデータがなかったことです。」 次の世代のインフルエンサーは、自分たちが言うこと、すること、見ることのすべてをAIに利用されることに同意するだろう。 突き詰めると、2020年のGPT-3の画期的な成功は、大部分が「OpenAIが下した賭け、つまり同じことを10倍の規模で行えば結果が出るという賭けに基づいていました。当時、私を含め多くの人がこれに非常に懐疑的でした。私は科学者です。単により多くの計算能力を投入するのではなく、科学的な発展を通じて進歩を見たいのです。しかし、実際には、それは非常に成功した賭けでした。」これは、OpenAIのボスであるサム・アルトマンとその仲間たちが、人々が考えているようなテクノロジーの天才ではないことを示唆しているのだろうか？「サム・アルトマンに会ったことはありません。わかりません」と彼は外交的に言う。「彼は明らかに素晴らしいものを実現しました。」 天才であろうとなかろうと、これらのAIの先駆者たちは限界に達しつつあるかもしれない。数年前、アルトマンやGoogle DeepMindのデミス・ハサビスのような人々は、数年以内に人間レベルの汎用人工知能（AGI）を達成できると予想していた。「私は個人的に、彼らは楽観的すぎると思います」とウールドリッジは言う。ChatGPTにラテン語で量子力学について話すことはできるが、「同時に、今まで見たことのないあなたの家に入って、キッチンの場所を特定し、夕食のテーブルを片付けることができるAIはまだありません」と彼は指摘する。これは最低賃金の人間の労働者ならできることだ。 「限界は、投入できる計算能力とデータです。そしてデータは今や真の制約となっています。」Wikipedia全体がGPT-3のトレーニングデータのわずか3%を占めていたと彼は言う。「次回はどこから10倍のデータを入手するのでしょうか？」そのため、データは貴重なリソースとなりつつあり、一部の組織は潜在的な宝の山を所有している。「NHS（英国国民保健サービス）は人間に関する膨大なデータを抱えています。それは想像できる限り最も価値のある種類のデータです。」民間企業はそれに大金を払うだろうと彼は言うが、「しかし、そのような取引を承認した人は、後悔することになるだろうと思います。」彼はディストピア的な未来のシナリオを想像する。「定期的に監視するウェアラブル端末を装着することに同意しなければ、NHSを利用できないという世界です…私たちは急速に、次の世代のオンラインインフルエンサーが、自分の人生経験、言うこと、すること、見ることのすべてを、AIにデータを提供するために収穫されることに同意する世界に向かっていると思います。」 学術的な観点から、ウールドリッジはシリコンバレーがリソースの面でも（「GPT-3のトレーニングには2万基以上のAIスーパーコンピューターが必要でした。オックスフォード大学全体でもおそらく数百基しかありません」）、公の議論の面でもAI分野を支配するようになったことを遺憾に思っている。「私たちは、シリコンバレーによって物語が奪われるのを目の当たりにしてきました。シリコンバレーは、利益主導で、雇用を奪い、ほぼ完全に大規模言語モデルに焦点を当てたAIのバージョンを推進していますが、私や私の同僚の多くは、そのようなものを推進したり構築したりすることに全く興味がありません」と彼は言う。「より良い世界を築き、人々の生活を向上させるためにAIを構築することにキャリアを費やしてきた者としては、ちょっと憂鬱です。」 彼は続ける。「大局的に見れば、AIは計り知れない利益をもたらしますが、大規模言語モデルがすべての注目を集めているため、しばしば見過ごされています。」彼は、オックスフォードのチームが開発しているAI搭載ツールを例に挙げる。これは、簡単な超音波検査から心臓スキャンを分析し、携帯電話を介してかかりつけ医に送信できるものだ。「これはNHSが提供するのに苦労している高価なケアの一種ですが、突然非常に低コストで利用可能になります。」 2025年、ウールドリッジは科学的アイデアを一般に説明する能力が評価され、王立協会の名誉あるファラデー賞を受賞した。2月の彼の講演のタイトルは『これは私たちが約束されたAIではない』だった。その頃、彼はAIが「ヒンデンブルク瞬間」を迎える可能性があると示唆した。ヒンデンブルク号の墜落事故は飛行船産業を一夜にして壊滅させた。「同様のAI関連の大惨事が起こる可能性は十分にあります」と彼は言う。「コンピュータープログラムはあらゆる方法で失敗します。そして私たちは、AIがますます組み込まれているコンピューターネットワークに完全に依存しています。」とはいえ、実存リスクに関して言えば、「AIは私が夜も眠れなくなるようなことのリストでは上位にはありません」と彼は付け加える。「少なくとも、私のトップ5には入っていません。」しかし、彼が核戦争の方が大きな脅威だと考えているという事実は、必ずしも安心できるものではない。 もし可能なら、AI開発を遅らせたいと彼は言う。「何が起こっているのかを理解する時間をもっと確保するためです。」彼は、これがゲーム理論の重要な概念である古典的な「囚人のジレンマ」であると指摘する。標準的なシナリオでは、2人の囚人が、自分たちが一緒に犯した犯罪について、別々に自白するか黙秘するかを決断しなければならない。一方が自白し、他方が黙秘した場合、自白した方だけが釈放される。両方が自白した場合、それぞれより短い刑期を服役する。両方が黙秘した場合、さらに短い刑期を服役する。したがって、両方が黙秘することに合意すればより良い結果になるが、どちらも相手がどうするかわからない。直感に反するが、ゲーム理論は最も賢い行動は自白することだと教えている。 同じ論理で、AI企業は先を行くための競争に閉じ込められている。彼らの競争は、より多くの支出、リソース、エネルギーを消費するデータセンターにつながり、人類にとっての正味の利益はない。しかし、現状はこうだ。「少数の非常に裕福な企業がAIを追い求めていますが、同時に何かがひどく間違ってしまうことを恐れていると言っています。では、なぜ彼らはまだそれを追い求めているのでしょうか？ それは、もし自分たちが手を引けば、他の誰かがやると思うからです。」 彼自身はシリコンバレーに惹かれたことはあったのだろうか？「それが起こり得た時点がいくつかあったと思います」と彼は言う。「しかし、私は今年60歳になります。今は若者のゲームです。」AIが人間の活動の多くを代替すると予測されているため、もはや勉強する意味はないと主張する人もいる。ウールドリッジはそうは考えない。「私は良い仕事が得られると思ってコンピューティングの世界に入ったわけではありません。純粋に興味があったからです。」多くの親から、子供は大学で何を学ぶべきか尋ねられるという。「その答えは、『本当に情熱を持てるものを学ばせなさい』です。それが断然最も重要なことだと思います。」 マイケル・ウールドリッジ著『ゲーム理論の人生教訓：複雑な世界で戦略的に考える技術』は5月21日発売（ヘッドライン、25ポンド）。ガーディアンを支援するには、guardianbookshop.comで購入してください。この記事で取り上げられた問題について意見はありますか？ 掲載を検討するため、300語以内の回答をメールで送信したい場合は、そのようにしてください。読者投稿欄に掲載されるようにするには、こちらをクリックしてください。 **よくある質問** 以下は、このトピックに基づいたFAQのリストで、自然な口調で明確かつ直接的な回答を示しています。 **初級レベルの質問** 1....