「ロボットに支配されることは心配していません」とAI専門家のマイケル・ウールドリッジ氏は語る。彼は大手テクノロジー企業の真のリスクと、時にはもたらされる恩恵について語る。

マイケル・ウールドリッジは、誰もが憧れる理想の教師のような人物だ。話しやすく、難しい概念をわかりやすく噛み砕くのが得意で、気取らず無理に格好をつけることもなく、自分の仕事に純粋な情熱を注いでいる。「誰かが何かを理解した瞬間、その人の目が輝くのを見るのが大好きです。本当にやりがいを感じます」と彼は語る。

彼はごく普通の人のように見える。しかし、オックスフォード大学の教授であり、500以上の科学論文と10冊の著書を持つ彼が、実際には普通ではない。彼のお気に入りの仕事は、古典的な児童書シリーズを現代風にアップデートした「レディバード・エキスパート・ブックス」への人工知能に関する寄稿だ。「これにはとても誇りを持っています」と言いながら、書棚から一冊を取り出して手渡してくれる。春の陽気な日、私たちはオックスフォード大学のどこにでもあるような計算機科学科の彼の研究室にいる。キャンパスという環境のせいかもしれないが、会話はまるでセミナーのようだ。

ウールドリッジは熟練した講演者であり、特に人工知能については30年以上研究してきたが、今でも健全な懐疑心を持って臨んでいる。2023年に王立研究所で行ったクリスマス講演会「AIの真実」では、ロボット犬を連れてきて、学齢期の聴衆に「この犬を野球のバットで叩くかどうか」投票させた。また、強化学習を説明するために、1980年代の名作映画『ウォー・ゲーム』を再現した。この映画では、若きマシュー・ブロデリックが、アメリカ軍のコンピューターに三目並べをさせて核戦争を防ぐ（コンピューターが勝ち目がないことを悟るまで）。「マシュー・ブロデリックは当時ロンドンにいました。クリスマス講演会に来てもらおうとしたのですが、都合がつきませんでした。そこで、彼に敬意を表して、私たちのコンピューターを『ブロデリック』と名付けました」とウールドリッジは語る。

『ウォー・ゲーム』は、ウールドリッジの最新著書『ゲーム理論の人生教訓：複雑な世界で戦略的に考える技術』のテーマに非常に近い。彼はこのテーマを15年以上にわたって学生に教えてきたという。今度は私たちの番だ。この本には数学は一切登場しない。代わりに、ゲーム理論を21のわかりやすいシナリオに変換し、大西洋のタラ漁からペプシ対コカ・コーラ、神の存在までを網羅している。

「比較的少数のゲーム理論モデルで、どれだけ多くの世界的な出来事が説明できるかは驚くべきことです」とウールドリッジは言う。最も単純なものの一つが「チキンゲーム」であり、彼はジェームズ・ディーン主演の映画『理由なき反抗』のシーンを使って説明している（彼の学生は誰もこの映画を知らなかったと認めている）。2人のティーンエイジャーが車で崖に向かって突進する。先に飛び降りた方が「チキン（臆病者）」となり負けとなる。同時に飛び降りれば引き分け、どちらも飛び降りなければ大惨事となる（ネタバレ注意：映画ではそうなる）。理論的な教訓はナッシュ均衡に関するものだが、実際には、このゲームは現実社会で常に繰り広げられている。キューバ危機はかつて典型的な例だったが、現在進行形の別の例として、米イラン紛争がある。「両陣営が互いに脅迫をエスカレートさせています。どこかの時点で誰かが譲歩しなければなりません。問題は、どちらも譲歩しなければ、取り返しのつかない地点を超え、全員にとって最悪のシナリオになることです」とウールドリッジは言う。

この状況から抜け出す方法はあるのか。「そうですね、ゲームを変える方法の一つは、第三者が介入して、一方の側に異なる行動を促すインセンティブを提供することです。」もう一つの選択肢は、相手とコミュニケーションをとることでゲームを回避することだ。これはキューバ危機の際に実際に起こったことだが、今回のケースでは可能性は低いように思われる。「とはいえ、イランははるかに賢く立ち回っているように思えます。というのも、アメリカ側は非常に予測不可能だからです。予測不可能であることも古典的なゲーム理論の戦略ですが、相手側はどう対応すべきか非常に判断しにくくなります。もし本当に非合理的なプレイヤーと対峙しているなら、ゲーム理論が教えることの一つは、最悪のシナリオに備えてリスクを分散することです。」

これは戦争やゲームだけの話ではない、とウールドリッジは強調する。彼は著書の中で、ゲーム理論を「自己利益を追求する当事者が互いに相互作用する状況を理解することを目的とした数学的理論」と定義している。これは、社会的、政治的、哲学的なあらゆる種類の状況に適用できると彼は主張する。

例えば、「ゼロサムゲーム」という概念は、広く誤解されているものの、一般的な用語となっている（その一因は『ウォー・ゲーム』にある）。ゼロサムゲームとは、単に一方が得をすれば他方が損をするというゲームではない。ウールドリッジによれば、それは相手を可能な限りひどい目に遭わせることを目的とするゲームだ。したがって、技術的には、チェスはゼロサムゲームではない。なぜなら、相手を破滅させたり辱めたりしようとするのではなく、単に勝とうとしているだけだからだ。これには社会的、政治的な側面がある。「このゼロサム的な考え方は非常に有害です。非常に男性的な特徴です。そして、証拠は、そうした考え方が人生で必ずしもうまくいくとは限らないだけでなく、実際にはより不幸になることを示しています。自分のことにコントロールが効かないと感じるのです。ゲーム理論からの重要な教訓の一つは、現実には、私たちの相互作用のほとんどはゼロサムではないということです。」

この対立的な世界観は、ポピュリズム政治を駆り立てる。「移民があなたの仕事を奪いに来ている」という感覚だ。他人が勝っているから自分は負けているのだ。ウールドリッジが好むゲームの一つは、その逆を考えさせるものだ。哲学者ジョン・ロールズが1971年に考案した「無知のヴェール」である。これは、社会を自由にデザインできるが、その後、その社会の中にランダムに配置されるという考え方だ。ウールドリッジはこれを「美しい思考実験…社会的に良い結果を促すが、人々は依然として自己利益に従っている」と評する。ビル・クリントンとバラク・オバマもこの考え方のファンだったと付け加える。

ゲーム理論がAIとどのように適合するかはすぐには明らかではないが、現在ではAIの大きな部分を占めているとウールドリッジは説明する。特に彼の主な関心分野であるマルチエージェントシステム、つまり互いに相互作用し、あなたの代わりに行動するプログラムにおいて重要だ。「もしあなたと会議を設定したいなら、なぜ私があなたに電話をかけなければならないのでしょうか？ なぜ私のSiriが直接あなたのSiriと話さないのでしょうか？」こうした相互作用は、私たちのオンライン生活に組み込まれている。例えば、eBayのようなオンラインオークションでは、最後の瞬間に勝ち入札をしようとする。「もし私のエージェントがあなたのエージェントと相互作用し、私の選好があなたの選好と必ずしも一致しないなら、そうした相互作用をどう考えるべきかを説明する理論がゲーム理論なのです。」

ウールドリッジがキャリアをスタートさせた頃、AIはほとんど抽象的な概念だった。彼はアマチュアとしての熱意からコンピューティングの世界に入った。地元のサイダー会社で中間管理職をしていた息子として、ヘレフォードシャーの田舎で育った彼にとって、1980年頃に地元の電気店に家庭用コンピューターが販売されたことは大事件だった。「馬鹿げていると思いました。コンピューターは何百万ポンドもするものだと思っていたからです。」店主は親切にも彼にそれを試させてくれた（それはタンディTRS-80だった）。「毎週のように店に通い、独学でプログラミングを覚えました。文字通り、店のショーウィンドウに座ってコンピューターを使っていました。」その後、彼は学部でコンピューティングを学び、1989年にAIの博士号を取得し、その後、初期のインターネットの英国部分であったジャネット（共同学術ネットワーク）でインターンシップを行った。それ以来、テクノロジーは信じられないほど進歩したが、ウールドリッジが言うには、「現在のAI革命を推進している中核技術は、80年代半ばまでに発明されていた」のだ。彼は、現在の機械学習を支えるメカニズムである人工ニューラルネットワークの先駆者、ジェフリー・ヒントンの名前を挙げる。「1980年代にAI革命の妨げとなっていた唯一の障害は、コンピューターの性能が十分でなく、十分なデータがなかったことです。」

次の世代のインフルエンサーは、自分たちが言うこと、すること、見ることのすべてをAIに利用されることに同意するだろう。

突き詰めると、2020年のGPT-3の画期的な成功は、大部分が「OpenAIが下した賭け、つまり同じことを10倍の規模で行えば結果が出るという賭けに基づいていました。当時、私を含め多くの人がこれに非常に懐疑的でした。私は科学者です。単により多くの計算能力を投入するのではなく、科学的な発展を通じて進歩を見たいのです。しかし、実際には、それは非常に成功した賭けでした。」これは、OpenAIのボスであるサム・アルトマンとその仲間たちが、人々が考えているようなテクノロジーの天才ではないことを示唆しているのだろうか？「サム・アルトマンに会ったことはありません。わかりません」と彼は外交的に言う。「彼は明らかに素晴らしいものを実現しました。」

天才であろうとなかろうと、これらのAIの先駆者たちは限界に達しつつあるかもしれない。数年前、アルトマンやGoogle DeepMindのデミス・ハサビスのような人々は、数年以内に人間レベルの汎用人工知能（AGI）を達成できると予想していた。「私は個人的に、彼らは楽観的すぎると思います」とウールドリッジは言う。ChatGPTにラテン語で量子力学について話すことはできるが、「同時に、今まで見たことのないあなたの家に入って、キッチンの場所を特定し、夕食のテーブルを片付けることができるAIはまだありません」と彼は指摘する。これは最低賃金の人間の労働者ならできることだ。

「限界は、投入できる計算能力とデータです。そしてデータは今や真の制約となっています。」Wikipedia全体がGPT-3のトレーニングデータのわずか3%を占めていたと彼は言う。「次回はどこから10倍のデータを入手するのでしょうか？」そのため、データは貴重なリソースとなりつつあり、一部の組織は潜在的な宝の山を所有している。「NHS（英国国民保健サービス）は人間に関する膨大なデータを抱えています。それは想像できる限り最も価値のある種類のデータです。」民間企業はそれに大金を払うだろうと彼は言うが、「しかし、そのような取引を承認した人は、後悔することになるだろうと思います。」彼はディストピア的な未来のシナリオを想像する。「定期的に監視するウェアラブル端末を装着することに同意しなければ、NHSを利用できないという世界です…私たちは急速に、次の世代のオンラインインフルエンサーが、自分の人生経験、言うこと、すること、見ることのすべてを、AIにデータを提供するために収穫されることに同意する世界に向かっていると思います。」

学術的な観点から、ウールドリッジはシリコンバレーがリソースの面でも（「GPT-3のトレーニングには2万基以上のAIスーパーコンピューターが必要でした。オックスフォード大学全体でもおそらく数百基しかありません」）、公の議論の面でもAI分野を支配するようになったことを遺憾に思っている。「私たちは、シリコンバレーによって物語が奪われるのを目の当たりにしてきました。シリコンバレーは、利益主導で、雇用を奪い、ほぼ完全に大規模言語モデルに焦点を当てたAIのバージョンを推進していますが、私や私の同僚の多くは、そのようなものを推進したり構築したりすることに全く興味がありません」と彼は言う。「より良い世界を築き、人々の生活を向上させるためにAIを構築することにキャリアを費やしてきた者としては、ちょっと憂鬱です。」

彼は続ける。「大局的に見れば、AIは計り知れない利益をもたらしますが、大規模言語モデルがすべての注目を集めているため、しばしば見過ごされています。」彼は、オックスフォードのチームが開発しているAI搭載ツールを例に挙げる。これは、簡単な超音波検査から心臓スキャンを分析し、携帯電話を介してかかりつけ医に送信できるものだ。「これはNHSが提供するのに苦労している高価なケアの一種ですが、突然非常に低コストで利用可能になります。」

2025年、ウールドリッジは科学的アイデアを一般に説明する能力が評価され、王立協会の名誉あるファラデー賞を受賞した。2月の彼の講演のタイトルは『これは私たちが約束されたAIではない』だった。その頃、彼はAIが「ヒンデンブルク瞬間」を迎える可能性があると示唆した。ヒンデンブルク号の墜落事故は飛行船産業を一夜にして壊滅させた。「同様のAI関連の大惨事が起こる可能性は十分にあります」と彼は言う。「コンピュータープログラムはあらゆる方法で失敗します。そして私たちは、AIがますます組み込まれているコンピューターネットワークに完全に依存しています。」とはいえ、実存リスクに関して言えば、「AIは私が夜も眠れなくなるようなことのリストでは上位にはありません」と彼は付け加える。「少なくとも、私のトップ5には入っていません。」しかし、彼が核戦争の方が大きな脅威だと考えているという事実は、必ずしも安心できるものではない。

もし可能なら、AI開発を遅らせたいと彼は言う。「何が起こっているのかを理解する時間をもっと確保するためです。」彼は、これがゲーム理論の重要な概念である古典的な「囚人のジレンマ」であると指摘する。標準的なシナリオでは、2人の囚人が、自分たちが一緒に犯した犯罪について、別々に自白するか黙秘するかを決断しなければならない。一方が自白し、他方が黙秘した場合、自白した方だけが釈放される。両方が自白した場合、それぞれより短い刑期を服役する。両方が黙秘した場合、さらに短い刑期を服役する。したがって、両方が黙秘することに合意すればより良い結果になるが、どちらも相手がどうするかわからない。直感に反するが、ゲーム理論は最も賢い行動は自白することだと教えている。

同じ論理で、AI企業は先を行くための競争に閉じ込められている。彼らの競争は、より多くの支出、リソース、エネルギーを消費するデータセンターにつながり、人類にとっての正味の利益はない。しかし、現状はこうだ。「少数の非常に裕福な企業がAIを追い求めていますが、同時に何かがひどく間違ってしまうことを恐れていると言っています。では、なぜ彼らはまだそれを追い求めているのでしょうか？ それは、もし自分たちが手を引けば、他の誰かがやると思うからです。」

彼自身はシリコンバレーに惹かれたことはあったのだろうか？「それが起こり得た時点がいくつかあったと思います」と彼は言う。「しかし、私は今年60歳になります。今は若者のゲームです。」AIが人間の活動の多くを代替すると予測されているため、もはや勉強する意味はないと主張する人もいる。ウールドリッジはそうは考えない。「私は良い仕事が得られると思ってコンピューティングの世界に入ったわけではありません。純粋に興味があったからです。」多くの親から、子供は大学で何を学ぶべきか尋ねられるという。「その答えは、『本当に情熱を持てるものを学ばせなさい』です。それが断然最も重要なことだと思います。」

マイケル・ウールドリッジ著『ゲーム理論の人生教訓：複雑な世界で戦略的に考える技術』は5月21日発売（ヘッドライン、25ポンド）。ガーディアンを支援するには、guardianbookshop.comで購入してください。この記事で取り上げられた問題について意見はありますか？ 掲載を検討するため、300語以内の回答をメールで送信したい場合は、そのようにしてください。読者投稿欄に掲載されるようにするには、こちらをクリックしてください。

**よくある質問**

以下は、このトピックに基づいたFAQのリストで、自然な口調で明確かつ直接的な回答を示しています。

**初級レベルの質問**

1. **待って、誰もがAIが世界を乗っ取るのを恐れているんじゃないの？ なぜこの専門家は心配していないの？**
答え：ウールドリッジ教授は、ロボットが支配するという考えはSFよりも現実離れしていると言います。彼は、独自の目標や意識を持つ機械の創造にはほど遠いと考えています。本当の危険はロボットの反乱ではなく、人間がテクノロジーをどのように使用するかです。

2. **ロボットによる黙示録を心配する必要がないのなら、何を心配すべきなの？**
答え：最大のリスクは、大手テクノロジー企業がAIを管理することから生じます。彼は、プライバシーの喪失、不公平な決定を下す偏ったアルゴリズム、誤情報の拡散を懸念しています。危険はAI自体ではなく、それを動かす人々に与えられる力です。

3. **では、AIは実際に何かに役立つのか、それともすべて悪いことなのか？**
答え：すべてが悪いわけではありません。ウールドリッジ教授は実際の利点を指摘しています。AIは、医療スキャンでの病気の発見、交通流の最適化、科学研究の支援など、特定の反復的なタスクに優れています。鍵となるのは、人間の判断の代替としてではなく、ツールとして使用することです。

4. **大手テクノロジー企業はこれと何の関係があるの？ AIは単なるコンピュータープログラムじゃないの？**
答え：大手テクノロジー企業は、最も強力なAIをトレーニングするために必要な膨大な計算能力と大量のデータを所有しています。彼らはそれがどのように構築され、誰がそれを使用できるかを決定します。リスクは、少数の企業がすべての人に影響を与えるテクノロジーを過度に管理してしまうことです。

**上級レベルの質問**

5. **記事では時折の利点について言及しています。ウールドリッジが強調する具体的な現実世界での利点は何ですか？**
答え：彼はしばしば科学と医学の進歩を指摘します。例えば、AIは人間が何年もかかるタスクである数百万のタンパク質構造を数時間で分析できます。これにより、創薬と病気の理解が劇的に加速しました。

6. **「アライメント問題」とは何ですか？ ウールドリッジはそれを本当の脅威だと考えていますか？**