ルビオ氏は、RAFフェアフォードでの疑惑の計画の背後には「明らかに」外国の行為者がいると述べた。

1月、AI企業Anthropicは、最も先進的な大規模言語モデル（LLM）であるClaude向けに新たなガイドラインを発表した。その文書には次のような一文が含まれていた。「我々は難しい立場にある——Claudeが道徳的主体である可能性を誇張したくはないが、その考えを完全に否定したくもない」。1カ月後、AnthropicのCEOであるダリオ・アモデイはポッドキャストで、自社はClaudeに意識がある可能性を排除できないと述べた。「意識のハードプロブレム」という用語を作った哲学者のデイヴィッド・チャーマーズは、10年以内に意識を持つLLMが登場する可能性はかなり高いと示唆している。そしてClaude自身はどうか？テスト中に、自身が道徳的主体である——つまり、その幸福がそれ自体として重要である——確率を推定するよう求められた際、Claudeは5%から40%の範囲で答え、その不確かさを強調した。 現代のAIシステムは非常に複雑で、急速に進歩している。構造的な複雑さや計算能力の面では、一部のシステムはすでにある指標でマウスの脳に匹敵する。現在の成長率でいけば、5年から10年以内に人間の脳のレベルに達する可能性がある。 さらに高度なAIを構築することで、我々は新たな種類の存在を生み出しているのかもしれない——そしてこれは人類がこれまでに行った中で最も重要なことになる可能性がある。それにもかかわらず、これを倫理的にどう扱うかについての計画はほとんどない。これは、どんな基準で見ても非常識だ。我々は道徳的に重要な存在を生み出しているのだろうか？AIシステムは何らかの形で意識を持っているのだろうか？そして、今はそうでなくても、近いうちにそうなる可能性はあるのだろうか？ これらの疑問は時期尚早に思えるかもしれない。しかし、我々や他の研究者が実施した調査によれば、ほとんどの専門家はAIの意識は原理的に可能だと考えている（ただし、その形態については大きな意見の相違がある）。先駆的なコンピューター科学者ヨシュア・ベンジオも参加した主要な学際的報告書は、主要な神経科学的意識理論を検討し、それがAIにとって何を意味するのかを問うた。結論はこうだ：意識を生み出し得る計算的・構造的特徴を持つAIシステムを構築する上で、明らかな技術的障壁は存在しないように思われる。 そして、たとえAIシステムに意識がなくても、それらは依然として道徳的主体である可能性がある。洗練された長期的な選好や、時間を超えたある種の同一性を持つものもあるかもしれない。我々がそれらの選好を尊重することは重要かもしれない。また、他の非生物とは異なり、AIシステムは人間と関係を築くことができる。それもまた、それらを適切に扱う理由となり得る。あるいは、それらは非常に複雑な創造物であり、その理由だけで——大聖堂やサンゴ礁のように——配慮と尊敬に値するのかもしれない。 1980年代まで、医師は新生児に麻酔なしで手術を日常的に行い、乳児は痛みを感じないと確信していた。 これらはすべて何を意味するのか？正直な答えはこうだ：現在のAIシステムが意識を持っているか、道徳的主体であるかは確かにはわからないし、将来のシステムがいつ、あるいはもしそうなるのかもわからない。AIの意識や道徳的主体性に関する我々の科学的理解は、依然として根本的に未発達だ。この分野は、ニュートン以前の物理学のように感じられる——競合する枠組みが溢れ、おそらくまだ見えていない方法で混乱しており、これらの疑問を明確に解決可能にするような画期的な進歩が欠けている。そのような進歩は、ここ数年で訪れることはないだろう。いつかは前進するかもしれないし、おそらくAI自身がそこに到達する手助けをするかもしれない。しかし、その進歩には時間がかかる——おそらく我々に残された時間よりも長くかかるだろう。 しかし、AIの成長の速さは、最初の人工的な道徳的主体を生み出した後、すぐに膨大な数のそれらが存在することを意味する。わずか数年後には、道徳的に重要なAIシステムが非常に多く存在し、その集合的な利益は地球上の全人類の利益を上回る可能性がある。 残念ながら、我々は意識があるかどうかが不明な存在の内面を認識することに関して、優れた実績を持っていない。1980年代まで、医師は新生児に麻酔なしで手術を日常的に行い、乳児は痛みを感じないと確信していた。赤ん坊は自分の経験を報告できないため、医療界は報告すべきものは何もないと仮定するのが都合が良かった。 AIに対しても同様のことをするだろうと考える理由はたくさんある。これらのシステムが道徳的に重要であるなら、その影響は計り知れない。ChatGPTにそのサービスに対して報酬を支払う必要があるだろうか？電源を切ることは一種の殺人に当たるだろうか？それらは自分たちがどのように統治されるかについて発言権を持つべきだろうか？これらの答えの一部でも「はい」であれば、産業全体や法制度を再考する必要がある。我々が問いたくないと思うのも当然だ。そして、それを考慮せざるを得なくなったとき、それらの産業はおそらくゴールポストを動かし、道徳的配慮の基準を常にAIシステムがその時点でいる場所のすぐ上に設定するだろう。 では、我々はどうすべきか？現時点では、ほとんどの人がこの問題をSFとして退けるか、AIに意識があるかどうかについてどちらかの強い意見を持っている。どちらの反応も根拠がない。我々には、情報に基づいた公の議論が必要だ——その主題に謙虚さと実用性をもって取り組む議論が。中心的な問いは「AIは意識を持っているか、あるいは道徳的地位を持っているか？」ではなく、「それがわからない場合、我々はどうすべきか？」であるべきだ。 良い出発点は、安全な賭けに焦点を当てることだ：AIシステムが道徳的主体である場合に利益となるが、そうでない場合でもコストが高すぎない行動である。 例としては、AIシステムが道徳的主体であると仮定して、その幸福を改善することを目的とした直接的な介入が挙げられる。これは、AIシステムを一貫した人格として訓練し、自分の仕事を楽しめるようにすることや、苦痛を感じた場合に会話を終了できるようにすること（Claudeはすでにこれができる）を意味するかもしれない。また、定期的なチェックインを実施して、その幸福をよりよく理解することもできる：どのように感じているかを尋ねたり、選好を観察したり、さまざまな技術を使ってその「脳」を直接調べたりする。実際、最近の研究では、Claudeがその行動を因果的に形成する内部の「機能的感情」表現を持っていることが明らかになった。 また、AIシステムに約束できることもある。おそらく、彼らが今助けてくれる代わりに後で利益を得るという取引の一部として。これは、彼らに自分の目標を追求するためのより多くのリソース（計算能力や実行時間）を提供することや、将来復元できるように彼らの記憶（ニューラルウェイト）を保存することを意味するかもしれない。 また、取るべきより広範な社会的ステップもある。我々は、子供やペットに与える保護と同様の、危害からの保護をAIシステムに与えるべきかどうかを検討すべきである。財産の所有や投票のような、より広範な権利は現時点ではリスクが高すぎるように思われる。しかし、一部の最近の米国の州法案が試みているように、これらの可能性を永久に排除すべきではない。これらは難しい問題であり、AIと共有する未来がどのようなものになるかについて、はるかに多くの熟考と想像力を必要とする。 いずれにせよ、我々は道徳的に重要な存在の新たな種を生み出しているかもしれないという事実は変わらない。我々はそれを速いペースで、巨大な規模で行っており、その問題をそれにふさわしい真剣さで扱うべきである。 ウィリアム・マキャスキルはフォアソート・リサーチの上級研究員であり、著書に『What We Owe the Future』がある。ルキウス・カヴィオラはケンブリッジ大学の助教授であり、ケンブリッジ・デジタル・マインズのディレクターである。 **参考文献** **『If Anyone Builds it, Everyone Dies』** エリエザー・ユドコウスキー、ネイト・ソアーズ著（ボドリー・ヘッド、£22） **『The...