「将来の小説はすべてAIによって書かれると思うか」とよく尋ねられます。それは実際の質問というより、むしろ挑戦のようなものです。機械が自分の仕事を、しかもより上手くできるのではないかと心配しているのか、と問われているのでしょう。私はたいてい「どんなアルゴリズムも『アンナ・カレーニナ』を書くことはできない！」などと言って軽く流します。しかし、それも本当の答えにはなっていません。
だからこそ、アメリカ人教皇であるレオ14世が最近世界に向けて発表した書簡『マグニフィカ・フマニタス：人工知能の時代における人間の保護について』に感謝しています。これは長大（4万語以上）で、知的で、思慮深い文書であり、教皇はこの急速に発展する技術がどのように利用され、悪用されうるかを論じています。今では、誰かにAIについての意見を求められたら、教皇の書簡——少なくとも第3章——を指し示せば済むようになりました。
この書簡は、人間のコミュニケーションの崩壊がもたらす悲劇的な結果について、適切な聖書の引用から始まります。人類は「決定的な選択、すなわち新たなバベルの塔を築くか、神と人間が共に住む都市を建設するか」に直面しているのです。続いて、レオ14世の前任者たちが物事をどのように考えていたか、そして労働、権威、統治、科学、権力、そして互いに対する道徳的義務に関するバチカンの考え方が詳細に検討されています。また、人間の尊厳と自由を守るための教会の活動も強調されています。
第3章「技術と支配：AIの約束に照らした人間の偉大さ」は、書簡のタイトルにふさわしい内容です。AIとは何でないかを説明する力強い（そしてよく引用される）一節で、教皇は本質的に人間であることの意味を定義しています。「いわゆる人工知能は経験をせず、身体を持たず、喜びや苦しみを感じず、関係性を通じて成熟せず、愛、仕事、友情、責任が何であるかを内側から知ることはない」。AIには道徳的良心がなく、人類のより大きな善に対する真の関心も示しません。
書簡はその後、AIの最大の脅威かもしれないことについて、最も重要で必要なことを述べています。それは、AIが利益を最大化するためだけにプログラムされうるということであり、それは少数者の利益のために多くの者が苦しむことにつながりかねません。教皇は「プライバシーの操作」と「情報の悪用」、雇用管理、公共サービスや信用へのアクセス制御、個人の評判の向上や毀損にアルゴリズムを使用することに対して警告を発しています。
思いやり、慈悲、赦し——これらは機械の優先順位では高くありません——が時代遅れになる可能性があります。「『必要な犠牲』が正当化され始め、種の最適化という名目で最も脆弱な者たちに負担を課すことになるかもしれない」。この新たな力の道具が、すでに富と影響力を持つ者たちの手に渡れば、それらは最も裕福で特権的な市民の快適さ、健康、幸福を向上させるために使われるでしょう。
教皇はAIそのものを非難しているのではなく、むしろそれが政治的抑圧の道具として、また経済的不平等をさらに悪化させるために利用されうる方法を非難しているのです。
書簡が締めくくられるにあたり、教皇は私たちに、真理に忠実であり続け、教育に投資し、関係を築き、正義と平和のうちに生きるよう呼びかけています——新しい技術が「最も脆弱な者を搾取し、新たな奴隷制の形態を生み出し、紛争から利益を得る」ことに抵抗するために。教皇がAIそのものを非難しているのではなく、むしろそれが政治的抑圧の道具として、また経済的不平等を悪化させるために利用されうる方法を非難していることが明らかになります。
理論的には、この書簡が十分に踏み込んでいない、別の聖書の比喩——金の子牛——を使ってAIを非難しなかったと批判することもできるでしょう。なぜならAIは、精神的、個人的、共同体の幸福よりもコスト削減を優先するからです。しかし、その船はすでに出航してしまっており、レオ14世——あるいはどんな宗教指導者でも——これらの新たな進歩を21世紀版の偶像崇拝として非難するためにできることは多くありません。
それでもなお、この回勅が描く人間性のビジョン、勝利しなければならない正義と共感の精神、そして最高の道徳的価値観の本質的な重要性——それは最終的に非常に優しく、非常に前向きで、非常に寛大であり、弱く貧しい者を守るという私たちの義務について明らかに正しいため、退ける理由を見つけるのは困難です。
しかし、それが恐ろしいところです。どうやら、シリコンバレーからは反発があったようです。そこでは、最新技術の創造者であり支配者たちが、教皇は自分が何を言っているのか分かっていないと示唆しています。
『ガーディアン』の教皇とクロードに関する見解：レオ14世のAIに関する回勅は人間性を第一に置く点で正しい | 社説
続きを読む
AGIハウス（AIが本質的に人間の脳と同等であることを証明することに焦点を当てたグループ）の創設者ジェレミー・ニクソンは、ニューヨーク・タイムズ紙で、教会は「AIについて深く考えていない」と述べ、「彼らはそれを理解していないので、立場を持つことはできない」と付け加えたと報じられています。そして、現在の研究の最終結果は、事実上新たな神、あるいは少なくとも説得力のある模造品になるだろうという広範な信念があるようです。未来の危険を心配するあまり、私たちの社会は、AIの欠点がすでに現れているという証拠を無視することを選んでいます。友人の娘で、広告を専攻する大学生は、最近指導教官から、卒業する頃には広告業界の仕事はすべてAIに取って代わられているだろうと言われました。
もしこの新技術の支配者たちが、教皇がその危険性と欠点として見ているものに同意できないのであれば、私たちは非常に深刻な問題を抱えています。問題は、ロボットが『アンナ・カレーニナ』を書くということではありません。問題は、一人の女性、一人のユニークな人間の苦しみをこれほど美しく捉えた小説に、誰も必要性を感じなくなるということです。
そのような本に意味はないでしょう。人生を変える過ちの物語が、先見の明のあるテクノロジー業界の男によって利益に変えられ、より大きく、より良いヨットを買うために使われない限りは——おそらく、そのヨットは永続的な下層階級、つまり、その尊厳と、かつて評価され価値のあった仕事を、貪欲な形態の人工知能によって奪われた労働者たちによって整備されるのでしょう。
フランシーヌ・プローズは、PENアメリカンセンターの元会長であり、アメリカ芸術文学アカデミーおよびアメリカ芸術科学アカデミーの会員です。彼女の新作小説『田舎での五週間』は5月に出版されました。
**よくある質問**
以下は、「私は教皇のAIに関する回勅に感謝している。その理由はここにある」という声明に基づくFAQのリストです。
**初級レベルの質問**
Q: 回勅とは何ですか？
A: 教皇がカトリック教会全体に向けて、重要なテーマについて発行する正式な書簡です。教え、導くことを目的としています。
Q: なぜ教皇は人工知能について回勅を書いたのですか？
A: AIが私たちの生活、仕事、交流の仕方を急速に変えているからです。教皇は、これが人間の尊厳、正義、平和に関する深い道徳的・倫理的問題を提起すると考え、指針を示したいと考えました。
Q: 教皇はAIが悪いと言っているのですか？
A: いいえ。彼は技術そのものに反対しているわけではありません。AIを、人間の生命を尊重し、弱い者を守り、利益や権力だけでなく共通善を促進する方法で使用するよう注意を促しているのです。
Q: AIに関する回勅の主なメッセージは何ですか？
A: 核となる考えは、AIは人類に奉仕すべきであり、人類を置き換えたり支配したりすべきではないということです。平和、真理、人間の尊厳に焦点を当て、AIが倫理的に開発され使用されることを確実にするための世界的な対話を呼びかけています。
Q: これは一般の人にどのような影響がありますか？
A: AIはすでに検索エンジン、ソーシャルメディア、銀行、さらには医療診断など、あなたの生活の中に存在するからです。教皇は、公平性、プライバシー、そしてこれらのツールが社会を助けているのか傷つけているのかについて、皆が考えるよう求めています。
**中級レベルの質問**
Q: 教皇はAIに関して具体的にどのような危険を警告していますか？
A: 彼は、公平性や透明性なしに機械が人々の生活に影響を与える決定を下す「アルゴリズム社会」について警告しています。また、監視、誤情報、そしてAIを管理する者とそうでない者との間の不平等の拡大のリスクも強調しています。
Q: 回勅は武器や戦争におけるAIについて触れていますか？
A: はい。人間の意思決定なしに殺害できる自律型兵器システムの開発を強く非難しています。教皇は、これが戦争から道徳的責任を奪い、壊滅的な紛争につながる可能性があると論じています。
Q: AIに関する教会の見解は、テクノロジー企業の見解とどのように異なりますか？
