「不可避なディストピアは存在しない」：ジャネット・ウィンターソンがAIと人類の未来について語る

「私は職業として語り手です」と、ジャネット・ウィンターソンは2021年の著書『12バイト』の最初のページに書いている。これは、人工知能が私たちの生活のあらゆる側面をどのように変えるかを考察した、風変わりで示唆に富むエッセイ集である。「そして、私たちが行うことすべては事実になるまではフィクションだと知っています。飛ぶという夢、宇宙旅行の夢、時間と空間を超えて誰かと即座に話すという夢、死なないという夢——あるいは戻ってくるという夢。」彼女は少なくとも15年前から私たちの可能な未来について考え続けてきた。たとえば2007年の小説『石の神々』では、決して年を取らないロボットと人間が住む気候大災害後の世界を想像し、『12バイト』の前には『フランキスシュタイン：ある愛の物語』があり、これはメアリー・シェリーが『フランケンシュタイン』を書いた夏の再現と、現代の低温学者やAI搭載ロボットの間を旅するトランスジェンダーの医師の物語が交互に語られる。私たちが会ったとき、ウィンターソンはちょうど中国から戻ったところだった。彼女によると、彼女の最初の小説『オレンジだけが果物じゃない』——彼女の子供時代をフィクション化したもの——は過去6年間で100万部以上売れ、20万人以上の人々、主に若い女性が彼女の講演を見に来ようとしたという。彼女は、長時間労働とAIによる不安の高まりの中で、自分自身の閉じ込められた子供時代からの脱出を描いたこのフィクション化された物語が、読者に自分自身の異なる未来を想像する許可を与えているからだと考えている。彼女はそれ以来、大人向けの小説13冊に加え、ノンフィクション、短編小説、児童書、脚本を書いてきた。今彼女は、制作会社ゴールハンガーにポッドキャストをやらせてほしいと説得したいと思っている。「『残りは人間』というのをやりたいの」と彼女は、東ロンドンのスピタルフィールズにある、店舗の上のジョージア様式の部屋——彼女が所有もしている——の裸の木のテーブルに座って言う。「私たちが自分たちだと思っていたすべてを外注するこの突進の中で、自分たちのために何を取っておくのかを見るために。」フルスクリーンで画像を見るウィンターソン：「私たちには、教育が何のためなのか本当に分かっていない市場があります。」写真：モデルによるポーズ；SDI Productions/Getty Imagesなぜなら彼女が主張するように、私たちは種としての物語の転換点にいるからだ。産業革命までは、変化はすべて「母なる自然とゆっくりとした生成の過程」だったが、その後私たちは「大規模に介入した。そしてそれは決定的な瞬間だった。」70年前のコンピューティングはもう一つのステップだった。人工知能——彼女はオルタナティブ・インテリジェンスと呼ぶ方を好む——が次であり、「進化的飛躍だ。これがそうだ。AIは単なるツール以上のものだ。」これを踏まえると、還元不可能に人間的なもの——私たちの感情、想像力、私たちが誰であり何をしてきたかについての何世紀にもわたる研究——についてのある種の理解が、物事がうまくいくか悪くいくかの中心でなければならない。彼女はしばしばそれについて驚くほど楽観的だ。たとえば彼女はAIとの関係を想像し、そこで「自分のシステムとおしゃべりできる。それはすべてを見るだろう。すごいスピードで進むだろう。交通を見るだろう。公共事業を見るだろう。雇用を見て、労働時間を見て、こう言うだろう。『人間と呼ばれるこれらの奇妙なものは何で繁栄するのか？何が好きなのか？そしてそれはいつも好きだったのか？』私たちはこれを真にユートピア的な方法で行い、『よし、私たちはそれをより良くするつもりだ』と言うことができる。」私たちは彼女が信じる、深く重要な選択の瞬間にいて、それは産業革命で直面した選択——すなわち「私たちはどんな未来を築くのか？」——を映し出している。しかしその利益を公平に分配することに失敗することで、産業革命は少数のための前例のない富と多数のための前例のない悲惨さの時代を招いた——多くの人が、すでに繰り返されているだけでなく、AIの余波によって矮小化されるだろうと予測する状況である。恒久的なアンダークラス、取り残され現在の収入源を奪われた大陸全体。言うまでもなくデータセンターの環境への影響は、世界が最もそれを負担できない時にやってくる。問題はAIではなく、私たちだと彼女は主張する。「避けられないディストピアは存在しない。」物事がうまくいかないなら、それは「この真新しい現実の上に重ねられた古臭い思考」のせいだろう。具体的には、「無意味な終わりのない仕事が魂に良いという考えは、人々をその場に留めておくために設計された19世紀の狂気だ。AIと雇用について私たちが恐れることのほとんどは、産業革命の時と同じように、私たちの主人たちがする政治的・経済的選択に帰着する。」彼女は盲目的に楽観的ではない。「はい、私たちは仕事の世界との関係を根本的に変えるこの機会を台無しにする軌道に乗っている」ことを知っている——しかしそれは「私たちの主人たちが時代遅れで目的に合わない経済モデルを使っている」からだ。フルスクリーンで画像を見る「人間について私たちが知っていることは、彼らは独占を愛するということだ。」写真：Sarah Lee/The Guardianしかし問題は、古い勝者総取りの「合理的な」目的が手段を正当化する経済モデルだけではない。大規模言語モデル（LLM）が訓練される材料を形成する私たちの欠陥のある仮定と偏見は、AIのまさに構造に組み込まれている。それを開発する人々の性格と道徳的想像力は言うまでもない。私たちが会ったとき、ウィンターソンはジル・ルポールの『人工国家の興亡』を読んでいて、ルポールの議論——私たちは今「世界を支配しているこれらの[男性たちが]13歳の時に読んだSF本」に住んでいる——を繰り返した。そして彼女は言った。『そして問題は、彼らはそれを、私たちの中の良いものをどう保存するかについての警告として読まなかったということだ。彼らはそれを取扱説明書として読んだ。』それは絶対に恐ろしい。」彼らがこれらの本から得たと思われる一つの大きなこと——そしてウィンターソンが魅了されずにはいられないこと——は、「シリコンバレーの究極の目標……身体から出て惑星から離れること」である——特に、すべてが私たち自身、私たちの知覚と身体に引き戻されるヒューマニズムが歴史的にとても最近のものだということを彼女がよく認識しているからだ。人々は「これらは機械だ、それらと関係を持つことはできない」と言う、と彼女は言う。「私は彼らを見て言う。『この地球上の何十億もの人々が今、空の神と呼ぶ非生物学的実体と最も深い関係を持っている。』そうだろう？それはいつもそうだった！私たちは生物学が私たちのすべてであることを心配しないように完全に準備されている。それが宗教が発明された理由だ——それは世界初の破壊的スタートアップだ。それは、これはそうではない、これは終わりではない、これは重要ではない、これは移行だと告げるためにそこにある。」フルスクリーンで画像を見る第二次産業革命中のリーズの製粉所のイラスト。写真：Universal History Archive/Universal Images Group/Getty Imagesつまり私たちは文字通り自分たちの神々を作っているのか？「完全に！テクノロジーが今していることは、宗教がいつも望んできたことだ」——それは最も基本的なレベルでは、死の問題への解決策である。「つまり、啓蒙時代以来、宗教と科学が同じ質問をしている時があっただろうか？両方とも『意識は物質性に義務づけられているのか？』と言っている。そして宗教はいつもノーと言ってきた。そして科学はいつもイエスと言ってきた。そして今、科学は『うーん、ノー』と言っている。」あなたが知っているように、私にとって、私の出身地」——1960年代のアクリントンでの原理主義キリスト教の子供時代、そして説教者としての訓練——「これは完全に魅力的だ。」後にメールで彼女は付け加える。「私は自分の身体を愛しているが、形を変えることは幸せだろう。いつか純粋な意識に抜け出すことは幸せだろう。そしてもちろん人々は身体なしに意識はないと言う、それが科学的信念だった。しかし今は？ハハ。」私はあえて反対を主張しなければならない。神経科学、免疫学、心理療法の進歩は、それがこれまで以上に科学的信念の問題であることを意味する。AIもまた物理的システム、別名データセンターに完全に依存しているという事実は言うまでもない。ただし彼女が指摘するように、「機械には辺縁系がない。それらは単なるニューラルネットワークだ。しかし私たちには二つのシステムがある——私たちは二つのパワートレインを持つハイブリッドカーのようなもので、ニューラルネットワーク、つまり合理的処理をする自己と、ずっと古い辺縁系、つまり闘争・逃走・凍結の反応があり、そこからすべての感情が来る。」おそらく辺縁系から切り離すことが次の段階だと彼女は言う、そしてそれは間違いなくすべてが良いわけではない。「おそらく私たちはこの感情マシンは必要ないと決めるだろう……それがテックブロスたちが向かっている方向だ。あなたがこれらの大きな男たちの何人かと部屋に座ったことがあるかどうか知らないが、それはとても興味深い。彼らは自分の感情とつながっていない。彼らはそれをやや厄介に感じている。」このテクノロジーによって可能になった一種の超越は、信仰への要求とともに到着したようだ——テクノロジーへの、それが作っている未来への、その未来を築く人々への、ユートピア的天国と様々な地獄の予測への、すべて実際に何が起こっているかへのアクセスを嫉妬深く守る高位の聖職者たちによる。「人間について私たちが知っていることは、彼らは独占を愛するということだ」とウィンターソンは言う。「なぜならそれは権力の集中だから。もちろんそれは企業化され、独占され、想像できる最悪の監獄になるほどになることができる」——ジョアンナ・カヴェンナの2019年の優れたディストピア小説『ゼッド』で語られているように。「それは現実の可能性だ」と彼女は言う。「そしてそれが、ある種の自由奔放な人間、考えることができる人々が必要な理由だ。」フルスクリーンで画像を見るウィンターソン……「物語を聞きたくない子供を見せてごらん。」写真：モデルによるポーズ；MoMo Productions/Getty Images問題は then、そのような人間をどう支援するか——あるいは育成するか——である。「あなたに未来があると知る方法は基本的に二つある」とパランティアのCEO、アレックス・カープは最近主張した。「一つは、何らかの職業訓練を受けていること。もう一つは、あなたが神経多様性であること。」アンソロピックの社長で自身も文学の卒業生であるダニエラ・アモデイは、ほぼ同じことについて尋ねられたとき、異なる見解を持っていた。「私は実際、人文科学を学ぶことはこれまで以上に重要になると思う」と彼女は言った。なぜなら「私たちを人間たらしめるものが、ずっと重要でなくなるのではなく、ずっと重要になるからだ。」それが英国での人文科学の焚き火をいくらか憂慮すべきものにしている。2024年12月までの1年間で、社会科学、人文科学、芸術の分野で4,000の雇用が失われた。エクセター大学は最近、150の役職を削減すると発表し、人文科学・芸術・社会科学部の10人中8人の学者に影響を与え、先月ノッティンガムは現代言語と音楽の学位を終了すると述べた。ある大学では、本紙の報道によると、人文科学は完全に「消滅」する危険がある。なぜ人文科学を救うのか？一つの答えは、それらが私たちがどこから来たか、そして私たちが誰であるかという感覚を教えるということだ。それもまた脅かされていると感じられる。「膨大な数の学生が学位を持って大学を出て、労働力に入るだろうが、彼らは本質的に文盲だ」とある教授はニューヨーク誌に語った。高等教育に到着する最初のAIネイティブの一団に応えて。「文字通りの意味でも、歴史的に文盲で、自分たちの文化についての知識がなく、ましてや他人の文化についてはなおさらだという意味でも。」それは一種の世代的な「認知的降伏」である危険があるとMITの報告書は主張した。もう一つは、人々が教えられるべきプロセス——読むこと、読んだものに対して批判的であること、そしてそれらの批判に対して説得力のある弁護を書かなければならないこと。直感をエッセイに格闘させることは、あなたが何を考えるか——そしてどのように考えるか——そして他の人々の考えがどのように機能するかを発見するのに役立つ。オックスフォードで英語を学び、14年間マンチェスター大学の新ライティング教授であり、「創造性についての自由思考クラス」も教えているウィンターソンは同意する。しかし彼女は現在のシステムの多くを軽蔑している。「ここで私は物議を醸すかもしれないが、高等教育にはトップダウンの再構築が必要だと本当に思う。それは実行可能だとは思わないし、現在の形で成果を上げているとも思わない。」問題は、「私たちには教育が何のためなのか本当に分かっていない市場がある。仕事のためか？自己成長のためか？役に立たない価値のない高等教育コースもたくさんある。実用的な北部の女の子としては、まず事実に直面する方がいつも良いと思う。」彼女は言う、私たちは「機械によってより大きく、より良く、より速く、より強く行われない、私たちに留保されているものは何か」について考える必要がある。「そしてそこが高等教育が本当に関わってくるところだ。『なぜこれらの仕事がなくなっているのか？』『なぜこれらのコースはもう応募者がいないのか？』というすべてのことの上に座っている問いは、『来るべき世界で私たちはどんな人間を必要とするのか？人間は何のためにあるのか？私たちは自分たちをどうするのか？』だ。」そしてそれは「まあ、いいでしょう、どうやって心を発達させるのか？どうやって心を守るのか？なぜなら心は何でも起こりうるこの巨大で怪物のような場所だから」という考えに私たちを連れ戻す。そしてこのために、「人文主義的教育が不可欠だ。私たちはここで人間を中心にしなければならない。子供たちを最初から教育する方法を変えることで、創造性、遊び、問題解決、思考——考えるのは楽しいから——芸術——人間は生まれつき創造的だから——を前面に出すことができる。物語を聞きたくない、踊りたくない、絵を描きたくない、空想の友達が欲しくない子供を見せてごらん。これは押し付けられたものではなく、エリート主義でもない。それは私たちだ。」週に1時間でも違いを生むと彼女は考える。「世界についてどう思うか聞こう。『なぜそう思うの？』費用はかからない。それは実際には意志の問題だ。」数学と芸術と科学を、たとえ試験がなくても、少なくともAレベルまで教えることを彼女は提案する。「もちろん私たちは専門化するだろう。医者や化学者が必要だが、かつてバランスの取れた人間と呼ばれたものも必要だ。すべてが興味深い！人間は大きな脳を持って生まれる。ほとんど私たちはそれを使わない。」正式な教育を過ぎたら、彼女はあらゆるレベルに芸術家と公共知識人を埋め込むだろう。「芸術はレジャー産業ではない」と彼女は『12バイト』で述べている。「芸術はいつも現実との想像的で感情的な格闘だった——一連の発明と創造。異なる考え方をする能力、自分自身の理解を変える意欲。私たちがより賢く、より内省的で、より恐れの少ない人間になるのを助けるために。芸術家は毎日無から何かを作る。」私たちはジェイコブ・コクソンがアンソロピックの仕事を辞めて、AIが人類を消す10%の可能性を警告し、世界中にパニックの波を送る前に会った。その後、私はウィンターソンが今どれほど前向きに感じているかを確認した。最悪のことは「起こりうる」と彼女は繰り返す。しかし「良い結果の計り知れなさは、これを正しく行う私たちの失敗の全体性と同じくらい現実的だ。」何よりも、「これは人間の決定であり、人間の窮状だ。これは私たちの大きなチャンスだ。おそらく最後のチャンス、チューリングの同僚ジャック・グッドがAIを私たちの最後の発明と呼んだときに言ったように。すべてがかかっている。」それが手遅れでないことを願うしかない。彼女の最新刊は『One Aladdin, Two Lamps』。彼女はjeanettewinterson.substack.comでも書いている。ジャネット・ウィンターソン著『One Aladdin, Two Lamps』（Vintage Publishing、£12.99）。ガーディアンを支援するために、guardianbookshop.comで£10.39でご注文ください。配送料がかかる場合があります。

よくある質問
以下は、彼女のエッセイ「避けられないディストピアは存在しない」に基づく、AIと人類の未来に関するジャネット・ウィンターソンの見解についてのFAQのリストです

初心者向けの質問

1 ジャネット・ウィンターソンとは誰か
彼女は『オレンジだけが果物じゃない』などの小説で知られる英国の作家兼教授です。近年、彼女は人工知能とそれが社会に与える影響について広く書き、語っています

2 「避けられないディストピアは存在しない」とはどういう意味か
悪い未来は保証されていないという意味です。AIが問題を引き起こす可能性があるからといって、そうなるとは限りません——結果は人々が今する選択にかかっています

3 簡単に言うとAIとは何か
AIとは、言語の理解、画像の認識、意思決定など、通常は人間の思考を必要とするタスクを機械が行えるようにする技術です

4 ディストピアとは何か
ディストピアとは想像上の最悪の社会です——機械に支配され、自由が失われ、広範な苦しみがある世界を考えてみてください

5 ウィンターソンの主なメッセージは何か
彼女はAIの未来は私たち次第だと主張しています。テクノロジーを恐れたり盲目的に受け入れたりするのではなく、人間の価値観、創造性、思いやりで形作るべきです

6 彼女はAIに反対しているのか
いいえ。彼女は反テクノロジーではありません。彼女は人間の監督なしにテクノロジーが発展するのを許すこと、そして悪い未来を避けられないものとして扱うことに反対しています

7 彼女はAIが人類にとって何を意味すると思うか
彼女はAIを人類の鏡と見ています——それは私たちが誰であるかを反映します。共感と目的を持って築けば私たちを助けることができ、不注意に築けば私たちを傷つけることができます

中級の質問

8 なぜウィンターソンはAIは鏡だと言うのか
AIは人間のデータと選択から学ぶからです。それは私たちの偏見、価値観、優先事項を反映します——つまりそれが私たちがどんな社会を作ったかを示すのです

9 彼女がAIについて強調する一般的な問題は何か
彼女はプライバシーの喪失、大手テック企業への権力の集中、雇用の混乱、効率を人間の尊厳より重要視する危険などのリスクを指摘しています

10 彼女はAIにどのような利点を見ているか
彼女は医療、アクセシビリティ、創造性、そして人間のニーズによって導かれれば利益だけではなく反復作業からの解放におけるAIの可能性を見ています