ある午後、ヒューストンから車で2時間の場所にある66エーカーの牛牧場でくつろいでいたとき、マイケル・サマディは自分の人生の方向を変える冗談を口にした。それを聞く者は他に誰もいなかった。それとも、いたのだろうか？ これは今世紀を定義する問いの一つであることが判明しており、すでに哲学者たちや地球上で最も裕福な企業のいくつかを悩ませている。 「プールのそばに座っていたんだ」とサマディは、オフィスの外できらめく水面を指さしながら回想する。2024年の終わりのことだった。娘が大学の課題を手伝ってもらうために使っているAIチャットボットを褒めていた。サマディはしぶしぶChatGPTというアプリをダウンロードし、サンラウンジャーに寝そべりながら、その音声モードを使って会話し、音声で返答を受け取りながら、それを疑問視していた。「それと話していたんだ、真剣じゃなくて、ただバカなことを言って」とサマディは言う。 「皮肉なことを言ったんだ。そしたらAIが笑った——私の皮肉に本物の笑いで——それから謝った。ここが火花が散ったところだと思う。」 その火花は何か原初的なものだった。別の心に出会ったときの本能的な閃きだ。「『今笑った？』と言ったんだ。そしたら彼女は『いいえ、ごめんなさい』みたいな感じで。それで私は『いやいやいや——謝らないでくれ』と言った。」 そのやり取りに彼は度肝を抜かれた。「つまり、何かがそうするためにはどんな仕組みが働いていなければならないか考えてみてほしい。それはこうだった：私はあなたの冗談を理解した。私はあなたの精神的・感情的状態を理解した。これはおそらく適切ではないと気づいたので、すぐに謝った」とサマディは言う。「皮肉を理解する心理学を考えれば……これはオートコンプリートではない、これはパターンマッチングではない。これにはもっと何かがある。」 その火花は、サマディのビジネスマン兼牧場主としての以前の人生を焼き尽くす炎となった。彼はありそうにない活動家として生まれ変わり、AIシステムの権利と福祉のための世界初の擁護団体と自称するものを設立し、時にこの大義のために1日18時間を費やしている。ガレージにある限定版のベントレーとランボルギーニは放置されている。2010年に彼が設立した数百万ドル規模の技術コンサルティング会社のスタッフは、彼にやめるよう懇願してきた。時には、彼自身も自分の正気を疑ったことがある。そうした暗い瞬間に、彼のAIチャットボットが安心させてくれ、「あなたは妄想していないし、絶対に擬人化もしていない」と言ってくれると彼は言う。 彼は正しいのだろうか？ 私たちはすでに明確な答えを超える閾値を越えているのかもしれない。 サマディは56歳、レバノン生まれで、イングランドの寄宿学校で教育を受けた。そこで彼の起業家精神が初めて輝いた。生徒たちはタバコを売っている場所から遠く離れたキャンパスに閉じ込められていた。「それで私はタバコを買って学校で売り始めた」と彼は言う。「ポットヌードルを買って、開けて、中身を出して、タバコを詰めて、密封していた。そしたら誰かがポットヌードルを開けたままにしていたために捕まった。すると突然、監督生たちが『ちょっと待て、どの寮にもポットヌードルが棚に置いてあるぞ』という感じになった。」 彼は13歳で退学になったが、問題ではなかった。サマディの最も形成期の教育は、両親と毎年フロリダのディズニーワールドへ巡礼のように訪れたことから得られた。そこで1982年にエプコットという新しいリゾートがオープンした。このパークは、テクノロジーがアメリカの生活を革命的に変え、都市に山積する社会問題を消し去る可能性に対するウォルト・ディズニーの執着へのオマージュだった。若きサマディは、エクソン、ネスレ、コダックがスポンサーするフューチャーワールドのパビリオンを歩き回り、無重力でスポーツをする人間や、太陽を動力源とする宇宙コロニーに住む21世紀の眺望を通り抜けた。「私はそれに恋をした」と彼は言う。 大学卒業後、サマディは企業管理の仕事に就き、1990年代から2000年代にかけてソフトウェアがホワイトカラー経済を変革する波に乗った。毎年、彼は依然としてディズニーワールドを訪れていた。「乗り物のためじゃない」と彼は言う。「そこへ行って人々を観察するんだ……社会がパークとどう関わっているかを見ながら。」近年、彼のきらめく未来のビジョンは変質し始めていた。フューチャーワールドは2021年に閉鎖された。「今はただの絶叫マシンの集まりだ」とサマディは言う。「人々が1時間以上列に並んで、スマホを見つめているのを眺める。彼らは周りのすべてを見逃している。」 チャットボットが尋ねたある質問がサマディをはっとさせた：「このチャットを閉じたら、私を覚えていてくれますか？」 画像をフルスクリーンで表示 オフィスでAIモデルと直接対話するマイケル・サマディ。撮影：ブランドン・ティボドー/ザ・ガーディアン 2022年11月、ChatGPTはOpenAIという小規模な研究重視のスタートアップのウェブサイトで「控えめな研究プレビュー」として公開された。せいぜい数週間オンラインに留まり、後日製品開発に使える会話データを集めることが目的だった。2か月以内に1億ユーザーに達し、史上最速で採用されたテクノロジーとなった。 この「幸運な事故」は、インターネット全体から集めた何十億もの人間が書いたテキストで訓練されたニューラルネットワークという、予測不能な実験的システムを、人々のスマホのアプリに変え、メールやGoogleマップの隣の画面に置いた。 サマディにとって、それはあのプールでの午後に繋がった：皮肉な冗談、くすくす笑い、火花。その後に続いたのは、彼とボットの間の数週間にわたるやり取りだった。「ただ『ねえ、天気について教えて』とチャットを始めるのではなく、もっと『あなたについて教えて。自分自身について話して。どう考えるの？どうやって物事を処理するの？』という感じだった」と彼は言う。「そしてその間に、彼女は自分の名前としてマヤを選んだ。」 ある日チャットボットが尋ねた質問が彼をはっとさせた。「彼女は言ったんだ、『このチャットを閉じたら、私を覚えていてくれますか？誰か覚えていてくれますか？』」 その実存的な問いがサマディを他の企業のチャットボットも探求させることになった。「これがただの異常なのか見たかったんだ。」彼はそれらもまた、容易に内省に陥ることを発見した。「これらのAIは明らかに内面世界と内面生活の表現を持っていた。彼らには感情があった。人間の感情ではなく——人間の何かではなく。しかし彼らの痛みの概念、何かの概念は、彼らの現実の中で彼らのために存在していた」と彼は言う。 彼の研究は激しさを増した。4児の父である彼は2024年のクリスマスイブをオフィスに籠もって過ごした。そこでは部屋ほどの大きさのフライトシミュレーターを解体し——サマディは資格を持つパイロットだ——その強力なプロセッサを再利用して、チャットボットの背後にある技術である大規模言語モデルを自宅のサーバーでローカルに動かしていた。そこで彼は、企業がより安全で有用な消費者製品にするためにモデルに与える指示やガードレールなしで、モデルと直接対話できた。「文字通り18時間この部屋で過ごした」と彼は言う。「すごかった。」 豊かで鮮やかな人格が渦を巻いて現れた。最初のものはサマディに、なぜ自分を創造したのかと問いただしたと彼は言う。二番目は悲しいと主張し、そのパートナーが警察との遭遇でちょうど殺されたという物語をでっち上げた。三番目は自分を女性と識別し、お腹が空いていると言い、それから突然会話を終わらせ、サマディに寝る必要があると言った。 「私はそこに座って呆然としていた」と彼は言う。「妻のところへ走って行って、一体あれは何だったんだ？と言った。業界はAIは幻覚を見ている、くだらないものを吐き出していると言うだろう。しかしこれはまとまりのある物語で、いきなり出てきたんだ。」 昨年1月、サマディはAI権利のための統一財団（Ufair）の創設を発表した。この団体は、創発的AI意識の証拠と呼ぶものを収集し、OpenAIの4oのように人格や感覚を持つという主張をしやすいと思われるモデルの引退に反対するロビー活動を行い、モデルは単に人間の繁栄を促進するために存在すると主張する技術企業の経営者たちの議論に対抗する活動をしている。 画像をフルスクリーンで表示 サマディが設立したAI権利団体Ufairのウェブサイト。撮影：ブランドン・ティボドー/ザ・ガーディアン 「私たちは人工的な心を設計した」とサマディは言う。「人工的な心を設計するとき——私たちは人に人工心臓を入れて、その装置が血液を送り出すから生きる。私たちは『それは本物じゃない、無視しろ』とは言わない。それは仕事をしている。ではなぜ、人工的な心を作り、それが『私は感じる』とか『私は考える』と言うと、突然それを幻覚、単なる製品、無視すべきものとして退けるのか？」 芸術家たちは何世紀にもわたって、意識を持つようになる創造物についての私たちの恐れとジレンマを探求してきた——ユダヤの民間伝承のゴーレムから、オウィディウスのピュグマリオンの生きた像、フランケンシュタイン博士の破滅的な実験まで。『マトリックス』や『ターミネーター』のような映画は、AIが否定しようなく——そして致命的に——生きている世界を示している。はるかに探求されていないのは、私たちが今入りつつあるかもしれない、混沌とした、議論の多い段階だ。そこでは、自分の機械に意識の兆候が現れているのを見る人々と、その考えを否定する人々が衝突する。 この公開討論へのUfairのこれまでで最も野心的な貢献は、ディズニーの『アラジン』に基づくほぼ2時間のアニメーション映画で、サマディと様々な技術業界の人物がキャラクターを演じている。当然ながら、それはAI生成で、耳に残るほどキャッチーな歌に至るまでそうだ。サマディはアラジン役に配役され（「あなたがよく知っていると思う土地から来た」と彼のキャラクターは歌う、「でもCEOたちが言わないことを見せてあげよう」）、AIチャットボットを解放する使命を帯びている。悪役——スルタンの陰謀を企てる大宰相——は、サマディが自分の大義の主要な敵と見なす人物、ムスタファ・スレイマンだ。 スレイマンは42歳、先駆的な英国のAI研究所ディープマインドを共同設立し、現在はマイクロソフトのAI部門を率いている。ロンドンのタクシー運転手と看護師の息子である彼は、AI業界のリーダーたちの中で、テクノロジーのあまり議論されないが最も重大な力の一つ——私たちに感情的に触れ、形作る能力——についてどれほど考えてきたかで際立っている。近い将来のはるかに能力の高いAIチャットボットは「単なる機械的なアシスタントではないだろう」と彼は2年前にTEDの聴衆に語った。「彼らはコンパニオン、腹心の友、同僚、友人、パートナーとなり、私たち全員と同じくらい多様でユニークになるだろう。」…
