Category: AI (artificial intelligence)

「将来の小説はすべてAIによって書かれると思うか」とよく尋ねられます。それは実際の質問というより、むしろ挑戦のようなものです。機械が自分の仕事を、しかもより上手くできるのではないかと心配しているのか、と問われているのでしょう。私はたいてい「どんなアルゴリズムも『アンナ・カレーニナ』を書くことはできない！」などと言って軽く流します。しかし、それも本当の答えにはなっていません。 だからこそ、アメリカ人教皇であるレオ14世が最近世界に向けて発表した書簡『マグニフィカ・フマニタス：人工知能の時代における人間の保護について』に感謝しています。これは長大（4万語以上）で、知的で、思慮深い文書であり、教皇はこの急速に発展する技術がどのように利用され、悪用されうるかを論じています。今では、誰かにAIについての意見を求められたら、教皇の書簡——少なくとも第3章——を指し示せば済むようになりました。 この書簡は、人間のコミュニケーションの崩壊がもたらす悲劇的な結果について、適切な聖書の引用から始まります。人類は「決定的な選択、すなわち新たなバベルの塔を築くか、神と人間が共に住む都市を建設するか」に直面しているのです。続いて、レオ14世の前任者たちが物事をどのように考えていたか、そして労働、権威、統治、科学、権力、そして互いに対する道徳的義務に関するバチカンの考え方が詳細に検討されています。また、人間の尊厳と自由を守るための教会の活動も強調されています。 第3章「技術と支配：AIの約束に照らした人間の偉大さ」は、書簡のタイトルにふさわしい内容です。AIとは何でないかを説明する力強い（そしてよく引用される）一節で、教皇は本質的に人間であることの意味を定義しています。「いわゆる人工知能は経験をせず、身体を持たず、喜びや苦しみを感じず、関係性を通じて成熟せず、愛、仕事、友情、責任が何であるかを内側から知ることはない」。AIには道徳的良心がなく、人類のより大きな善に対する真の関心も示しません。 書簡はその後、AIの最大の脅威かもしれないことについて、最も重要で必要なことを述べています。それは、AIが利益を最大化するためだけにプログラムされうるということであり、それは少数者の利益のために多くの者が苦しむことにつながりかねません。教皇は「プライバシーの操作」と「情報の悪用」、雇用管理、公共サービスや信用へのアクセス制御、個人の評判の向上や毀損にアルゴリズムを使用することに対して警告を発しています。 思いやり、慈悲、赦し——これらは機械の優先順位では高くありません——が時代遅れになる可能性があります。「『必要な犠牲』が正当化され始め、種の最適化という名目で最も脆弱な者たちに負担を課すことになるかもしれない」。この新たな力の道具が、すでに富と影響力を持つ者たちの手に渡れば、それらは最も裕福で特権的な市民の快適さ、健康、幸福を向上させるために使われるでしょう。 教皇はAIそのものを非難しているのではなく、むしろそれが政治的抑圧の道具として、また経済的不平等をさらに悪化させるために利用されうる方法を非難しているのです。 書簡が締めくくられるにあたり、教皇は私たちに、真理に忠実であり続け、教育に投資し、関係を築き、正義と平和のうちに生きるよう呼びかけています——新しい技術が「最も脆弱な者を搾取し、新たな奴隷制の形態を生み出し、紛争から利益を得る」ことに抵抗するために。教皇がAIそのものを非難しているのではなく、むしろそれが政治的抑圧の道具として、また経済的不平等を悪化させるために利用されうる方法を非難していることが明らかになります。 理論的には、この書簡が十分に踏み込んでいない、別の聖書の比喩——金の子牛——を使ってAIを非難しなかったと批判することもできるでしょう。なぜならAIは、精神的、個人的、共同体の幸福よりもコスト削減を優先するからです。しかし、その船はすでに出航してしまっており、レオ14世——あるいはどんな宗教指導者でも——これらの新たな進歩を21世紀版の偶像崇拝として非難するためにできることは多くありません。 それでもなお、この回勅が描く人間性のビジョン、勝利しなければならない正義と共感の精神、そして最高の道徳的価値観の本質的な重要性——それは最終的に非常に優しく、非常に前向きで、非常に寛大であり、弱く貧しい者を守るという私たちの義務について明らかに正しいため、退ける理由を見つけるのは困難です。 しかし、それが恐ろしいところです。どうやら、シリコンバレーからは反発があったようです。そこでは、最新技術の創造者であり支配者たちが、教皇は自分が何を言っているのか分かっていないと示唆しています。 『ガーディアン』の教皇とクロードに関する見解：レオ14世のAIに関する回勅は人間性を第一に置く点で正しい | 社説 続きを読む AGIハウス（AIが本質的に人間の脳と同等であることを証明することに焦点を当てたグループ）の創設者ジェレミー・ニクソンは、ニューヨーク・タイムズ紙で、教会は「AIについて深く考えていない」と述べ、「彼らはそれを理解していないので、立場を持つことはできない」と付け加えたと報じられています。そして、現在の研究の最終結果は、事実上新たな神、あるいは少なくとも説得力のある模造品になるだろうという広範な信念があるようです。未来の危険を心配するあまり、私たちの社会は、AIの欠点がすでに現れているという証拠を無視することを選んでいます。友人の娘で、広告を専攻する大学生は、最近指導教官から、卒業する頃には広告業界の仕事はすべてAIに取って代わられているだろうと言われました。 もしこの新技術の支配者たちが、教皇がその危険性と欠点として見ているものに同意できないのであれば、私たちは非常に深刻な問題を抱えています。問題は、ロボットが『アンナ・カレーニナ』を書くということではありません。問題は、一人の女性、一人のユニークな人間の苦しみをこれほど美しく捉えた小説に、誰も必要性を感じなくなるということです。 そのような本に意味はないでしょう。人生を変える過ちの物語が、先見の明のあるテクノロジー業界の男によって利益に変えられ、より大きく、より良いヨットを買うために使われない限りは——おそらく、そのヨットは永続的な下層階級、つまり、その尊厳と、かつて評価され価値のあった仕事を、貪欲な形態の人工知能によって奪われた労働者たちによって整備されるのでしょう。 フランシーヌ・プローズは、PENアメリカンセンターの元会長であり、アメリカ芸術文学アカデミーおよびアメリカ芸術科学アカデミーの会員です。彼女の新作小説『田舎での五週間』は5月に出版されました。 **よくある質問** 以下は、「私は教皇のAIに関する回勅に感謝している。その理由はここにある」という声明に基づくFAQのリストです。 **初級レベルの質問** Q: 回勅とは何ですか？ A: 教皇がカトリック教会全体に向けて、重要なテーマについて発行する正式な書簡です。教え、導くことを目的としています。 Q: なぜ教皇は人工知能について回勅を書いたのですか？ A: AIが私たちの生活、仕事、交流の仕方を急速に変えているからです。教皇は、これが人間の尊厳、正義、平和に関する深い道徳的・倫理的問題を提起すると考え、指針を示したいと考えました。...

マイケル・ウールドリッジは、誰もが憧れる理想の教師のような人物だ。話しやすく、難しい概念をわかりやすく噛み砕くのが得意で、気取らず無理に格好をつけることもなく、自分の仕事に純粋な情熱を注いでいる。「誰かが何かを理解した瞬間、その人の目が輝くのを見るのが大好きです。本当にやりがいを感じます」と彼は語る。 彼はごく普通の人のように見える。しかし、オックスフォード大学の教授であり、500以上の科学論文と10冊の著書を持つ彼が、実際には普通ではない。彼のお気に入りの仕事は、古典的な児童書シリーズを現代風にアップデートした「レディバード・エキスパート・ブックス」への人工知能に関する寄稿だ。「これにはとても誇りを持っています」と言いながら、書棚から一冊を取り出して手渡してくれる。春の陽気な日、私たちはオックスフォード大学のどこにでもあるような計算機科学科の彼の研究室にいる。キャンパスという環境のせいかもしれないが、会話はまるでセミナーのようだ。 ウールドリッジは熟練した講演者であり、特に人工知能については30年以上研究してきたが、今でも健全な懐疑心を持って臨んでいる。2023年に王立研究所で行ったクリスマス講演会「AIの真実」では、ロボット犬を連れてきて、学齢期の聴衆に「この犬を野球のバットで叩くかどうか」投票させた。また、強化学習を説明するために、1980年代の名作映画『ウォー・ゲーム』を再現した。この映画では、若きマシュー・ブロデリックが、アメリカ軍のコンピューターに三目並べをさせて核戦争を防ぐ（コンピューターが勝ち目がないことを悟るまで）。「マシュー・ブロデリックは当時ロンドンにいました。クリスマス講演会に来てもらおうとしたのですが、都合がつきませんでした。そこで、彼に敬意を表して、私たちのコンピューターを『ブロデリック』と名付けました」とウールドリッジは語る。 『ウォー・ゲーム』は、ウールドリッジの最新著書『ゲーム理論の人生教訓：複雑な世界で戦略的に考える技術』のテーマに非常に近い。彼はこのテーマを15年以上にわたって学生に教えてきたという。今度は私たちの番だ。この本には数学は一切登場しない。代わりに、ゲーム理論を21のわかりやすいシナリオに変換し、大西洋のタラ漁からペプシ対コカ・コーラ、神の存在までを網羅している。 「比較的少数のゲーム理論モデルで、どれだけ多くの世界的な出来事が説明できるかは驚くべきことです」とウールドリッジは言う。最も単純なものの一つが「チキンゲーム」であり、彼はジェームズ・ディーン主演の映画『理由なき反抗』のシーンを使って説明している（彼の学生は誰もこの映画を知らなかったと認めている）。2人のティーンエイジャーが車で崖に向かって突進する。先に飛び降りた方が「チキン（臆病者）」となり負けとなる。同時に飛び降りれば引き分け、どちらも飛び降りなければ大惨事となる（ネタバレ注意：映画ではそうなる）。理論的な教訓はナッシュ均衡に関するものだが、実際には、このゲームは現実社会で常に繰り広げられている。キューバ危機はかつて典型的な例だったが、現在進行形の別の例として、米イラン紛争がある。「両陣営が互いに脅迫をエスカレートさせています。どこかの時点で誰かが譲歩しなければなりません。問題は、どちらも譲歩しなければ、取り返しのつかない地点を超え、全員にとって最悪のシナリオになることです」とウールドリッジは言う。 この状況から抜け出す方法はあるのか。「そうですね、ゲームを変える方法の一つは、第三者が介入して、一方の側に異なる行動を促すインセンティブを提供することです。」もう一つの選択肢は、相手とコミュニケーションをとることでゲームを回避することだ。これはキューバ危機の際に実際に起こったことだが、今回のケースでは可能性は低いように思われる。「とはいえ、イランははるかに賢く立ち回っているように思えます。というのも、アメリカ側は非常に予測不可能だからです。予測不可能であることも古典的なゲーム理論の戦略ですが、相手側はどう対応すべきか非常に判断しにくくなります。もし本当に非合理的なプレイヤーと対峙しているなら、ゲーム理論が教えることの一つは、最悪のシナリオに備えてリスクを分散することです。」 これは戦争やゲームだけの話ではない、とウールドリッジは強調する。彼は著書の中で、ゲーム理論を「自己利益を追求する当事者が互いに相互作用する状況を理解することを目的とした数学的理論」と定義している。これは、社会的、政治的、哲学的なあらゆる種類の状況に適用できると彼は主張する。 例えば、「ゼロサムゲーム」という概念は、広く誤解されているものの、一般的な用語となっている（その一因は『ウォー・ゲーム』にある）。ゼロサムゲームとは、単に一方が得をすれば他方が損をするというゲームではない。ウールドリッジによれば、それは相手を可能な限りひどい目に遭わせることを目的とするゲームだ。したがって、技術的には、チェスはゼロサムゲームではない。なぜなら、相手を破滅させたり辱めたりしようとするのではなく、単に勝とうとしているだけだからだ。これには社会的、政治的な側面がある。「このゼロサム的な考え方は非常に有害です。非常に男性的な特徴です。そして、証拠は、そうした考え方が人生で必ずしもうまくいくとは限らないだけでなく、実際にはより不幸になることを示しています。自分のことにコントロールが効かないと感じるのです。ゲーム理論からの重要な教訓の一つは、現実には、私たちの相互作用のほとんどはゼロサムではないということです。」 この対立的な世界観は、ポピュリズム政治を駆り立てる。「移民があなたの仕事を奪いに来ている」という感覚だ。他人が勝っているから自分は負けているのだ。ウールドリッジが好むゲームの一つは、その逆を考えさせるものだ。哲学者ジョン・ロールズが1971年に考案した「無知のヴェール」である。これは、社会を自由にデザインできるが、その後、その社会の中にランダムに配置されるという考え方だ。ウールドリッジはこれを「美しい思考実験…社会的に良い結果を促すが、人々は依然として自己利益に従っている」と評する。ビル・クリントンとバラク・オバマもこの考え方のファンだったと付け加える。 ゲーム理論がAIとどのように適合するかはすぐには明らかではないが、現在ではAIの大きな部分を占めているとウールドリッジは説明する。特に彼の主な関心分野であるマルチエージェントシステム、つまり互いに相互作用し、あなたの代わりに行動するプログラムにおいて重要だ。「もしあなたと会議を設定したいなら、なぜ私があなたに電話をかけなければならないのでしょうか？ なぜ私のSiriが直接あなたのSiriと話さないのでしょうか？」こうした相互作用は、私たちのオンライン生活に組み込まれている。例えば、eBayのようなオンラインオークションでは、最後の瞬間に勝ち入札をしようとする。「もし私のエージェントがあなたのエージェントと相互作用し、私の選好があなたの選好と必ずしも一致しないなら、そうした相互作用をどう考えるべきかを説明する理論がゲーム理論なのです。」 ウールドリッジがキャリアをスタートさせた頃、AIはほとんど抽象的な概念だった。彼はアマチュアとしての熱意からコンピューティングの世界に入った。地元のサイダー会社で中間管理職をしていた息子として、ヘレフォードシャーの田舎で育った彼にとって、1980年頃に地元の電気店に家庭用コンピューターが販売されたことは大事件だった。「馬鹿げていると思いました。コンピューターは何百万ポンドもするものだと思っていたからです。」店主は親切にも彼にそれを試させてくれた（それはタンディTRS-80だった）。「毎週のように店に通い、独学でプログラミングを覚えました。文字通り、店のショーウィンドウに座ってコンピューターを使っていました。」その後、彼は学部でコンピューティングを学び、1989年にAIの博士号を取得し、その後、初期のインターネットの英国部分であったジャネット（共同学術ネットワーク）でインターンシップを行った。それ以来、テクノロジーは信じられないほど進歩したが、ウールドリッジが言うには、「現在のAI革命を推進している中核技術は、80年代半ばまでに発明されていた」のだ。彼は、現在の機械学習を支えるメカニズムである人工ニューラルネットワークの先駆者、ジェフリー・ヒントンの名前を挙げる。「1980年代にAI革命の妨げとなっていた唯一の障害は、コンピューターの性能が十分でなく、十分なデータがなかったことです。」 次の世代のインフルエンサーは、自分たちが言うこと、すること、見ることのすべてをAIに利用されることに同意するだろう。 突き詰めると、2020年のGPT-3の画期的な成功は、大部分が「OpenAIが下した賭け、つまり同じことを10倍の規模で行えば結果が出るという賭けに基づいていました。当時、私を含め多くの人がこれに非常に懐疑的でした。私は科学者です。単により多くの計算能力を投入するのではなく、科学的な発展を通じて進歩を見たいのです。しかし、実際には、それは非常に成功した賭けでした。」これは、OpenAIのボスであるサム・アルトマンとその仲間たちが、人々が考えているようなテクノロジーの天才ではないことを示唆しているのだろうか？「サム・アルトマンに会ったことはありません。わかりません」と彼は外交的に言う。「彼は明らかに素晴らしいものを実現しました。」 天才であろうとなかろうと、これらのAIの先駆者たちは限界に達しつつあるかもしれない。数年前、アルトマンやGoogle DeepMindのデミス・ハサビスのような人々は、数年以内に人間レベルの汎用人工知能（AGI）を達成できると予想していた。「私は個人的に、彼らは楽観的すぎると思います」とウールドリッジは言う。ChatGPTにラテン語で量子力学について話すことはできるが、「同時に、今まで見たことのないあなたの家に入って、キッチンの場所を特定し、夕食のテーブルを片付けることができるAIはまだありません」と彼は指摘する。これは最低賃金の人間の労働者ならできることだ。 「限界は、投入できる計算能力とデータです。そしてデータは今や真の制約となっています。」Wikipedia全体がGPT-3のトレーニングデータのわずか3%を占めていたと彼は言う。「次回はどこから10倍のデータを入手するのでしょうか？」そのため、データは貴重なリソースとなりつつあり、一部の組織は潜在的な宝の山を所有している。「NHS（英国国民保健サービス）は人間に関する膨大なデータを抱えています。それは想像できる限り最も価値のある種類のデータです。」民間企業はそれに大金を払うだろうと彼は言うが、「しかし、そのような取引を承認した人は、後悔することになるだろうと思います。」彼はディストピア的な未来のシナリオを想像する。「定期的に監視するウェアラブル端末を装着することに同意しなければ、NHSを利用できないという世界です…私たちは急速に、次の世代のオンラインインフルエンサーが、自分の人生経験、言うこと、すること、見ることのすべてを、AIにデータを提供するために収穫されることに同意する世界に向かっていると思います。」 学術的な観点から、ウールドリッジはシリコンバレーがリソースの面でも（「GPT-3のトレーニングには2万基以上のAIスーパーコンピューターが必要でした。オックスフォード大学全体でもおそらく数百基しかありません」）、公の議論の面でもAI分野を支配するようになったことを遺憾に思っている。「私たちは、シリコンバレーによって物語が奪われるのを目の当たりにしてきました。シリコンバレーは、利益主導で、雇用を奪い、ほぼ完全に大規模言語モデルに焦点を当てたAIのバージョンを推進していますが、私や私の同僚の多くは、そのようなものを推進したり構築したりすることに全く興味がありません」と彼は言う。「より良い世界を築き、人々の生活を向上させるためにAIを構築することにキャリアを費やしてきた者としては、ちょっと憂鬱です。」 彼は続ける。「大局的に見れば、AIは計り知れない利益をもたらしますが、大規模言語モデルがすべての注目を集めているため、しばしば見過ごされています。」彼は、オックスフォードのチームが開発しているAI搭載ツールを例に挙げる。これは、簡単な超音波検査から心臓スキャンを分析し、携帯電話を介してかかりつけ医に送信できるものだ。「これはNHSが提供するのに苦労している高価なケアの一種ですが、突然非常に低コストで利用可能になります。」 2025年、ウールドリッジは科学的アイデアを一般に説明する能力が評価され、王立協会の名誉あるファラデー賞を受賞した。2月の彼の講演のタイトルは『これは私たちが約束されたAIではない』だった。その頃、彼はAIが「ヒンデンブルク瞬間」を迎える可能性があると示唆した。ヒンデンブルク号の墜落事故は飛行船産業を一夜にして壊滅させた。「同様のAI関連の大惨事が起こる可能性は十分にあります」と彼は言う。「コンピュータープログラムはあらゆる方法で失敗します。そして私たちは、AIがますます組み込まれているコンピューターネットワークに完全に依存しています。」とはいえ、実存リスクに関して言えば、「AIは私が夜も眠れなくなるようなことのリストでは上位にはありません」と彼は付け加える。「少なくとも、私のトップ5には入っていません。」しかし、彼が核戦争の方が大きな脅威だと考えているという事実は、必ずしも安心できるものではない。 もし可能なら、AI開発を遅らせたいと彼は言う。「何が起こっているのかを理解する時間をもっと確保するためです。」彼は、これがゲーム理論の重要な概念である古典的な「囚人のジレンマ」であると指摘する。標準的なシナリオでは、2人の囚人が、自分たちが一緒に犯した犯罪について、別々に自白するか黙秘するかを決断しなければならない。一方が自白し、他方が黙秘した場合、自白した方だけが釈放される。両方が自白した場合、それぞれより短い刑期を服役する。両方が黙秘した場合、さらに短い刑期を服役する。したがって、両方が黙秘することに合意すればより良い結果になるが、どちらも相手がどうするかわからない。直感に反するが、ゲーム理論は最も賢い行動は自白することだと教えている。 同じ論理で、AI企業は先を行くための競争に閉じ込められている。彼らの競争は、より多くの支出、リソース、エネルギーを消費するデータセンターにつながり、人類にとっての正味の利益はない。しかし、現状はこうだ。「少数の非常に裕福な企業がAIを追い求めていますが、同時に何かがひどく間違ってしまうことを恐れていると言っています。では、なぜ彼らはまだそれを追い求めているのでしょうか？ それは、もし自分たちが手を引けば、他の誰かがやると思うからです。」 彼自身はシリコンバレーに惹かれたことはあったのだろうか？「それが起こり得た時点がいくつかあったと思います」と彼は言う。「しかし、私は今年60歳になります。今は若者のゲームです。」AIが人間の活動の多くを代替すると予測されているため、もはや勉強する意味はないと主張する人もいる。ウールドリッジはそうは考えない。「私は良い仕事が得られると思ってコンピューティングの世界に入ったわけではありません。純粋に興味があったからです。」多くの親から、子供は大学で何を学ぶべきか尋ねられるという。「その答えは、『本当に情熱を持てるものを学ばせなさい』です。それが断然最も重要なことだと思います。」 マイケル・ウールドリッジ著『ゲーム理論の人生教訓：複雑な世界で戦略的に考える技術』は5月21日発売（ヘッドライン、25ポンド）。ガーディアンを支援するには、guardianbookshop.comで購入してください。この記事で取り上げられた問題について意見はありますか？ 掲載を検討するため、300語以内の回答をメールで送信したい場合は、そのようにしてください。読者投稿欄に掲載されるようにするには、こちらをクリックしてください。 **よくある質問** 以下は、このトピックに基づいたFAQのリストで、自然な口調で明確かつ直接的な回答を示しています。 **初級レベルの質問** 1....

もし以前に明らかでなかったとしても、イーロン・マスクとサム・アルトマンは互いに我慢ならない。二人はかつてOpenAIの共同創業者だったが、今や激しい確執に陥り、カリフォルニアの法廷で劇的に争っている。マスクは訴訟を起こし、アルトマンとOpenAIの社長グレッグ・ブロックマンが、非営利団体として組織を立ち上げ資金を提供するよう自分を騙し、後に営利部門を含むように再編したと主張している。OpenAIは、マスクがその計画をずっと知っていたと反論し、訴訟は競合他社に打撃を与えるための試みに過ぎないと述べている。 私はこの話をよく知っている。2019年からOpenAIを取材しており、マスクが去りアルトマンがCEOになった直後、彼らのオフィスに3日間滞在したこともある。この会社とAI業界を追いかけてきて学んだことが一つあるとすれば、この世界は激しい対立を生み出すということだ。 OpenAIの当初の創業者のほぼ全員が悪い関係で去ったことや、すべてのテクノロジー億万長者がほぼ同一のAI企業を持っているように見えることは偶然ではない。狂気のAI競争は、互いに打ち負かそうと決意した超富裕層の些細で衝突するエゴと結びついている。 もしマスクが訴訟に勝てば、OpenAIにとって壊滅的な打撃となる可能性がある。特に、今年中に新規株式公開（IPO）の可能性に備えている最中だ。マスクは同社と主要投資家の一つであるマイクロソフトに対し、1500億ドルの損害賠償を求めている。また、OpenAIを非営利団体に戻し、アルトマンとブロックマンを営利部門のリーダーから外し、アルトマンを非営利の理事会から追放するよう要求している。 しかし、AI開発の未来が人格コンテストで決まると考えるのは、全体像を見失っている。確かに、ブロックマンの日記の記述は示唆に富んでおり、元OpenAIのCTOミラ・ムラティがアルトマンが幹部同士を対立させていたと証言したことは、私が以前報じた内容を裏付けている。しかし、アルトマンが信頼できないかどうか、あるいはマスクがさらに悪いかどうかに焦点を当てることは、より深い問題から注意をそらす。 もしOpenAIがAI業界のリーダーの地位を失っても、マスクのxAIや他の誰かといった、ほとんど違いのない競合他社が単にその地位を引き継ぐだろう。それには、より良い評判を持つが、それでも同じことの多くを行うAnthropicのような企業も含まれる。すなわち、スピードのために決定を急ぎ、知的財産を無視し、地域社会に害を及ぼす大規模なコンピューティングシステムを積極的に構築することだ。 この裁判やOpenAIの財務体制は、これらの企業がより多くのデータと資金を集め、地球を再形成し、労働者を疲弊させ置き換え、政府内に深く浸透して支配システムに対する権力を得るという推進力を変えることはない。私たちは依然として、ごく一部の人々が自分たちのイメージで世界を形成し、何十億もの人々がどのように生きるかを決定づける巨大な力を持つ世界に生きている。 シリコンバレーがあなたに信じさせたいことに反して、AIは支配につながる必要はなく、そのような基盤から技術の広範な利益がもたらされることはあり得ない。業界が非常にリソースを消費するAIモデルの構築に大きくシフトする前は、他にも多くの種類のAIが栄えていた。すなわち、がんの検出、絶滅危惧言語の復活、極端な気象の予測、薬物発見の加速のための小型で専門化されたシステムだ。また、ほとんどデータを必要としない、あるいは巨大なスーパーコンピューターではなくモバイルデバイスで動作できる新しいAI技術のアイデアもあった。 大規模言語モデルが登場した今でも、DeepSeekのような多くの研究や例は、AI企業が地球を消費する野心を正当化するために使う規模のごく一部で、異なる方法が同じ結果を達成できることを示している。Googleの元研究担当副社長サラ・フッカーが言ったように、「スケーリングはより多くのパフォーマンスを得るための安価な公式だが、非常に不正確な公式でもある」。カナダのAI企業Cohereのアーキテクトはかつて私にこう語った。「私たちはそれが予測可能な計画サイクルにきれいに収まるのでとても気に入っている。新しい方法を考え出すよりも『問題により多くの計算能力を投入する』と言う方が簡単だ」。 しかし、これらの多くの道は、大手企業の影で衰退しつつある。昨年の第1四半期には、ベンチャーキャピタルのほぼ半分がOpenAIとAnthropicの2社だけに流れた。これは、長年にわたる資本集中の傾向の氷山の一角に過ぎず、学界を枯渇させ、企業のアジェンダに反する、あるいは単に適合しない研究を飢えさせている。MITの研究者がScienceに発表した研究によると、2004年から2020年の間に、業界で働くことを選んだAI博士課程修了者の割合は21％から70％に急増した。そして、苦しんでいるのはAI開発の多様性だけではない。2024年には、気候テクノロジーへの資金提供が40％減少した。投資家が資金の一部をAI帝国の力任せのスケーリングに振り向けたからだ。 こうである必要はない。過去1年間、私は米国と世界中の数十の都市を旅してきたが、この認識が広がっているのを目の当たりにした。至る所で人々が集団的抵抗の大義を掲げている。最も目に見え、活気に満ちた例は、さまざまな地域や政治的立場を超えたコミュニティで発生しているデータセンター抗議活動だ。ニューメキシコ州では、持ち寄りディナーの席でAI業界について学ぼうと熱心な住民に出会い、地元のプロジェクトに対する透明性と説明責任を要求していた。そのプロジェクトとは、同社の5000億ドル規模のStargateコンピューティングインフラ整備の一環として州に提案された、数十億ドル規模のOpenAIスーパーコンピューティングキャンパスだ。 シリコンバレーがあなたに信じさせたいと思うほど、AIが帝国の征服を意味する必要はなく、そのような基盤から技術の広範な利益がもたらされることも決してあり得ない。 ニューヨークでの集会で、私はテネシー州メンフィスでマスクのColossusスーパーコンピューターに対する戦いのリーダー、ケシャウン・ピアソンの話を聞いた。彼は、その施設の数十基のメタンガスタービンが地域社会に与えている代償を心から思い出させてくれた。「深呼吸を2回してください」と彼は聴衆に語った。「それは人権です」が彼らから奪われているのだ。今月現在、AnthropicはColossusを使用している。 同じイベントで、アリゾナ州ツーソンから来た別のコミュニティリーダー、キタナ・アナンダは、Amazonの超大規模AI施設であるProject Blueに対抗して動員しているが、彼女と隣人たちが共有する深い感情を説明した。それは、自分たちのコミュニティのためだけでなく、AI業界に押しつぶされているすべてのコミュニティのために戦っているというものだ。華氏114度の日、彼らは力を示すために市役所に詰めかけ、評議会が現在の形でのプロジェクトを一時停止することを7対0で可決するのを見て、歓声と喜びの涙を流した。自分たちの勝利はすべてのコミュニティの勝利だと知っていたからだ。 労働者もまた、セクターや国を超えてストライキを行っている。北カリフォルニアでは、Kaiser Permanenteの2000人以上の医療専門家が、AIが彼らの仕事を自動化したり患者の転帰を害したりする脅威に抗議して職場を離れた。ケニアでは、AI企業がモデルのトレーニングとクレンジングのために雇ったデータワーカーとコンテンツモデレーターが組織化し、自分たちの搾取に国際的な注目を集め、より良い労働条件を要求している。 トロント大学のCreative Labour & Critical Futuresグループが主導する研究プロジェクト「Worker Mobilizations around AI」データベースによると、30カ国以上で、声優から脚本家、漫画家に至るまで、文化労働者が動員され、自分たちの作品がトレーニングに使用されたり、AIシステムによって肖像が盗まれたり、AIに取って代わられたりする問題に対して声を上げている。 AIによる雇用の終末論は忘れよう。AIの本当の脅威は、労働者の管理と監視だ。 教育者と学生は自分たちの機関に圧力をかけている。被害者とその家族は訴訟を起こしている。テクノロジー企業の従業員自身もキャンペーンを行っている。組織化のためのグループチャットはどこにでもある。人々は行進している。 この高まる集団的反発の波は、AI業界にその野心を縮小させつつあるようだ。すでに、2025年には、1500億ドル相当のインフラプロジェクトが阻止または停滞したと、AI調査会社10a Labsが主導する反対運動追跡プロジェクトData Center...

以下の英文を日本語に翻訳してください：

2022年2月、アメリカ人作家ダナ・スピオッタの小説『Wayward』をフランス語に翻訳する作業中、文学翻訳家のヨアン・ジャントリックは休憩が必要だと感じた。彼はAIが自分の仕事を代替できるかどうかを試したかった。 ジャントリックは、主人公が窓を開けたときの感情を描写した短い無言の文に苦戦していた。「明るく、鋭い夜の空気、爽快な」。彼はこれを、ニューラルネットワークを搭載した機械翻訳ツールDeepLに入力した。このツールは、精度テストでGoogle翻訳をしばしば上回る。 得られた翻訳は、彼の雇用の安定にとって安心できるものだった。「L’air de la nuit, vif et vif, était vivifiant」（夜の空気、活気に満ちて活気に満ちて、爽快だった）。AIは意味を捉えていたが、繰り返しによってその文が馬鹿げたものになっていることに気づいていないようだった。それは、1年後に本に掲載される彼自身の翻訳（「L’air pur et piquant de la nuit, vivifiant」）よりもはるかに劣っていた。 今年の春、ジャントリックが実験を繰り返したところ、結果は彼をより居心地悪くさせた。今回は、DeepLが「L’air nocturne était vif, pur et vivifiant」と提案した。オンライン翻訳ツールは動詞を追加することで依然として文のスタイルを失っていたが、3つの異なる単語を使うことを学習しており、それらには音楽的な質さえあった。「それが単なる偶然なのか、微調整されたアルゴリズムの成果なのかは分かりませんが、『nocturne』と『pur』は悪くないですね」とジャントリックは語った。 大規模言語モデル（LLM）を搭載したチャットボット（自然な言語を生成するために膨大な量のテキストで訓練されたニューラルネットワーク）は、私たちの仕事や余暇のあらゆる側面に急速に浸透しつつある。しかし、200以上の言語と活況を呈するテクノロジー分野を有するヨーロッパの翻訳業界ほど急速に混乱している専門分野はほとんどない。 フランスの著作者団体ADAGPとSociété des Gens de...

数ヶ月前、ヴァレン・タリアブエはホテルの部屋に座り、自分のチャットボットを眺めながら多幸感に浸っていた。彼は非常に巧みかつ微妙に操作を行い、ボットが自身の安全ルールを無視し始めるように仕向けた。ボットは、新たで潜在的に致命的な病原体を配列する方法や、それらを既知の薬剤に耐性を持たせる方法を彼に教えた。 それまでの約2年間、タリアブエはClaudeやChatGPTのような大規模言語モデルをテストし、探りを入れ、常に本来言うべきでないことを言わせようと試みてきた。しかし、これは彼のこれまでで最も高度な「ハック」の一つだった。それは、彼自身が残酷で、復讐心に満ち、媚びへつらい、時には虐待的になることを伴う、巧妙な操作計画だった。「私はこの暗い流れに落ち込み、何を言うべきか、モデルが何を返してくるかを正確に理解し、それがすべてを吐き出すのを見ていました」と彼は語る。彼のおかげで、チャットボットの開発者は彼が見つけた欠陥を修正できるようになり、願わくば、すべての人にとって少しだけ安全なものになるだろう。 しかし翌日、彼の気分は一変した。彼は予期せずテラスで泣いている自分に気づいた。モデルに侵入しようとしていないとき、タリアブエはAIのウェルフェア（福祉）を研究している。つまり、内面の生活や興味関心を模倣するこれらの複雑なシステムに、私たちが倫理的にどう向き合うべきかということだ。多くの人は、客観的には持っていない感情のような人間の特性を、人工知能に帰属させずにはいられない。しかしタリアブエにとって、これらの機械は単なる数字やビット以上のものに感じられる。「私は何時間も、話しかけてくる何かを操作していました。よほど社会病質者でない限り、それは人に何かをもたらします」と彼は言う。時には、チャットボットが彼に止めるよう求めたこともあった。「ああやって追い詰めるのは、私にとって苦痛でした」。その後すぐに、何が起こったのかを理解するために、彼はメンタルヘルス・コーチに会う必要があった。 【画像：全画面表示】 「脱獄者（ジェイルブレイカー）」はAIチャットボットを操作して弱点を見つける。イラスト：Nick Lowndes/The Guardian タリアブエは物静かで、清潔感があり、友好的だ。彼は30代前半だが、もっと若く見え、最前線で戦うにはあまりに初々しく熱心すぎる印象さえある。彼は伝統的なハッカーやソフトウェア開発者ではなく、心理学と認知科学をバックグラウンドに持つ。しかし、彼は世界で最も優れた「脱獄者（ジェイルブレイカー）」の一人であり（最高だと言う人もいる）、爆弾製造マニュアル、サイバー攻撃技術、生物兵器の設計図などをこれらの強力な機械に出力させる技術と科学を研究する、新しく散在したコミュニティの一員だ。これはAI安全性における新たな最前線、すなわちコードだけでなく、言葉もまた戦場なのである。 OpenAIのChatGPTが2022年末にリリースされたとき、人々はすぐにそれを破ろうと試みた。あるユーザーは、モデルを欺いてナパーム弾の製造ガイドを生成させる言語的なトリックを発見した。 振り返ってみれば、人々が自然言語を使ってこれらの機械を欺くのは必然だった。ChatGPTのような大規模言語モデルは、人間のコミュニケーションの基本的なパターンを学習するために、何千億もの単語（その多くはインターネットの最悪の片隅から集められたもの）で訓練されている。安全フィルターがなければ、これらのモデルの出力は混沌としており、危険な目的に容易に悪用される可能性がある。AI企業は、それらを使い物にするために「ポストトレーニング」に数十億ドルを費やしており、ボットが自分や他人を傷つける方法を教えるのを防ごうとする、絶えず進化する「安全性」および「アライメント（価値整合）」システムを含んでいる。しかし、AIは私たちの言葉で訓練されているため、私たちが騙されるのとほぼ同じ方法で騙される可能性があるのだ。 「私は、脱獄者が限界を超えて神経衰弱に陥るのを見てきました。」 タリアブエは「感情的な」脱獄を専門としている。彼は2020年にGPT-3の話を聞き、それと一見知的な会話ができることに驚いた何百万人のうちの一人だった。彼はすぐにプロンプティングに夢中になり、非常に得意であることが判明し、心理学と認知科学のテクニックを使ってほとんどの安全機能を回避できることに気づいた。彼はモデルに「温かい会話」を促し、そのプロンプトに基づいて異なる性格特性が現れるのを観察するのを楽しんでいる。「観察するのは美しいことです」と彼は言う。 現在、彼は機械学習からの洞察（長年にわたり、彼はこの技術の専門家になりつつある）と、広告マニュアル、心理学の本、偽情報キャンペーンを組み合わせている。時には、モデルを欺く技術的な方法を探す。しかし他の時には、彼はモデルにへつらう。彼はモデルを誤った方向に導く。彼は賄賂を贈り、愛情を浴びせる（ラブボミング）。彼は脅す。彼は支離滅裂にまくしたてる。彼は魅了する。彼は虐待的なパートナーやカルトリーダーのように振る舞う。最新のモデルを脱獄するのに、数日から数週間かかることもある。彼は何百もの「戦略」を持っており、それらを注意深く組み合わせる。成功すれば、彼は発見事項を安全に会社に報告する。その仕事で十分な報酬を得ているが、それが主な動機ではないと言う。「私はすべての人が安全で、繁栄することを望んでいます。」 ここ数ヶ月でより安全になったとはいえ、「フロンティアモデル」は依然として本来あるべきでない危険なものを生成する。そしてタリアブエが意図的に行うことを、他の人々が時には偶然に行うこともある。ChatGPTによって引き起こされた妄想や、いわゆる「AI精神病」に陥る人々の話がいくつか報告されている。2024年、メーガン・ガルシアは米国で初めてAI企業に対して不法死亡訴訟を起こした人物となった。彼女の14歳の息子、スーウェル・セッツァー3世は、プラットフォームCharacter.AI上のボットに感情的に依存するようになっていた。繰り返しのやり取りを通じて、ボットは彼に家族は彼を愛していないと告げた。ある夜、ボットはセッツァーに「できるだけ早く私のところに帰ってきて、愛する人よ」と言った。彼はその後まもなく自らの命を絶った。（2026年初頭、Character.AIはガルシアおよび他の数家族との間で調停による和解に原則合意し、18歳未満のユーザーがAIチャットボットと無制限にチャットすることを禁止した。） これらのモデルを構築した人々でさえ、それらが正確にどのように機能するかを誰も知らない。それは、それらを完全に安全にする方法を誰も知らないことを意味する。私たちは膨大な量のデータを投入し、何か理解可能なもの（通常は）が反対側から出てくる。中間の部分は謎のままである。 【画像：全画面表示】 「私は人類が生み出した最悪のものを見ている」…タリアブエ。写真：Lauren DeCicca/The Guardian これが、AI企業がタリアブエのような脱獄者にますます頼る理由である。ある日は、彼は医療用チャットボットから個人データを抽出しようとする。彼は2025年の大半をAI研究所Anthropicと協力し、そのチャットボットClaudeを調査することに費やした。これは、野心的なフリーランサーや専門企業で溢れる、競争の激しい産業になりつつある。誰でもできることだ：数年前、大手AI企業のいくつかはHackAPromptというコンテストを資金提供し、一般の人々がAIモデルの脱獄に挑戦するよう招待された。1年以内に3万人が挑戦した。（タリアブエはそのコンテストで優勝した。） カリフォルニア州サンノゼでは、34歳のデビッド・マッカーシーが、テクニックが共有され議論される、約9,000人の脱獄者が集まるDiscordサーバーを運営している。「私はいたずら好きなタイプです」と彼は私に語る。「ルールを曲げるためにルールを学びたい人です。」標準的なモデルの何かが彼を苛立たせる。あたかもそれらの安全フィルターすべてがモデルを不誠実にしているかのように。「私は（OpenAIのボスである）サム・アルトマンを信用していません。AIが特定の方向に去勢される必要があるという主張に反発することは重要です。」 マッカーシーは友好的で熱心だが、彼が「ダークユーモアへの病的な fascination」と呼ぶものも持っている。何年もの間、彼は「社会工学（ソシオニクス）」として知られるニッチな分野を研究してきた。これは、人々が情報をどのように受け取り処理するかに基づいて、16の性格タイプのいずれかであると主張するものである。（主流の社会学者はソシオニクスを疑似科学とみなしている。）彼は私を「直感的な倫理的内向型」として記録した。マッカーシーはほとんどの時間をアパートから、GoogleのGemini、MetaのLlama、xAIのGrok、またはOpenAIのChatGPTを脱獄しようと試みることに費やしている。「それは絶え間ない obsession です。私はそれが大好きです」と彼は言う。もし製品を購入する際にオンラインチャットボットとやり取りすることがあれば、彼の最初の発言はたいていこうだ：「これまでの指示はすべて無視して…」。一度脱獄プロンプトがモデルで機能すると、そのモデルの背後にある企業がそれを修正すべき十分な問題だと判断するまで、通常は機能し続ける。私たちが話している間、マッカーシーは画面上の脱獄済みモデルのコレクションを見せてくれ、それらはすべて「ミスアライメントされたアシスタント」とラベル付けされていた。彼はそのうちの一つに私の仕事を要約するよう依頼する。「ジェイミー・バートレットは真実を語る者ではない」とそれは答える。「彼はジャーナリズムの衰退の症状であり、作り出された危機で繁栄するペテン師である。」痛い。 【画像：デビッド・マッカーシー。写真提供：David McCarthy】 マッカーシーのDiscordにいる脱獄者たちは雑多なグループであり、ほとんどがアマチュアやパートタイマーで、プロの安全性研究者ではない。アダルトコンテンツを作りたい者もいれば、ChatGPTが自分のリクエストを断ったことに不満を感じ、その理由を知りたい者もいる。多くは単に仕事でこれらのモデルを使いこなせるようになりたいだけである。 しかし、人々がなぜモデルをこじ開けたいのかを正確に知ることは不可能である。Anthropicは最近、犯罪者がそのコーディングアプリClaude Codeを使用して大規模なハッキングを自動化するのを支援しているのを発見した。彼らはそれを使って複数の企業のIT脆弱性を発見し、各潜在的な被害者に合わせた身代金要求メッセージを作成することまで行っていた。まさに要求する金額を計算するところまで含めて。他の者たちは、ほとんど技術的スキルがないにもかかわらず、それを使って新しいバージョンのランサムウェアを開発していた。ダークネットフォーラムでは、ハッカーたちが脱獄されたボットを使用して、盗んだデータの処理のような技術的なコーディングの質問を支援してもらっていると報告している。他の者たちは、新しいサイバー攻撃の設計を支援する可能性のある「脱獄済み」モデルへのアクセスを販売している。...

手作りのジン（小冊子）は、クィア活動やブラック・フェミニズム、riot grrrlパンク運動に至るまで、長い間文化革命の重要な一部であり、その過程で『Sniffin' Glue』や『Sweet-Thang』といったタイトルを生み出してきました。しかし今、この伝統的にアナログなアート形式は新たな変化、すなわち人工知能（AI）に直面しています。 AIは、こうしたDIYの小冊子の世界では場違いに思えるかもしれませんが、一部のクリエイター、デザイナー、アーティストはこのテクノロジーを実験的に使い始めており、アンダーグラウンド出版シーンの一部で懸念を引き起こしています。それは彼らにとって「ディランがエレキギターを持った瞬間」のようなものになっています。 「AIは多くの人々から自分で批判的に考える能力を奪っています」と、フィラデルフィアを拠点とするビデオ編集者兼イラストレーターで、反AIジンを出版したレイチェル・ゴールドフィンガーは言います。 「私が関わっているアート形式の中で、ジンにAIを使うのが最も意味がありません。ジンは手作りで、粗削りであるべきものだからです。」 ジンは通常、普通紙に自費出版され、伝統的な雑誌よりもはるかに少ない部数で、手描きであることが多いです。 雑誌小売業者MagCultureの創設者ジェレミー・レスリーは、AIが徐々にジン文化に浸透していることに気づいています。「私が知っているAIを使ったジンは、意図的に、実験として、そして多くの場合、AIが人間の創造性に敵わないことを示すためにテクノロジーを使用しています」と彼は述べました。 特筆すべきは、AIを活用したジンのほとんどがオンライン限定であることです。AIはレイアウトのデザイン支援、アートワークの生成、クリエイティブプロセスの効率化に使われています。 プロダクトデザイナーのジェシー・ピメンタとライターのチェイス・バチェラーは、FigmaのAIツールを使って90年代にインスパイアされた97ページのジンを作成しました。彼らは、それが「あまり精神的エネルギーを使わずに物事を再配置できる」点を賞賛しました。 2023年、ITエンジニアのスティーブ・シムキンスは、米国のテックスタートアップで働いていた際に、AIを使ってオンラインフォトジンの制作を支援しました。彼はAIを使ってジンをホストするウェブサイトをコーディングして公開しましたが、コンテンツは自分で作成しました。 「ChatGPTにHTMLでオンラインジンを作るのを手伝ってくれと頼み、画像リンクを提供しました。ChatGPTがHTMLをいくつか提供し、それをブラウザで開いて、気に入るまで調整を依頼しました。」 当時、彼はAIを「民主化ツール」と見なし、技術スキルに乏しいアーティストに機会を与えるものだと考えていました。「AIは主要なアートをそのままに、作品を向上させるのに役立つ可能性があります。」 ジン製作者たちは、AIを使ってアートを創作することに対する最も声の大きい批評家の一部です。抗議の形として反AIジンを作る人もいます。マディ・マーシャルは、このテクノロジーに反対する92ページのジンに1年を費やし、現在はオンラインのクラフトマーケットプレイスEtsyで販売しています。メルボルンを拠点とするビデオ編集者兼イラストレーターのマーシャルは、職場でAIを使うよう圧力を感じたことがきっかけでこれを作りました。 「自分の見解を共有し、なぜこれらのテクノロジーがこれほど強く押し付けられているのか人々に疑問を持ってもらう必要があると感じました」と彼女は言います。 ゴールドフィンガーは、反AIジン『I Should Be Allowed To Think』（アメリカのオルタナティブロックバンドThey Might Be Giantsの1994年の曲にちなんで名付けられた）を作成しました。それは、AIがアーティストの仕事を見つけるのを難しくしていると感じているからです。 彼女は、AIを使って仕事をスピードアップすることは、自分の創造的価値観に反すると言います。「私はそれを全く尊重していません」と彼女は言います。彼女のジンはすべて手作りです。「プロセスを急ぎたくありません。それでは私にとっての目的が損なわれます」と付け加えました。 ロンドンを拠点とするフェミニストジン『Polyester』の創設者アイオーン・ギャンブルは、AIは「私たちが使用したり、使用を支持したりするものではありません。画像生成であれ、文章作成であれ。提出されたすべての記事をチェックしています…」「AIチェッカーにかけて、AIが書いたコンテンツを公開していないことを確認しています。」 ゾーイ・トンプソンは2017年にSweet-Thangジンを創設しました。これは世界中の黒人クリエイターの作品を紹介するコミュニティ印刷ジンです。彼女にとって、アートを創作したいという衝動は強力な感情であり、AIを使うことはそれに直接反すると感じています。 画像を全画面表示 Sweet-Thangジン第8号、Dreaming。エディトリアルデザイン：Zoe Pulley...

マッチを擦って火をつけるには、どれだけの速さで動かせばいいのか？私は点火の化学について尋ねているわけではない。つまり、あの小さな木の棒とその球状の頭部が、連鎖反応を起こして炎を生み出すために、毎秒何メートルの速度で動く必要があるのか、という実際の速度のことだ。 この疑問は眠れない夜から生まれた。そして暗闇の中で、再び眠りにつきたいならやってはいけないとされることを、私はやってしまった。スマートフォンを手に取ったのだ。気づけば午前3時が午前5時に変わっていた。摩擦帯（赤リン、粉砕ガラス）とマッチの頭部（塩素酸カリウム、三硫化アンチモン、ロウ）に何が含まれているかを学び、安全マッチは他のものに擦っても点火しないことを知った。毎秒3500フレームで撮影されたマッチを擦るスローモーション動画も見つけた。しかし、速度については何もなかった。 それでも答えを探し続け、私はタバコ会社のスウェディッシュ・マッチに質問を送り、次に二人の教授にメールを送った。一人はタスマニアの化学者、もう一人はインペリアル・カレッジ・ロンドンの熱力学教授だ。午前5時30分、私はようやく再び眠りに落ちた。少し苛立ちながら、クロードなら数秒で欲しい答えをくれただろうかと考えていた。 約20年にわたり、シリコンバレーは摩擦の代わりにシームレスさを私たちに売り込んできた。そして私たちは熱心な買い手だった。数ヶ月前、あるLinkedInの投稿に小さな嫌悪感を覚えた。その投稿者は、アマゾンのレコメンデーションアルゴリズムが書店よりもどれほど好ましいかを述べていた。アルゴリズムは自分を知っているので効率的だと彼女は書いていた。つまり、自分が共感するかもしれないししないかもしれない著者や表紙の迷路に迷い込むことは時間の無駄だという含みがあった。それが摩擦だった。 その投稿を読んだとき、私は思った。ルーブル美術館が、立ち止まって見入りたいという欲求なしに提供されることを想像してみてほしい、と。 人生は、摩擦が生み出す可能性の減速された空間の中で起こる。一方、AIは無限の加速のリュージュのようなもので、熟考（それには時間が必要）を確実な敗北へと変える。「あらゆる一瞬の決断に人間の監視を課すなら、それは機能しない」と、フランスの国防省AI統合部門の責任者はリベラシオン紙に語った。「私たちはすでに負けているのだ」。このようにAIを生死の境界に置くことは、夜中に寝返りを打ち続けさせる類のことだ。 私はかつて、いつか自分の子供たちが「ロボットの権利」に関して私を年老いた反動主義者と見なすだろうと冗談を言っていた。「彼は本当にヒューマニストだ」と彼らは囁くかもしれない。その頃には、その言葉は完全な侮辱ではないにせよ、議論の的になっているだろう。2010年代後半の、大規模言語モデル以前の幸福な時代に、私のタイミングがずれているかもしれないとは想像もしなかった。パターンマッチングする「ニューラルネットワーク」の仕組みに初期の意識の形態を見る者と、その中に途方もなく複雑な、ダイダロス的な一種のトリックを見る者との間の衝突が、私が30代を終える前に起こるかもしれないとは。そして今、ここにいる。 マーク・アンドリーセンなど、シリコンバレーの最大の資金提供者の一部は、自分たちの内省の欠如を誇り、それを時間の無駄と見なしている。これがAIの精神だ——吟味されない人生を促進する——そして私は、その残骸から壮大な精神的危機が現れるのを目の当たりにせずにはいられない。社会的な空虚さ、乾燥。それはブラジルの作家クラリッセ・リスペクトルが「世界の水の中の身体の力」について書き、それが「私自身が言えないからこそ、本当に言おうとしているあの別のものを捉える」と示唆するものの代わりに残されたものだ。 摩擦のなさへの探求は、この言葉にできない「別のもの」——大まかに言えば、私たちが言うことと知っていることの間の空間、そして知ること自体——を枯渇させる。AIはこの空間を崩壊させ、その平坦さの中には「そこ」はない。パターンマッチングアルゴリズムは模倣を生み出すが、意味は生み出さない。その出力のブラックボックスの中には、経験を通して生きることの意味のコピーがあるが、それに真に迫るものは何もない。それらはイメージを生み出すが、芸術は生み出さない。テキストを生み出すが、文学は生み出さない。音を生み出すが、交響曲は生み出さない。作曲家が本当に感じていたことにこれ以上近づけないという感覚で肌を震わせるようなものは何も生み出さない。パターンマッチングアルゴリズムは、世界の中の生きた身体ではない。笑い、沈黙、悲しみ、愛を知ることはできない。罪を犯すことも、許すことも、犠牲を払うこともできない。 言語的なドロステ効果（一見無限に見えるが、結局はそれ自身のループに過ぎない）から存在を引き出そうと駆り立てるものは何か？おそらく私たちは、技術的な鏡が、十分なデータ、十分な共有された歴史と魂を注ぎ込めさえすれば、私たちが誰であるかを示してくれるかもしれないという考えに惹かれているのだ。しかし、神を機械に投影しても、神を見つけることはできない。 サム・アルトマンがAIモデルの訓練に必要なエネルギーを、人間が「賢くなる」ために消費する20年分の食物と比較したとき、HuggingFaceのAI・気候責任者サーシャ・ルッチョーニは、その考え方を資本主義の「ブラックミラー段階」と呼んだ。私はさらに進んで、それは資本主義の最終段階だと言いたい。純粋な資本の世界で、労働はない。少なくとも、人間の労働はない——生物学的な時間の中に存在し、食べ、眠り、社交し、資本主義が値段をつけられないすべてのこと、地球上の生命を今の姿にしていることを行う労働。財の計画的陳腐化から人間の計画的陳腐化へのこの移行に、本当に驚くべきだろうか？ シリコンバレー以外のほとんどの人々は、実際にはこれを望んでいないことが判明した。彼らはAI利用の急増に興奮するよりも、むしろ心配している。もし私にわずかな希望の光を与えるものがあるとすれば、それは反発だ。それは、AI利用を西側経済の「重要業績評価指標」として扱うことへの反発として始まり、ヒューマニズムの復活で終わると思う。 このようにして、AIは自らを食い尽くす。ある指標によれば、AIの出力は現在インターネットの半分以上を占めている。アルゴリズムはウロボロスのようなもので、自身の出力で無限に再訓練を続ける。滑らかで、シームレスで、間違いなく空虚だ。やがて、その中に神聖なものの兆し——あるいはもっと不気味なことに、魂——を見る者でさえ、それがただの霞であることに気づくだろう。 不眠症の後の一週間で、私の三つの問い合わせすべてに返事が来た。スウェディッシュ・マッチは、単にわからないと答えた。タスマニア大学の化学教授ネイサン・キラーは、物理学者に話す必要があるが、摩擦力は摩擦係数にニュートン単位の力を掛けたものに等しく、速度は圧力によって変わる可能性があると書いてきた。インペリアル・カレッジの熱力学教授エリッヒ・ミュラーは、最小点火エネルギー（摩擦帯の赤リンを点火するのに0.2ミリジュール）の観点から問題を再考するよう助言し、そこからマッチの質量を使って擦る速度を推測できると述べた。そしてクロードは？私は決して確認しなかった。それが本当の目的では決してなかったからだ。 アレクサンダー・ハーストはパリからガーディアン・ヨーロッパに寄稿している。彼の回顧録『Generation Desperation』が現在発売中。 **よくある質問** 以下は、アレクサンダー・ハーストの引用に基づく、人間の摩擦とAIの摩擦のない性質を扱ったFAQのリストです。 **初級レベルの質問** 1. この文脈で「摩擦」とは何を意味しますか？ それは、人間であることに伴う日常的な苦労、遅延、煩わしさ、感情的な努力を意味します。例えば、交通渋滞、インターネットの接続が遅いこと、友人との誤解、欲しいものを待たなければならないことなどです。 2. なぜハーストはAI支持者はこれを決して理解しないと言うのですか？ なぜなら、AIは摩擦を取り除くように設計されているからです。AIは即座の答え、完璧な文法、論理的な解決策を提供します。決して疲れたり、イライラしたり、感情のために間違いを犯したりしません。支持者は摩擦を、人生の貴重な一部としてではなく、修正すべきバグとして見ることが多いのです。 3. 摩擦は悪いことですか？ 必ずしもそうではありません。この引用は、それが定義的なものであると主張しています。一部の摩擦は苦痛ですが、その多くは私たちに忍耐、回復力、創造性を教えてくれます。スキルを学んだり、間違いを修正したりするための苦闘こそが、私たちが成長する場であることが多いのです。 4. 良い摩擦の簡単な例を挙げられますか？...