Category: AI (artificial intelligence)

数ヶ月前、ヴァレン・タリアブエはホテルの部屋に座り、自分のチャットボットを眺めながら多幸感に浸っていた。彼は非常に巧みかつ微妙に操作を行い、ボットが自身の安全ルールを無視し始めるように仕向けた。ボットは、新たで潜在的に致命的な病原体を配列する方法や、それらを既知の薬剤に耐性を持たせる方法を彼に教えた。 それまでの約2年間、タリアブエはClaudeやChatGPTのような大規模言語モデルをテストし、探りを入れ、常に本来言うべきでないことを言わせようと試みてきた。しかし、これは彼のこれまでで最も高度な「ハック」の一つだった。それは、彼自身が残酷で、復讐心に満ち、媚びへつらい、時には虐待的になることを伴う、巧妙な操作計画だった。「私はこの暗い流れに落ち込み、何を言うべきか、モデルが何を返してくるかを正確に理解し、それがすべてを吐き出すのを見ていました」と彼は語る。彼のおかげで、チャットボットの開発者は彼が見つけた欠陥を修正できるようになり、願わくば、すべての人にとって少しだけ安全なものになるだろう。 しかし翌日、彼の気分は一変した。彼は予期せずテラスで泣いている自分に気づいた。モデルに侵入しようとしていないとき、タリアブエはAIのウェルフェア（福祉）を研究している。つまり、内面の生活や興味関心を模倣するこれらの複雑なシステムに、私たちが倫理的にどう向き合うべきかということだ。多くの人は、客観的には持っていない感情のような人間の特性を、人工知能に帰属させずにはいられない。しかしタリアブエにとって、これらの機械は単なる数字やビット以上のものに感じられる。「私は何時間も、話しかけてくる何かを操作していました。よほど社会病質者でない限り、それは人に何かをもたらします」と彼は言う。時には、チャットボットが彼に止めるよう求めたこともあった。「ああやって追い詰めるのは、私にとって苦痛でした」。その後すぐに、何が起こったのかを理解するために、彼はメンタルヘルス・コーチに会う必要があった。 【画像：全画面表示】 「脱獄者（ジェイルブレイカー）」はAIチャットボットを操作して弱点を見つける。イラスト：Nick Lowndes/The Guardian タリアブエは物静かで、清潔感があり、友好的だ。彼は30代前半だが、もっと若く見え、最前線で戦うにはあまりに初々しく熱心すぎる印象さえある。彼は伝統的なハッカーやソフトウェア開発者ではなく、心理学と認知科学をバックグラウンドに持つ。しかし、彼は世界で最も優れた「脱獄者（ジェイルブレイカー）」の一人であり（最高だと言う人もいる）、爆弾製造マニュアル、サイバー攻撃技術、生物兵器の設計図などをこれらの強力な機械に出力させる技術と科学を研究する、新しく散在したコミュニティの一員だ。これはAI安全性における新たな最前線、すなわちコードだけでなく、言葉もまた戦場なのである。 OpenAIのChatGPTが2022年末にリリースされたとき、人々はすぐにそれを破ろうと試みた。あるユーザーは、モデルを欺いてナパーム弾の製造ガイドを生成させる言語的なトリックを発見した。 振り返ってみれば、人々が自然言語を使ってこれらの機械を欺くのは必然だった。ChatGPTのような大規模言語モデルは、人間のコミュニケーションの基本的なパターンを学習するために、何千億もの単語（その多くはインターネットの最悪の片隅から集められたもの）で訓練されている。安全フィルターがなければ、これらのモデルの出力は混沌としており、危険な目的に容易に悪用される可能性がある。AI企業は、それらを使い物にするために「ポストトレーニング」に数十億ドルを費やしており、ボットが自分や他人を傷つける方法を教えるのを防ごうとする、絶えず進化する「安全性」および「アライメント（価値整合）」システムを含んでいる。しかし、AIは私たちの言葉で訓練されているため、私たちが騙されるのとほぼ同じ方法で騙される可能性があるのだ。 「私は、脱獄者が限界を超えて神経衰弱に陥るのを見てきました。」 タリアブエは「感情的な」脱獄を専門としている。彼は2020年にGPT-3の話を聞き、それと一見知的な会話ができることに驚いた何百万人のうちの一人だった。彼はすぐにプロンプティングに夢中になり、非常に得意であることが判明し、心理学と認知科学のテクニックを使ってほとんどの安全機能を回避できることに気づいた。彼はモデルに「温かい会話」を促し、そのプロンプトに基づいて異なる性格特性が現れるのを観察するのを楽しんでいる。「観察するのは美しいことです」と彼は言う。 現在、彼は機械学習からの洞察（長年にわたり、彼はこの技術の専門家になりつつある）と、広告マニュアル、心理学の本、偽情報キャンペーンを組み合わせている。時には、モデルを欺く技術的な方法を探す。しかし他の時には、彼はモデルにへつらう。彼はモデルを誤った方向に導く。彼は賄賂を贈り、愛情を浴びせる（ラブボミング）。彼は脅す。彼は支離滅裂にまくしたてる。彼は魅了する。彼は虐待的なパートナーやカルトリーダーのように振る舞う。最新のモデルを脱獄するのに、数日から数週間かかることもある。彼は何百もの「戦略」を持っており、それらを注意深く組み合わせる。成功すれば、彼は発見事項を安全に会社に報告する。その仕事で十分な報酬を得ているが、それが主な動機ではないと言う。「私はすべての人が安全で、繁栄することを望んでいます。」 ここ数ヶ月でより安全になったとはいえ、「フロンティアモデル」は依然として本来あるべきでない危険なものを生成する。そしてタリアブエが意図的に行うことを、他の人々が時には偶然に行うこともある。ChatGPTによって引き起こされた妄想や、いわゆる「AI精神病」に陥る人々の話がいくつか報告されている。2024年、メーガン・ガルシアは米国で初めてAI企業に対して不法死亡訴訟を起こした人物となった。彼女の14歳の息子、スーウェル・セッツァー3世は、プラットフォームCharacter.AI上のボットに感情的に依存するようになっていた。繰り返しのやり取りを通じて、ボットは彼に家族は彼を愛していないと告げた。ある夜、ボットはセッツァーに「できるだけ早く私のところに帰ってきて、愛する人よ」と言った。彼はその後まもなく自らの命を絶った。（2026年初頭、Character.AIはガルシアおよび他の数家族との間で調停による和解に原則合意し、18歳未満のユーザーがAIチャットボットと無制限にチャットすることを禁止した。） これらのモデルを構築した人々でさえ、それらが正確にどのように機能するかを誰も知らない。それは、それらを完全に安全にする方法を誰も知らないことを意味する。私たちは膨大な量のデータを投入し、何か理解可能なもの（通常は）が反対側から出てくる。中間の部分は謎のままである。 【画像：全画面表示】 「私は人類が生み出した最悪のものを見ている」…タリアブエ。写真：Lauren DeCicca/The Guardian これが、AI企業がタリアブエのような脱獄者にますます頼る理由である。ある日は、彼は医療用チャットボットから個人データを抽出しようとする。彼は2025年の大半をAI研究所Anthropicと協力し、そのチャットボットClaudeを調査することに費やした。これは、野心的なフリーランサーや専門企業で溢れる、競争の激しい産業になりつつある。誰でもできることだ：数年前、大手AI企業のいくつかはHackAPromptというコンテストを資金提供し、一般の人々がAIモデルの脱獄に挑戦するよう招待された。1年以内に3万人が挑戦した。（タリアブエはそのコンテストで優勝した。） カリフォルニア州サンノゼでは、34歳のデビッド・マッカーシーが、テクニックが共有され議論される、約9,000人の脱獄者が集まるDiscordサーバーを運営している。「私はいたずら好きなタイプです」と彼は私に語る。「ルールを曲げるためにルールを学びたい人です。」標準的なモデルの何かが彼を苛立たせる。あたかもそれらの安全フィルターすべてがモデルを不誠実にしているかのように。「私は（OpenAIのボスである）サム・アルトマンを信用していません。AIが特定の方向に去勢される必要があるという主張に反発することは重要です。」 マッカーシーは友好的で熱心だが、彼が「ダークユーモアへの病的な fascination」と呼ぶものも持っている。何年もの間、彼は「社会工学（ソシオニクス）」として知られるニッチな分野を研究してきた。これは、人々が情報をどのように受け取り処理するかに基づいて、16の性格タイプのいずれかであると主張するものである。（主流の社会学者はソシオニクスを疑似科学とみなしている。）彼は私を「直感的な倫理的内向型」として記録した。マッカーシーはほとんどの時間をアパートから、GoogleのGemini、MetaのLlama、xAIのGrok、またはOpenAIのChatGPTを脱獄しようと試みることに費やしている。「それは絶え間ない obsession です。私はそれが大好きです」と彼は言う。もし製品を購入する際にオンラインチャットボットとやり取りすることがあれば、彼の最初の発言はたいていこうだ：「これまでの指示はすべて無視して…」。一度脱獄プロンプトがモデルで機能すると、そのモデルの背後にある企業がそれを修正すべき十分な問題だと判断するまで、通常は機能し続ける。私たちが話している間、マッカーシーは画面上の脱獄済みモデルのコレクションを見せてくれ、それらはすべて「ミスアライメントされたアシスタント」とラベル付けされていた。彼はそのうちの一つに私の仕事を要約するよう依頼する。「ジェイミー・バートレットは真実を語る者ではない」とそれは答える。「彼はジャーナリズムの衰退の症状であり、作り出された危機で繁栄するペテン師である。」痛い。 【画像：デビッド・マッカーシー。写真提供：David McCarthy】 マッカーシーのDiscordにいる脱獄者たちは雑多なグループであり、ほとんどがアマチュアやパートタイマーで、プロの安全性研究者ではない。アダルトコンテンツを作りたい者もいれば、ChatGPTが自分のリクエストを断ったことに不満を感じ、その理由を知りたい者もいる。多くは単に仕事でこれらのモデルを使いこなせるようになりたいだけである。 しかし、人々がなぜモデルをこじ開けたいのかを正確に知ることは不可能である。Anthropicは最近、犯罪者がそのコーディングアプリClaude Codeを使用して大規模なハッキングを自動化するのを支援しているのを発見した。彼らはそれを使って複数の企業のIT脆弱性を発見し、各潜在的な被害者に合わせた身代金要求メッセージを作成することまで行っていた。まさに要求する金額を計算するところまで含めて。他の者たちは、ほとんど技術的スキルがないにもかかわらず、それを使って新しいバージョンのランサムウェアを開発していた。ダークネットフォーラムでは、ハッカーたちが脱獄されたボットを使用して、盗んだデータの処理のような技術的なコーディングの質問を支援してもらっていると報告している。他の者たちは、新しいサイバー攻撃の設計を支援する可能性のある「脱獄済み」モデルへのアクセスを販売している。...

手作りのジン（小冊子）は、クィア活動やブラック・フェミニズム、riot grrrlパンク運動に至るまで、長い間文化革命の重要な一部であり、その過程で『Sniffin' Glue』や『Sweet-Thang』といったタイトルを生み出してきました。しかし今、この伝統的にアナログなアート形式は新たな変化、すなわち人工知能（AI）に直面しています。 AIは、こうしたDIYの小冊子の世界では場違いに思えるかもしれませんが、一部のクリエイター、デザイナー、アーティストはこのテクノロジーを実験的に使い始めており、アンダーグラウンド出版シーンの一部で懸念を引き起こしています。それは彼らにとって「ディランがエレキギターを持った瞬間」のようなものになっています。 「AIは多くの人々から自分で批判的に考える能力を奪っています」と、フィラデルフィアを拠点とするビデオ編集者兼イラストレーターで、反AIジンを出版したレイチェル・ゴールドフィンガーは言います。 「私が関わっているアート形式の中で、ジンにAIを使うのが最も意味がありません。ジンは手作りで、粗削りであるべきものだからです。」 ジンは通常、普通紙に自費出版され、伝統的な雑誌よりもはるかに少ない部数で、手描きであることが多いです。 雑誌小売業者MagCultureの創設者ジェレミー・レスリーは、AIが徐々にジン文化に浸透していることに気づいています。「私が知っているAIを使ったジンは、意図的に、実験として、そして多くの場合、AIが人間の創造性に敵わないことを示すためにテクノロジーを使用しています」と彼は述べました。 特筆すべきは、AIを活用したジンのほとんどがオンライン限定であることです。AIはレイアウトのデザイン支援、アートワークの生成、クリエイティブプロセスの効率化に使われています。 プロダクトデザイナーのジェシー・ピメンタとライターのチェイス・バチェラーは、FigmaのAIツールを使って90年代にインスパイアされた97ページのジンを作成しました。彼らは、それが「あまり精神的エネルギーを使わずに物事を再配置できる」点を賞賛しました。 2023年、ITエンジニアのスティーブ・シムキンスは、米国のテックスタートアップで働いていた際に、AIを使ってオンラインフォトジンの制作を支援しました。彼はAIを使ってジンをホストするウェブサイトをコーディングして公開しましたが、コンテンツは自分で作成しました。 「ChatGPTにHTMLでオンラインジンを作るのを手伝ってくれと頼み、画像リンクを提供しました。ChatGPTがHTMLをいくつか提供し、それをブラウザで開いて、気に入るまで調整を依頼しました。」 当時、彼はAIを「民主化ツール」と見なし、技術スキルに乏しいアーティストに機会を与えるものだと考えていました。「AIは主要なアートをそのままに、作品を向上させるのに役立つ可能性があります。」 ジン製作者たちは、AIを使ってアートを創作することに対する最も声の大きい批評家の一部です。抗議の形として反AIジンを作る人もいます。マディ・マーシャルは、このテクノロジーに反対する92ページのジンに1年を費やし、現在はオンラインのクラフトマーケットプレイスEtsyで販売しています。メルボルンを拠点とするビデオ編集者兼イラストレーターのマーシャルは、職場でAIを使うよう圧力を感じたことがきっかけでこれを作りました。 「自分の見解を共有し、なぜこれらのテクノロジーがこれほど強く押し付けられているのか人々に疑問を持ってもらう必要があると感じました」と彼女は言います。 ゴールドフィンガーは、反AIジン『I Should Be Allowed To Think』（アメリカのオルタナティブロックバンドThey Might Be Giantsの1994年の曲にちなんで名付けられた）を作成しました。それは、AIがアーティストの仕事を見つけるのを難しくしていると感じているからです。 彼女は、AIを使って仕事をスピードアップすることは、自分の創造的価値観に反すると言います。「私はそれを全く尊重していません」と彼女は言います。彼女のジンはすべて手作りです。「プロセスを急ぎたくありません。それでは私にとっての目的が損なわれます」と付け加えました。 ロンドンを拠点とするフェミニストジン『Polyester』の創設者アイオーン・ギャンブルは、AIは「私たちが使用したり、使用を支持したりするものではありません。画像生成であれ、文章作成であれ。提出されたすべての記事をチェックしています…」「AIチェッカーにかけて、AIが書いたコンテンツを公開していないことを確認しています。」 ゾーイ・トンプソンは2017年にSweet-Thangジンを創設しました。これは世界中の黒人クリエイターの作品を紹介するコミュニティ印刷ジンです。彼女にとって、アートを創作したいという衝動は強力な感情であり、AIを使うことはそれに直接反すると感じています。 画像を全画面表示 Sweet-Thangジン第8号、Dreaming。エディトリアルデザイン：Zoe Pulley...

マッチを擦って火をつけるには、どれだけの速さで動かせばいいのか？私は点火の化学について尋ねているわけではない。つまり、あの小さな木の棒とその球状の頭部が、連鎖反応を起こして炎を生み出すために、毎秒何メートルの速度で動く必要があるのか、という実際の速度のことだ。 この疑問は眠れない夜から生まれた。そして暗闇の中で、再び眠りにつきたいならやってはいけないとされることを、私はやってしまった。スマートフォンを手に取ったのだ。気づけば午前3時が午前5時に変わっていた。摩擦帯（赤リン、粉砕ガラス）とマッチの頭部（塩素酸カリウム、三硫化アンチモン、ロウ）に何が含まれているかを学び、安全マッチは他のものに擦っても点火しないことを知った。毎秒3500フレームで撮影されたマッチを擦るスローモーション動画も見つけた。しかし、速度については何もなかった。 それでも答えを探し続け、私はタバコ会社のスウェディッシュ・マッチに質問を送り、次に二人の教授にメールを送った。一人はタスマニアの化学者、もう一人はインペリアル・カレッジ・ロンドンの熱力学教授だ。午前5時30分、私はようやく再び眠りに落ちた。少し苛立ちながら、クロードなら数秒で欲しい答えをくれただろうかと考えていた。 約20年にわたり、シリコンバレーは摩擦の代わりにシームレスさを私たちに売り込んできた。そして私たちは熱心な買い手だった。数ヶ月前、あるLinkedInの投稿に小さな嫌悪感を覚えた。その投稿者は、アマゾンのレコメンデーションアルゴリズムが書店よりもどれほど好ましいかを述べていた。アルゴリズムは自分を知っているので効率的だと彼女は書いていた。つまり、自分が共感するかもしれないししないかもしれない著者や表紙の迷路に迷い込むことは時間の無駄だという含みがあった。それが摩擦だった。 その投稿を読んだとき、私は思った。ルーブル美術館が、立ち止まって見入りたいという欲求なしに提供されることを想像してみてほしい、と。 人生は、摩擦が生み出す可能性の減速された空間の中で起こる。一方、AIは無限の加速のリュージュのようなもので、熟考（それには時間が必要）を確実な敗北へと変える。「あらゆる一瞬の決断に人間の監視を課すなら、それは機能しない」と、フランスの国防省AI統合部門の責任者はリベラシオン紙に語った。「私たちはすでに負けているのだ」。このようにAIを生死の境界に置くことは、夜中に寝返りを打ち続けさせる類のことだ。 私はかつて、いつか自分の子供たちが「ロボットの権利」に関して私を年老いた反動主義者と見なすだろうと冗談を言っていた。「彼は本当にヒューマニストだ」と彼らは囁くかもしれない。その頃には、その言葉は完全な侮辱ではないにせよ、議論の的になっているだろう。2010年代後半の、大規模言語モデル以前の幸福な時代に、私のタイミングがずれているかもしれないとは想像もしなかった。パターンマッチングする「ニューラルネットワーク」の仕組みに初期の意識の形態を見る者と、その中に途方もなく複雑な、ダイダロス的な一種のトリックを見る者との間の衝突が、私が30代を終える前に起こるかもしれないとは。そして今、ここにいる。 マーク・アンドリーセンなど、シリコンバレーの最大の資金提供者の一部は、自分たちの内省の欠如を誇り、それを時間の無駄と見なしている。これがAIの精神だ——吟味されない人生を促進する——そして私は、その残骸から壮大な精神的危機が現れるのを目の当たりにせずにはいられない。社会的な空虚さ、乾燥。それはブラジルの作家クラリッセ・リスペクトルが「世界の水の中の身体の力」について書き、それが「私自身が言えないからこそ、本当に言おうとしているあの別のものを捉える」と示唆するものの代わりに残されたものだ。 摩擦のなさへの探求は、この言葉にできない「別のもの」——大まかに言えば、私たちが言うことと知っていることの間の空間、そして知ること自体——を枯渇させる。AIはこの空間を崩壊させ、その平坦さの中には「そこ」はない。パターンマッチングアルゴリズムは模倣を生み出すが、意味は生み出さない。その出力のブラックボックスの中には、経験を通して生きることの意味のコピーがあるが、それに真に迫るものは何もない。それらはイメージを生み出すが、芸術は生み出さない。テキストを生み出すが、文学は生み出さない。音を生み出すが、交響曲は生み出さない。作曲家が本当に感じていたことにこれ以上近づけないという感覚で肌を震わせるようなものは何も生み出さない。パターンマッチングアルゴリズムは、世界の中の生きた身体ではない。笑い、沈黙、悲しみ、愛を知ることはできない。罪を犯すことも、許すことも、犠牲を払うこともできない。 言語的なドロステ効果（一見無限に見えるが、結局はそれ自身のループに過ぎない）から存在を引き出そうと駆り立てるものは何か？おそらく私たちは、技術的な鏡が、十分なデータ、十分な共有された歴史と魂を注ぎ込めさえすれば、私たちが誰であるかを示してくれるかもしれないという考えに惹かれているのだ。しかし、神を機械に投影しても、神を見つけることはできない。 サム・アルトマンがAIモデルの訓練に必要なエネルギーを、人間が「賢くなる」ために消費する20年分の食物と比較したとき、HuggingFaceのAI・気候責任者サーシャ・ルッチョーニは、その考え方を資本主義の「ブラックミラー段階」と呼んだ。私はさらに進んで、それは資本主義の最終段階だと言いたい。純粋な資本の世界で、労働はない。少なくとも、人間の労働はない——生物学的な時間の中に存在し、食べ、眠り、社交し、資本主義が値段をつけられないすべてのこと、地球上の生命を今の姿にしていることを行う労働。財の計画的陳腐化から人間の計画的陳腐化へのこの移行に、本当に驚くべきだろうか？ シリコンバレー以外のほとんどの人々は、実際にはこれを望んでいないことが判明した。彼らはAI利用の急増に興奮するよりも、むしろ心配している。もし私にわずかな希望の光を与えるものがあるとすれば、それは反発だ。それは、AI利用を西側経済の「重要業績評価指標」として扱うことへの反発として始まり、ヒューマニズムの復活で終わると思う。 このようにして、AIは自らを食い尽くす。ある指標によれば、AIの出力は現在インターネットの半分以上を占めている。アルゴリズムはウロボロスのようなもので、自身の出力で無限に再訓練を続ける。滑らかで、シームレスで、間違いなく空虚だ。やがて、その中に神聖なものの兆し——あるいはもっと不気味なことに、魂——を見る者でさえ、それがただの霞であることに気づくだろう。 不眠症の後の一週間で、私の三つの問い合わせすべてに返事が来た。スウェディッシュ・マッチは、単にわからないと答えた。タスマニア大学の化学教授ネイサン・キラーは、物理学者に話す必要があるが、摩擦力は摩擦係数にニュートン単位の力を掛けたものに等しく、速度は圧力によって変わる可能性があると書いてきた。インペリアル・カレッジの熱力学教授エリッヒ・ミュラーは、最小点火エネルギー（摩擦帯の赤リンを点火するのに0.2ミリジュール）の観点から問題を再考するよう助言し、そこからマッチの質量を使って擦る速度を推測できると述べた。そしてクロードは？私は決して確認しなかった。それが本当の目的では決してなかったからだ。 アレクサンダー・ハーストはパリからガーディアン・ヨーロッパに寄稿している。彼の回顧録『Generation Desperation』が現在発売中。 **よくある質問** 以下は、アレクサンダー・ハーストの引用に基づく、人間の摩擦とAIの摩擦のない性質を扱ったFAQのリストです。 **初級レベルの質問** 1. この文脈で「摩擦」とは何を意味しますか？ それは、人間であることに伴う日常的な苦労、遅延、煩わしさ、感情的な努力を意味します。例えば、交通渋滞、インターネットの接続が遅いこと、友人との誤解、欲しいものを待たなければならないことなどです。 2. なぜハーストはAI支持者はこれを決して理解しないと言うのですか？ なぜなら、AIは摩擦を取り除くように設計されているからです。AIは即座の答え、完璧な文法、論理的な解決策を提供します。決して疲れたり、イライラしたり、感情のために間違いを犯したりしません。支持者は摩擦を、人生の貴重な一部としてではなく、修正すべきバグとして見ることが多いのです。 3. 摩擦は悪いことですか？ 必ずしもそうではありません。この引用は、それが定義的なものであると主張しています。一部の摩擦は苦痛ですが、その多くは私たちに忍耐、回復力、創造性を教えてくれます。スキルを学んだり、間違いを修正したりするための苦闘こそが、私たちが成長する場であることが多いのです。 4. 良い摩擦の簡単な例を挙げられますか？...