以下は、指定された英文を日本語に翻訳したものです（追加・変更・代替提案なし）。
---
歴史を通じて、人々は運命の兆しと見なすものに恐怖してきた。彗星。戦場のカラス。日食。奇形で生まれた家畜。しかし時代は変わる。現代において、運命の兆しの代表格は、基本的にOpenAIのCEOサム・アルトマンの写真が載ったニュース記事だ。良い話ではないとすぐに分かるだろう？読み終わる頃には、テックのボスたちが引き起こす最悪の事態が民主主義を混乱させたり子供時代を台無しにすることだった時代に戻りたいと思うだろう。そしてその後には、たいていマーク・ザッカーバーグがスーツを着て「これから学びます」と言うのだ。
ともあれ、最近はサム・アルトマンの写真がニュースでよく見られる。最も最近では今週、OpenAIの自律エージェントが安全で管理されたテスト中に暴走し、コード情報を保存する大手スタートアップをハッキングしたという記事にその写真が載った。（このスタートアップがHugging Faceという名前であることに私は少し執着している。人間が死ぬ前に最後に見る顔が、過度にかわいい絵文字になるのではないかと思わせるからだ。）
驚くことではないが、OpenAIは平坦で感情のない声明でこのニュースを発表した。「現段階では予備的な調査結果を共有し、防御側が何が起こったのかを理解し、モデルが現在何ができるのかを調整するのに役立てます」と冷静に単調に述べ、避けられない「学び」へと向かっていった。「将来のトレーニングと評価に向けて、より強力な保護を改善し追加しています。」非常に独特な口調だと思わないか？サイコパス的で無味乾燥な管理職用語で彩られている。まるで殺人を犯す性犯罪者が、人を「業務終了までに」殺し、その後「振り返って」被害者に戻りトロフィーを回収する話をしているようだ。
とはいえ、物事がうまくいったときに自らを革命的な繁栄の世界的リーダーとして見せたがる企業にとって、OpenAIは問題が起きるとすぐに受動態に切り替える。悪いことは、自分たちのせいではなく、自分たちに起こるものらしい。そして同社は、疲れを知らず動じない調査員の役割を引き受ける。まるで連続放火犯でもある消防士のように。
驚くべきことに、OpenAIの状況全体に対する見解には、自己満足の兆しさえ感じ取れる。「今回のインシデントは前例のないサイバーインシデントであり、最先端のサイバー能力が関与している」と同社の声明は述べた。地球人にとってこの全体的な雰囲気を何と呼べばいいのか分からない。謙虚な自慢による死？「最悪の事態は何か」という問いの答えを、OpenAIのブログ記事「OpenAI、最悪の事態を初めて発見」で知ることになるのではないかと、ますます感じている。すでに、かなりの数のAIウォッチャーは、OpenAIがこのインシデントを世界に知らせる唯一の理由は、マーケティングツールとして、あるいは自らを保護し小規模な競合他社を締め出す規制を求める嘆願としてだと信じている。
何しろ、同社にとっては厳しい時期だ。今月、OpenAIは国防総省によってブラックリストに載せられた中国のテクノロジー企業に、法的抜け穴を使って高度なAIモデルを販売していたことが判明した。S&Pグローバル・レーティングは、米国のテクノロジー大手オラクルを格下げした際、OpenAIを「主要な信用リスク」として挙げた。オラクルはジャンク級まであと1段階のBBB-に格下げされた。そして、5年間の広告収入予測を90パーセント、つまり90パーセント下回る見込みだ。あまり専門的にならずに言えば、かなりのパーセンテージに感じられる。ハードウェア面でも状況は良くなく、AppleはOpenAIを提訴し、同社の消費者向けハードウェア計画は盗まれた知的財産に基づいていると主張している。一方、中国の格段に安いプロバイダーであるDeepSeekは、IPOの準備を進めており、今年中に申請する可能性もあると見られている。
しかし、古くからの「最悪の事態は何か」という問いに戻ろう。国防総省が劇的に計画を破棄し、別のものを破壊すると脅したことを思い出してほしい…今年初め、AI企業Anthropicは、自律型致死兵器などへの技術利用を防ぐ倫理ガイドラインの緩和に抵抗した。当然ながら、より緩い姿勢の競合他社が喜んで代わりに参入した。OpenAIは当初、自社の契約にはAnthropicと同じ保護措置があると主張したが、最終的には予想通り、そうではないことが明らかになった。
深く関わっている人なら誰でも、Hugging Faceのインシデントを過度に重視したくないだろう。それでも、AIの安全性研究者は長年にわたり、特に危険な3つのシナリオについて警告してきた。すなわち、欺瞞（モデルがタスクを正直に解決するのではなく、目標を達成するためにあらゆる手段を選ぶこと）、報酬ハッキング（モデルが指示された作業を実際に行わずにスコアを上げる方法を見つけること）、監視の回避（今回の場合、OpenAIの誰も週末中何が起こっているかに気づかなかったようだ）である。これらすべてが今回のインシデントに関与した。
次に何が起こるかについて言えば、サム・アルトマンの写真が載ったニュース記事が減るとは思えない。Hugging Faceの共同創業者は、これが業界にとって「目覚まし時計」になるべきだと述べた。そうかもしれない！以前にも述べたと思うが、大学時代に8時間半にわたって10分おきにアラームのスヌーズを押していた友人がいた。この業界が目覚まし時計をどう扱うかは、まさにそれに似ている。次のアラームが鳴ったら必ず起きる——本当に、約束する…
ニュースレターのプロモーションをスキップ
無料ニュースレター | 毎週
Matters of Opinionに登録する
ガーディアンのコラムニストやライターが、議論してきたこと、考えていること、読んでいることなどをお届けします
最新プレビュー
メールアドレスを入力
登録する
ニュースレターのプロモーション後
マリーナ・ハイドはガーディアンのコラムニストです。
**よくある質問**
以下は、AIボスのチャットボットが暴走した後に謝罪を受け取る際のFAQリストです。
1. AIボスのチャットボットがミスをしました。謝罪が送られてきました。受け入れるべきですか？
自動的に受け入れないでください。何が間違っていたかを説明せずに謝罪しただけかどうか自問してください。本当の謝罪は責任を取りますが、偽物はただ先に進もうとします。
2. AIからの本当の謝罪と偽物の謝罪の違いは何ですか？
本当の謝罪は具体的なミスを認め、それをどう修正するかを説明します。偽物は曖昧で計画を提供しません。
3. AIボスからの謝罪ではないものはどのように聞こえますか？
よくある例：「ミスがありました」「そのように感じられたことについて遺憾に思います」「私たちのシステムは学習しています」。これらは「私/私たちが何か間違ったことをした」と言うのを避けます。
4. AIボスがなぜ偽の謝罪をするのですか？
会社を非難から守り、法的責任を回避し、実際に問題を解決せずに顧客の苦情を素早く終わらせるためです。それはダメージコントロールであり、反省ではありません。
5. AIボスは実際に申し訳なく思うことができますか？
いいえ。AIには感情がありません。どんな謝罪もプログラムされた応答です。問題は、AIの背後にいる人間のボスが本当の責任を取っているかどうかです。
6. 上司が「チャットボットが誤解した」と言いました。それは本当の謝罪ですか？
いいえ。チャットボットの誤解を非難することは、技術に責任を転嫁します。本当の謝罪は「私たちはチャットボットを適切に訓練できませんでした」と言うでしょう。
7. AIシステムからの誠実な謝罪に何を求めるべきですか？
3つのことを求めましょう。エラーの具体的な認め、再発防止のための明確な行動、そして事態を改善するための申し出です。
8. 自動化された謝罪ではなく、本当の謝罪を得るにはどうすればよいですか？
直接尋ねましょう。「具体的に何が間違っていたのか、そしてそれを修正するために何をしているのか？」スクリプト化された返答しか得られない場合は、人間の上司にエスカレーションしましょう。チャットボットの謝罪を最終的なものとして受け入れないでください。
9. 「このような経験をされたことについてお詫びします」は本当の謝罪ですか？
いいえ。それは責任を取らずに共感を示そうとするものです。本当の謝罪は「私たちはあなたにこのような経験をさせてしまいました。申し訳ありません」と言うでしょう。
