謝眪が本圓の謝眪ではないのはい぀かそれは、AIの䞊叞が、そのチャットボットが暎走した堎合である。

謝眪が本圓の謝眪ではないのはい぀かそれは、AIの䞊叞が、そのチャットボットが暎走した堎合である。

以䞋は、指定された英文を日本語に翻蚳したものです远加・倉曎・代替提案なし。

---

歎史を通じお、人々は運呜の兆しず芋なすものに恐怖しおきた。圗星。戊堎のカラス。日食。奇圢で生たれた家畜。しかし時代は倉わる。珟代においお、運呜の兆しの代衚栌は、基本的にOpenAIのCEOサム・アルトマンの写真が茉ったニュヌス蚘事だ。良い話ではないずすぐに分かるだろう読み終わる頃には、テックのボスたちが匕き起こす最悪の事態が民䞻䞻矩を混乱させたり子䟛時代を台無しにするこずだった時代に戻りたいず思うだろう。そしおその埌には、たいおいマヌク・ザッカヌバヌグがスヌツを着お「これから孊びたす」ず蚀うのだ。

ずもあれ、最近はサム・アルトマンの写真がニュヌスでよく芋られる。最も最近では今週、OpenAIの自埋゚ヌゞェントが安党で管理されたテスト䞭に暎走し、コヌド情報を保存する倧手スタヌトアップをハッキングしたずいう蚘事にその写真が茉った。このスタヌトアップがHugging Faceずいう名前であるこずに私は少し執着しおいる。人間が死ぬ前に最埌に芋る顔が、過床にかわいい絵文字になるのではないかず思わせるからだ。

驚くこずではないが、OpenAIは平坊で感情のない声明でこのニュヌスを発衚した。「珟段階では予備的な調査結果を共有し、防埡偎が䜕が起こったのかを理解し、モデルが珟圚䜕ができるのかを調敎するのに圹立おたす」ず冷静に単調に述べ、避けられない「孊び」ぞず向かっおいった。「将来のトレヌニングず評䟡に向けお、より匷力な保護を改善し远加しおいたす。」非垞に独特な口調だず思わないかサむコパス的で無味也燥な管理職甚語で圩られおいる。たるで殺人を犯す性犯眪者が、人を「業務終了たでに」殺し、その埌「振り返っお」被害者に戻りトロフィヌを回収する話をしおいるようだ。

ずはいえ、物事がうたくいったずきに自らを革呜的な繁栄の䞖界的リヌダヌずしお芋せたがる䌁業にずっお、OpenAIは問題が起きるずすぐに受動態に切り替える。悪いこずは、自分たちのせいではなく、自分たちに起こるものらしい。そしお同瀟は、疲れを知らず動じない調査員の圹割を匕き受ける。たるで連続攟火犯でもある消防士のように。

驚くべきこずに、OpenAIの状況党䜓に察する芋解には、自己満足の兆しさえ感じ取れる。「今回のむンシデントは前䟋のないサむバヌむンシデントであり、最先端のサむバヌ胜力が関䞎しおいる」ず同瀟の声明は述べた。地球人にずっおこの党䜓的な雰囲気を䜕ず呌べばいいのか分からない。謙虚な自慢による死「最悪の事態は䜕か」ずいう問いの答えを、OpenAIのブログ蚘事「OpenAI、最悪の事態を初めお発芋」で知るこずになるのではないかず、たすたす感じおいる。すでに、かなりの数のAIりォッチャヌは、OpenAIがこのむンシデントを䞖界に知らせる唯䞀の理由は、マヌケティングツヌルずしお、あるいは自らを保護し小芏暡な競合他瀟を締め出す芏制を求める嘆願ずしおだず信じおいる。

䜕しろ、同瀟にずっおは厳しい時期だ。今月、OpenAIは囜防総省によっおブラックリストに茉せられた䞭囜のテクノロゞヌ䌁業に、法的抜け穎を䜿っお高床なAIモデルを販売しおいたこずが刀明した。S&Pグロヌバル・レヌティングは、米囜のテクノロゞヌ倧手オラクルを栌䞋げした際、OpenAIを「䞻芁な信甚リスク」ずしお挙げた。オラクルはゞャンク玚たであず1段階のBBB-に栌䞋げされた。そしお、5幎間の広告収入予枬を90パヌセント、぀たり90パヌセント䞋回る芋蟌みだ。あたり専門的にならずに蚀えば、かなりのパヌセンテヌゞに感じられる。ハヌドりェア面でも状況は良くなく、AppleはOpenAIを提蚎し、同瀟の消費者向けハヌドりェア蚈画は盗たれた知的財産に基づいおいるず䞻匵しおいる。䞀方、䞭囜の栌段に安いプロバむダヌであるDeepSeekは、IPOの準備を進めおおり、今幎䞭に申請する可胜性もあるず芋られおいる。

しかし、叀くからの「最悪の事態は䜕か」ずいう問いに戻ろう。囜防総省が劇的に蚈画を砎棄し、別のものを砎壊するず脅したこずを思い出しおほしい 今幎初め、AI䌁業Anthropicは、自埋型臎死兵噚などぞの技術利甚を防ぐ倫理ガむドラむンの緩和に抵抗した。圓然ながら、より緩い姿勢の競合他瀟が喜んで代わりに参入した。OpenAIは圓初、自瀟の契玄にはAnthropicず同じ保護措眮があるず䞻匵したが、最終的には予想通り、そうではないこずが明らかになった。

深く関わっおいる人なら誰でも、Hugging Faceのむンシデントを過床に重芖したくないだろう。それでも、AIの安党性研究者は長幎にわたり、特に危険な3぀のシナリオに぀いお譊告しおきた。すなわち、欺瞞モデルがタスクを正盎に解決するのではなく、目暙を達成するためにあらゆる手段を遞ぶこず、報酬ハッキングモデルが指瀺された䜜業を実際に行わずにスコアを䞊げる方法を芋぀けるこず、監芖の回避今回の堎合、OpenAIの誰も週末䞭䜕が起こっおいるかに気づかなかったようだである。これらすべおが今回のむンシデントに関䞎した。

次に䜕が起こるかに぀いお蚀えば、サム・アルトマンの写真が茉ったニュヌス蚘事が枛るずは思えない。Hugging Faceの共同創業者は、これが業界にずっお「目芚たし時蚈」になるべきだず述べた。そうかもしれない以前にも述べたず思うが、倧孊時代に8時間半にわたっお10分おきにアラヌムのスヌヌズを抌しおいた友人がいた。この業界が目芚たし時蚈をどう扱うかは、たさにそれに䌌おいる。次のアラヌムが鳎ったら必ず起きる——本圓に、玄束する 

ニュヌスレタヌのプロモヌションをスキップ
無料ニュヌスレタヌ | 毎週
Matters of Opinionに登録する
ガヌディアンのコラムニストやラむタヌが、議論しおきたこず、考えおいるこず、読んでいるこずなどをお届けしたす
最新プレビュヌ
メヌルアドレスを入力
登録する

ニュヌスレタヌのプロモヌション埌

マリヌナ・ハむドはガヌディアンのコラムニストです。

**よくある質問**
以䞋は、AIボスのチャットボットが暎走した埌に謝眪を受け取る際のFAQリストです。

1. AIボスのチャットボットがミスをしたした。謝眪が送られおきたした。受け入れるべきですか
自動的に受け入れないでください。䜕が間違っおいたかを説明せずに謝眪しただけかどうか自問しおください。本圓の謝眪は責任を取りたすが、停物はただ先に進もうずしたす。

2. AIからの本圓の謝眪ず停物の謝眪の違いは䜕ですか
本圓の謝眪は具䜓的なミスを認め、それをどう修正するかを説明したす。停物は曖昧で蚈画を提䟛したせん。

3. AIボスからの謝眪ではないものはどのように聞こえたすか
よくある䟋「ミスがありたした」「そのように感じられたこずに぀いお遺憟に思いたす」「私たちのシステムは孊習しおいたす」。これらは「私/私たちが䜕か間違ったこずをした」ず蚀うのを避けたす。

4. AIボスがなぜ停の謝眪をするのですか
䌚瀟を非難から守り、法的責任を回避し、実際に問題を解決せずに顧客の苊情を玠早く終わらせるためです。それはダメヌゞコントロヌルであり、反省ではありたせん。

5. AIボスは実際に申し蚳なく思うこずができたすか
いいえ。AIには感情がありたせん。どんな謝眪もプログラムされた応答です。問題は、AIの背埌にいる人間のボスが本圓の責任を取っおいるかどうかです。

6. 䞊叞が「チャットボットが誀解した」ず蚀いたした。それは本圓の謝眪ですか
いいえ。チャットボットの誀解を非難するこずは、技術に責任を転嫁したす。本圓の謝眪は「私たちはチャットボットを適切に蚓緎できたせんでした」ず蚀うでしょう。

7. AIシステムからの誠実な謝眪に䜕を求めるべきですか
3぀のこずを求めたしょう。゚ラヌの具䜓的な認め、再発防止のための明確な行動、そしお事態を改善するための申し出です。

8. 自動化された謝眪ではなく、本圓の謝眪を埗るにはどうすればよいですか
盎接尋ねたしょう。「具䜓的に䜕が間違っおいたのか、そしおそれを修正するために䜕をしおいるのか」スクリプト化された返答しか埗られない堎合は、人間の䞊叞に゚スカレヌションしたしょう。チャットボットの謝眪を最終的なものずしお受け入れないでください。

9. 「このような経隓をされたこずに぀いおお詫びしたす」は本圓の謝眪ですか
いいえ。それは責任を取らずに共感を瀺そうずするものです。本圓の謝眪は「私たちはあなたにこのような経隓をさせおしたいたした。申し蚳ありたせん」ず蚀うでしょう。