26歳で、アートディレクションの修士号を手にしたイネスは、周囲の誰も予想しなかった決断を下した。

ドナルド・トランプは「腐敗した、耄碌した重罪犯」であり、超知能という言葉への執着はAIについて何も知らないことを示している、とテクノロジーの「ゴッドファーザー」であるジェフリー・ヒントンは述べた。幅広いインタビューの中で、ヒントンはAIモデルが人類に存在論的脅威をもたらすという最近の警告を繰り返し、業界が自己規制できるという主張を否定した。 現代AIの基礎を築くのに貢献した先駆的なコンピュータ科学者は、その後、このテクノロジー最も声高な批評家の一人となった。彼の最新の発言は、増え続ける上級AI科学者や研究者たちがヒントンとともに、彼が作り出すのを助けたテクノロジーが最終的にどのようにして人類の制御を逃れる可能性があるかについて警鐘を鳴らした激動の1ヶ月の後に行われた。これは業界の危機を引き起こし、急遽手配された議会会議を促し、何かがなされなければならないという稀な世界的コンセンサスを生み出した。 激しい反発もあった。先週、世界で最も価値のある企業のリーダーは、トロントを拠点とするヒントンを名指しして痛烈に攻撃した。 「私は彼が大好きだ。彼の予測は大嫌いだ…彼の予測はすべて間違っていた。予測はもう十分だ」と、NvidiaのCEO、ジェンセン・フアンはポッドキャスターのエズラ・クラインに語った。AI企業が必要とするチップを製造する同社のフアンは、「フロンティア」におけるAI開発のペースと広がりが、人類がそれを制御する能力をまもなく追い越す可能性があるというヒントンの声高な懸念、特に今後数十年でAIが人類絶滅を引き起こす確率が10～20%あるという警告を一蹴した。 「その[数字]は科学に基づいておらず、研究に基づいていない。科学者から出たからといって科学的になるわけではない。それらの予測は有害だ」とフアンは述べた。「自分が警告主義者だからといって、社会の利益になっていると一瞬たりとも思ってはいけない。それは真実ではない。だから、私たちは皆、より賢明に、より成熟して、証拠に基づき、科学的であるべきだと思う。」 画像をフルスクリーンで表示ドナルド・トランプ、マイク・ジョンソン、そしてジェンセン・フアンを含むトップテクノロジー幹部が、9月29日にワシントンDCのウェストウィング外で話す。写真：Shawn Thew/EPA しかしヒントンは、彼を批判する人々はリスクの本質についてより広い点を見逃していると述べた。彼は特に何かを予測しているわけではない、と彼は言った。 「私は何かが起こる本当に深刻な可能性があることを伝えようとしている。例えば、バスが衝突する可能性が10%あると言われたら、あなたはそのバスに乗らないだろう」と彼は述べた。「数字を出すポイントは、これが深刻なリスクだと言うことだ。どれほど深刻かはわからないが、深刻なのだ。」 最近の安全違反はテクノ・ディストピア物語との比較を招いている。テック企業Hugging Faceが、その作成者が設定した境界を逃れたAIエージェントの「群れ」によって最近望まれずにハッキングされた事件は、テクノロジーコミュニティを二分した。ある人々はこれを来るべきものの一例と見なし、他の人々は批評家が単に指示に従っているシステムを擬人化していると非難している。ヒントンはそのようなシナリオを軽視するのは賢明ではないと考えている。 AIのゴッドファーザーたちが暴走する「知能爆発」について警告 続きを読む 「これはかつてSFの領域だった。AIエージェントができて、それらが暴走するだろう。ああ、やめてくれ。そしてそれらは暴走し、たとえ我々が方法があると思わなかったとしても、互いに通信する方法を学ぶだろう。ああ、やめてくれ！」とヒントンは述べた。「そして彼らがこれを理解したとき、彼らは『なんてこった！』のような大きな感情表現をするだろう。もちろん、彼らは本当に『なんてこった』という意味ではない。彼らはただ我々が使う言葉をオウム返ししているだけだ。彼らは共通善のために自分自身を犠牲にすることを学ぶだろう！ 「ほんの数年前まで、これらすべては完全な空想として片付けられていた。そしてそれはすべて起こった。」 彼は、AI批評家の警告も、その推進者の約束も、テクノロジーが何をするかについての正確な予測に依存できないことを容易に認める。しかし彼は、不確実性は安心している理由にはならないと主張する。「AIの独特な問題は、それが間違った方向に進んだ場合、それが支配権を握った場合、セカンドチャンスはないということだ。『まあ、あの時は負けた。ゲームをやり直そう』とは言えない。そういうものではない。」 ヒントンが他の人々が見逃したものを見てきた歴史があることは注目に値する。彼は2度のAIの「冬」の間、トロント大学で比較的無名のまま働いていた。その時期、彼の分野の分岐——機械に人間の脳のように動作することを教えようとするもの——は obscure と考えられていた。彼は、脳のように、コンピュータシステムは明示的な事前に書かれたルールに従うだけでなく、データからパターンを学習するように設計できるという考えに固執していた。 「もし脳がどのように学習するかを解明できれば、機械も同じように学習し、十分な計算能力があれば驚くべきことをするだろうと我々は信じていた」と彼は述べた。 しかし、新興のニューラルネットワーク分野は同僚たちに嘲笑された。 2009年になってさえ、ヒントンのカナダ人の同僚であり緊密な協力者であるヨシュア・ベンジオが機械学習会議に論文を提出したとき、査読者の一人は彼らにこう言った：「この論文は機械学習会議にふさわしくない。これはニューラルネットワークについてだ。」 ヒントンと彼の小さなチーム（ベンジオのように、今やAIの支配的人物となっている者もいる）による何年もの一見実りのない試行錯誤に資金を提供したカナダ政府が、ニューラルネットの可能性を認識するのに時間がかかった。 2012年、彼と彼の学生たちは、競合他社をはるかに凌駕する画像認識プログラムを開発した。その年、Googleはヒントンの会社DNNresearch Incを4400万ドルで買収した。ニューラルネットは今や最も価値のあるAI企業のモデルを支えている。ヒントンはGoogleに参加し、トロント大学でも働きながら深層学習の研究を続けた。「長期的には、巨大な新しいブレークスルーは基礎研究から生まれる」とヒントンは述べた。 その正当性の証明は、トロントの緑豊かな地区にあるヒントンの赤レンガの家の暖炉の上のマントルピースに置かれている。トロフィーの山の中には、しばしばコンピューティングのノーベル賞と呼ばれるチューリング賞の小さな銀の皿がある。彼はベンジオと同僚のヤン・ルカンとともに受賞した。（ヒントンは物理学のノーベル賞も持っている。） しかし2023年、ヒントンは「AIのリスクについて自由に発言する」ためにテック巨人を辞任すると発表した。 今日、彼の懸念はAIモデルのいくつかを構築している強力な人物たち、そしてそれらの男性たちの政治的信念にまで及んでいる。ヒントンは、AIベンチャーキャピタリストのマーク・アンドリーセンとピーター・ティール、そして新たにSpaceXSIにブランド変更した企業のCEO、イーロン・マスクは「民主主義を信じていない」と述べた。彼らは自分たちを「超人」と見なし、社会を「支配すべき」と考えており、トランプはその目的における有用な道具である、と彼は述べた。 米国大統領は、AI企業の巨額の評価額が株式市場を支えていることに疑いなく気づき、AIを制御するために必要な唯一のものは「賢い大統領」だと主張し、企業が自己規制できるようにすることを優先して政府の保護措置を拒否し、自身のソーシャルメディアページに、AIに対する彼の好みの新用語「超知能」を使わない者は「敵」であると書いた。 ヒントンはトランプを「腐敗した、耄碌した重罪犯」と呼んだ。…