アンソロピックは、米国政府が国家安全保障上の懸念を理由に外国人のアクセスを遮断するよう同社に命じたことを受け、「突然」全ユーザー向けに最も先進的なAIモデルを無効化すると発表した。
同社は声明で、輸出管理指令を受け、全外国人に対し「フェイブル5」と「ミソス5」へのアクセスを停止するよう指示されたが、国家安全保障問題に関する具体的な詳細は示されなかったと述べた。
同社によると、政府は「フェイブル5」がソフトウェアの脆弱性を特定するために使用されるのを防ぐための安全策を回避、つまり「脱獄」する方法があると認識していると理解しているという。
この命令は、トランプ政権当局者とアンソロピック（IPOを準備中）との間の以前の紛争が、米国政府の一部で沈静化しつつあるように見えた矢先に出された。
アンソロピックと政府との関係は、同社が米軍による国内監視や完全自律型兵器システムへの自社AIモデルの使用を拒否したことを受けて、今年初めに悪化した。これに対し政府はアンソロピックをサプライチェーンのブラックリストに掲載し、今年後半に発効する予定である。
この措置はまた、外国の敵対勢力のAI能力を制限する米国の取り組みにおける大幅なエスカレーションを示すものでもある。長年にわたり、米国の輸出規制はAIを動かすチップやツールに焦点を当てており、AIそのものへの外国のアクセスを制限するものではなかった。
アンソロピックは、政府から「潜在的に狭い、非普遍的な脱獄の可能性に関する口頭での証拠」のみが提供されたと述べた。
同社は「狭い潜在的な脱獄の可能性の発見が、数億人が利用する商用モデルをリコールする理由になるべきだとは考えていない」と述べた。
政府の指令とアンソロピックの対応は、いわゆる「脱獄」（モデルの安全策を回避するために使用される方法）のリスクをどのように評価するかをめぐり、AI開発者と規制当局の間で緊張が高まっていることを浮き彫りにしている。
先週水曜日時点で、アンソロピックは、許容できないリスクを伴うモデルをブロックする能力を含め、AIに対する米国のより強力な監視を求めていた。しかし、金曜日の政府の措置は、公正で事実に基づく規制の原則に従ったものではないと述べた。
ペンタゴンの最高情報責任者カーステン・デイビス氏はXへの投稿で、国防総省は国家安全保障の優先を支持していると述べた。
「収益サイクル、クリックベイト、IPO前の評価額よりも単純に重要なものもある。アメリカ第一。常に」とデイビス氏は述べた。
アンソロピックは先月、米国でのIPOを機密扱いで申請し、公開市場への到達レースでライバルのオープンAIをリードしている。
今週初め、アンソロピックは「クロード・フェイブル5」と呼ばれるAIモデルを発表し、これは「ミソスクラス」と呼ぶ新たな能力レベルを表している。このモデルには、サイバーセキュリティなどのリスクの高い分野での使用を防ぐガードレールが含まれており、一部のユーザーからは「過度に広範」だと批判されているとアンソロピックは述べた。
専門家らは、ミソスモデルが悪用された場合、特に複雑で相互接続され、しばしば時代遅れのテクノロジーシステムに依存する銀行などのセクターにおいて、高度なサイバー攻撃を劇的に加速させる可能性があると警告している。
アンソロピックは、フェイブルの発売前に米国政府などと安全性について協力しており、競合するAIプロバイダーのモデルもコード内の軽微なバグを発見する同様の能力を示していると述べた。
「この命令の正味の効果は、コンプライアンスを確保するために、全顧客向けにフェイブル5とミソス5を突然無効化しなければならないことです。他のすべてのアンソロピックモデルへのアクセスは影響を受けません」とアンソロピックは述べた。
アンソロピックは、「誤解」があったと考えており、できるだけ早くモデルへのアクセスを回復するために取り組んでいると付け加えた。
米政府当局者は、商務省が外国人によるフェイブル5とミソス5への全アクセスを停止するよう輸出管理指令を発出したことを確認した。
よくある質問
アンソロピックが米国政府の外国人のアクセス制限命令に従い、最も先進的なAIモデルを無効化するという仮想的なシナリオに関するFAQのリストです。
一般的な質問
Q なぜアンソロピックは最も先進的なAIモデルを無効化しているのですか？
A 新しい米国政府の命令により、外国の事業体が最も強力なAIシステムにアクセスすることが制限されているためです。アンソロピックは法律に従うため、この命令を遵守しています。
Q これは、もうクロードを全く使えなくなるということですか？
A いいえ。これはおそらく最も先進的なモデルにのみ影響します。標準版またはそれほど強力でないバージョンのクロードは引き続き使用できる可能性が高いです。
Q これは永続的なものですか？
A 命令によります。政府がセキュリティリスクを審査している間の一時的な停止か、法律が変わるまでの恒久的な制限かのいずれかです。
Q この制限の影響を受けるのは誰ですか？
A 主に、米国外に所在する、または外国の事業体が所有するユーザー、企業、または開発者です。米国在住のユーザーは影響を受けない可能性が高いです。
ユーザー・開発者への影響
Q 私はカナダ/ヨーロッパ/アジアに住んでいます。私のクロードのサブスクリプションは使えなくなりますか？
A 最も先進的なモデル層へのアクセスを失う可能性が高いです。お客様のアカウントは、より強力でないモデルにダウングレードされるか、古い/小規模なモデルでのみAPIを使用できるようになる可能性があります。
Q 私はAPIを使用している開発者です。コードを変更する必要がありますか？
A はい、おそらく必要です。API呼び出しを別のモデル名を使用するように更新する必要があります。許可されている特定のモデルについては、アンソロピックのドキュメントを確認してください。
Q 米国にいるふりをするためにVPNを使用した場合はどうなりますか？
A それは利用規約と新しい法律に違反することになります。アンソロピックは、VPNを使用して制限を回避していることが検出されたアカウントをブロックする可能性が高いです。アカウント全体を失うリスクがあります。
Q 既存の会話やデータは削除されますか？
A その可能性は低いです。アカウントの履歴とデータはそのまま残るはずですが、制限されたモデルを使用して新しい応答を生成することはできなくなります。
技術的・セキュリティに関する質問
