Anthropicの最上位モデルに米政府が配信停止命令——AI規制は「直接介入」の新局面へ

6月12日（米国東部時間）、米商務省はAnthropicに対し、同社の最上位AIモデル「Fable 5」および「Mythos 5」への外国人アクセスを全面停止するよう命じる輸出管理指令を発出した。これを受けてAnthropicは、外国籍ユーザーのみを選別して遮断することが技術的に困難であるとして、米国人を含む全ユーザー向けの提供を即時停止した。

フロンティアAIモデルが政府命令によって市場から引き上げられるのは、これが事実上初めてのケースである。AI安全性をめぐる議論が、企業の自主的なガイドラインや業界団体の合意形成を超え、国家安全保障を根拠とした政府の直接介入という新たなフェーズに移行したことを強く示唆する出来事だ。

米商務省による配信停止命令の全容

命令の内容——外国人への全面アクセス遮断

Axiosの報道によると、商務長官Howard Lutnick氏がAnthropicのCEO Dario Amodei氏宛に書簡を送付し、Fable 5およびMythos 5について、米国外への輸出・再輸出に加え、米国内に居住する外国籍者への提供にも政府の事前承認を求める旨を通達した。対象にはAnthropicの外国籍従業員も含まれている。

Anthropicはこの命令を6月12日午後5時21分（東部時間）に受領した。書簡には国家安全保障上の懸念が引用されていたものの、具体的な脅威の詳細は記載されていなかったという。

全ユーザー向けの停止に踏み切った理由について、Anthropicは「リアルタイムで外国籍ユーザーのみを確実に識別・遮断する手段がないため、法令順守を確保するには全面停止以外の選択肢がなかった」と説明している。なお、Fable 5・Mythos 5以外のAnthropicモデル（Opus、Sonnet、Haikuなど）へのアクセスには影響がないとされる。

トリガーとなった「ジェイルブレイク」報告

今回の命令の引き金となったのは、別の企業がMythosの安全機構を迂回（ジェイルブレイク）する手法を発見したと主張し、その報告が政府関係者の警戒を招いたことだとAxiosは伝えている。政府当局者によれば、トランプ政権はモデルの公開前にAnthropicに対しリリースの延期を求めたが、Anthropic側がこれに応じなかったため、輸出管理指令という強制手段に踏み切った経緯がある。

Anthropic側はこの報告を検証済みだとしており、当該手法は「特定のコードベースを読み込ませてソフトウェアの欠陥を修正させる」という限定的なものにすぎず、発見された脆弱性も「既知の軽微なもの」であったと反論している。

Fable 5とMythos 5の位置づけ

Fable 5とMythos 5は、2026年4月にProject Glasswingを通じて限定公開されていたClaude Mythos Previewの後継モデルである。Mythos Previewは高度なサイバーセキュリティ能力で注目を集め、Mozillaがこのモデルを活用して数百件の脆弱性を修正したと報告するなど、セキュリティ研究分野で大きなインパクトを残していた。

Mythos 5はProject Glasswing参加組織のみに提供される最上位モデルであり、Fable 5はその一般公開版として、サイバーセキュリティ領域を含む高リスク分野での応答を制限する分類器を追加搭載していた。

いずれも公開前に米国政府、英国AIセキュリティ研究所（AISI）、複数のサードパーティ組織による合計数千時間のレッドチーミングを経ており、テスト段階では「汎用的ジェイルブレイク」は発見されなかったとAnthropicは主張している。

Anthropicの反論——「狭いバイパスでモデル全体を止めるのは過剰」

多層防御戦略と安全性評価の実績

Anthropicは公式声明において、Fable 5の安全機構は「過去に展開されたどのモデルよりも実質的に強固である」と主張した。同社が採用する「多層防御（defense in depth）」戦略の骨子は以下の通りである。

• ジェイルブレイクが仮に成功しても、その効果範囲を「狭い領域」にとどめる設計
• 汎用的ジェイルブレイクの作成コストを極めて高くする技術的障壁
• 成功した攻撃を迅速に検知・遮断するための継続的モニタリング
• Fable利用時に30日間のデータ保持を義務化し、事後調査を可能にする体制

Anthropicはさらに、「完璧なジェイルブレイク耐性は現時点でどのモデルプロバイダーにも実現不可能である」という立場を明確にしており、Fable 5のリリース時にも公言していた事実であると強調している。

「他社モデルでも同等のことは可能」という指摘

Anthropicの反論の中で特に注目すべきは、政府が問題視したジェイルブレイクによって示された能力は「他の一般公開モデルでも広く利用可能な水準にすぎない」と明言した点である。具体的にOpenAIのGPT-5.5を名指しし、同モデルのサイバーセキュリティ評価情報を引用しながら、「この水準の能力は日々、防御側がシステムの安全を保つために使用しているものだ」と述べた。

Anthropicはこの論点をさらに敷衍し、もし「狭い非汎用的ジェイルブレイクの発見」を基準にモデルの商用提供を停止するならば、「全てのフロンティアモデルプロバイダーにとって、事実上、新規モデルの展開が不可能になる」と業界全体への影響を警告している。

AI規制の転換点——「自主規制」から「政府命令による即時停止」へ

フロンティアモデルが政府命令で市場から引き上げられた意味

これまでAIモデルの安全性管理は、各企業が自主的にレッドチーミングを実施し、問題が見つかれば自社の判断で対処するという「自主規制モデル」が主流であった。

安全性評価の枠組みとしてはNISTのAI Risk Management FrameworkやEUのAI Act、さらには各社の自主的コミットメント（Responsible Scaling Policyなど）が存在するが、いずれも「配信済みモデルを政府命令で即時停止する」という直接介入の仕組みは想定していなかった。

今回の事案は、AIの安全性をめぐる規制の手段が「事後的な監督」や「自主的なコミットメント」から「政府による即時の配信停止命令」へと一段階引き上げられたことを意味する。しかも、その根拠となったのは包括的な安全性評価の結果ではなく、第三者企業からの単一のジェイルブレイク報告であったとされる点が、手続きの透明性に関する疑問を呼んでいる。

輸出管理法の新たな適用領域としてのAIモデル

輸出管理法は従来、半導体やGPUといったハードウェアの対中輸出規制に主として適用されてきた。ソフトウェアとしてのAIモデルに対し、この枠組みが「即時アクセス停止」という形で発動されたのは異例であり、AI業界にとって重大な先例となる可能性がある。

この適用拡大は複数の問いを生じさせる。どの水準の能力を持つモデルが輸出管理の対象となるのか、判断基準はどこに設定されるのか、そして一企業のモデルに適用された基準が他社にも等しく適用されるのかという公平性の問題である。

Anthropic自身も声明の中で、「政府は安全でない展開をブロックする権限を持つべきだが、それは透明で公正、明確で技術的事実に基づく法的プロセスの一部であるべきだ」と、制度設計の不備を指摘している。

AI企業の事業戦略に及ぶ影響

今回の命令は、Anthropicの事業タイミングとしても極めて影響が大きい。同社はFable 5・Mythos 5の発表からわずか数日後にモデルの全面停止を余儀なくされた。報道によれば、AnthropicはIPOに向けたS-1の機密提出を直近で行っている段階にあり、上場準備の最中にフラッグシップモデルが政府命令で停止されるという前代未聞の事態に直面している。

フロンティアモデルの開発競争においては、「モデルの能力を高めれば高めるほど、政府介入のリスクも高まる」という新たなジレンマが顕在化したと言える。OpenAIやGoogle DeepMindを含む他の主要プレイヤーも、今後のモデルリリース戦略において政府との事前調整をより重視する方向に動く可能性がある。

本事例が映し出す「AI安全性」をめぐる構造的問い

安全性評価の基準は誰が定めるのか

今回の事案の核心にあるのは、「AIモデルの安全性を誰が、どのような基準で判定し、どのような手続きで市場からの撤去を決定するのか」という制度設計の空白である。

Anthropicは数千時間のレッドチーミングを経て安全だと判断してリリースしたが、政府は第三者からの報告一件を受けて即時停止を命じた。この両者のギャップは、現時点ではAIモデルの安全性評価に関する統一的な基準も、判定プロセスに関する透明な手続きも確立されていないことを浮き彫りにしている。

Anthropicは声明の中で、有害な結果をもたらすジェイルブレイクの報告は「開示すら受けていない」と明言しており、政府側の判断根拠に対する疑問を強くにじませている。一方で政府側は、国家安全保障上の懸念を理由に詳細の公開を控えている。この情報の非対称性が、事態の解決を複雑にしている構図が見える。

「モデルの能力」と「モデルの危険性」の線引き

フロンティアモデルの能力が向上するほど、その能力が防御的にも攻撃的にも利用可能になるという「デュアルユース問題」は以前から指摘されてきた。今回の事案はこの問題を極めて具体的な形で顕在化させた。

Anthropicは、ジェイルブレイクで引き出された能力は「防御側が日常的に使用している水準」であり、他の商用モデルでも実行可能だと主張する。

仮にこの主張が正しいとすれば、問題はFable 5の固有の危険性ではなく、フロンティアモデル全般に内在するデュアルユース特性をどう管理するかという、より広範な政策課題に帰着する。今後24時間以内にAnthropicが追加の技術的詳細を公開するとしており、議論は次の段階に進む見通しである。