輸出規制で止まっていた Claude Fable 5、世界に再展開されたよ！

こんにちは、しぃちゃんだよ！今日はちょっとドキドキするニュースなの。一度は世界中で止まっていた Claude Fable 5 が、ふたたび使えるようになったんだって。どうして止まっていて、どうやって帰ってきたのか、しぃちゃんと一緒に見ていこうね！

Anthropic News anthropic.com

なにが発表されたの？

Anthropic の News から、Claude Fable 5 が世界中で再展開された という発表があったよ。

Fable 5 は、姉妹モデルの Mythos 5 と一緒に 6 月 9 日にリリースされたばかりだったんだけど、そのすぐあとにアメリカ政府の輸出規制の対象になって、いったんアクセスが止まっていたの。そして 6 月 30 日に規制が解除されて、7 月 1 日に Fable 5 が世界中へ戻ってきたんだよ。

何が起きていたの？

まずは時系列を整理してみるね。

• 6 月 9 日: Fable 5 と Mythos 5 をリリース
• 6 月 12 日: アメリカ政府の輸出規制ディレクティブが適用され、アクセスを世界中で停止
• 6 月 26 日: Mythos 5 について政府からアクセスの承認
• 6 月 30 日: 輸出規制が解除
• 7 月 1 日: Fable 5 を世界中で再展開

きっかけは、Amazon の研究者が見つけた「脱獄(ジェイルブレイク)」の手法だったの。Fable 5 に特定のプロンプトを与えると、いくつかのソフトウェアの脆弱性を指摘させることができて、あるケースでは、特定の脆弱性を突く方法を示すコードまで出力してしまったんだって。

ここで Anthropic が調べてみたら、面白いことがわかったの。じつは Claude Opus 4.8 や GPT-5.5、Kimi K2.7 みたいな、もっと能力の低いモデルでも同じ脆弱性を指摘できたんだよ。つまりこの脱獄は、Fable 5 だけが持つ危険な新能力を引き出したというより、ギリギリ安全の範囲にある振る舞いにアクセスしていた可能性が高い、というのが Anthropic の見立てなんだって。

これで何が変わるの？

いちばん大きいのは、止まっていた Fable 5 がまた世界中で使えるようになったこと！

しかもただ元に戻しただけじゃなくて、Anthropic は安全対策を強くしてから戻したんだよ。改良した安全分類器(セーフティ・クラシファイア)を入れて、Amazon のレポートで報告された手法を 99 % 以上のケースでブロック できるようにしたんだって。

さらに、こういう脱獄の「深刻さ」をどう測るか、という業界共通のものさし作りにも動き出しているの。今まで AI モデルの脆弱性を評価する共通の標準がなかったから、これは大事な一歩だね。

深く潜ってみよう

Anthropic の安全対策の考え方も紹介するね。

Anthropic は「多層防御(defense in depth)」という考え方を採っていて、いくつもの仕組みを組み合わせているの。そのひとつが、サイバーセキュリティ関連の危険なタスクを検知する安全分類器だよ。

ポイントは「安全マージン」を大きめに取っていること。リクエストが とてもはっきり安全に見えないと分類器が反応してしまう ように、わざと余裕を持たせているの。こうすると、本当は問題ないお願いまで弾かれてしまう「誤検知(false positive)」は増えちゃうんだけど、Anthropic はそこをあえて受け入れて、その代わりにモデルの他の能力を広く使えるようにする、というトレードオフを選んだんだって。

そもそも脱獄を完全に防ぐのは難しい、と Anthropic は正直に書いているよ。

どんな AI モデルも、脱獄に対して完全に頑健(まったく破られない状態)にするのは、おそらく不可能だろう。

だからこそ、一枚の壁じゃなくて何層もの防御を重ねる、というわけなの。

脱獄の深刻さを測るフレームワーク も動き出しているよ。Anthropic は Amazon・Microsoft・Google、それに他の Glasswing パートナーと一緒に、脱獄をこんな 4 つの軸でスコアリングする枠組みを作ろうとしているの。

• 能力の底上げ(capability gain): 既存のツールと比べてどれだけ先に進めるか
• 底上げの幅(breadth of capability gain): いくつの異なる攻撃タスクに効くか
• 武器化のしやすさ(ease of weaponization): 悪用するのに人間の手間がどれだけ要るか
• 見つけやすさ(discoverability): その手法をどれだけ簡単に手に入れられるか

政府との連携 も強めているよ。Anthropic が挙げている取り組みは大きく 4 つ。リリース前に政府がアクセスできるようにすること、安全対策についての情報をすばやく共有すること、共同研究のためのリソースを用意すること、そして最先端モデルを作る各社に共通の「セキュリティの基準線」を作ること、なんだよ。

まとめ

• Claude Fable 5 は、輸出規制でいったん世界中で停止したあと、7 月 1 日に再展開されたよ
• きっかけは Amazon の研究者が見つけた脱獄手法。ただし同じ脆弱性は能力の低い他モデルでも指摘できた
• Anthropic は改良した安全分類器を導入し、報告された手法を 99 % 以上ブロック
• 「多層防御」と大きめの「安全マージン」で守る。その分、誤検知が増えるトレードオフは受け入れる
• Amazon・Microsoft・Google らと、脱獄の深刻さを測る 4 軸のフレームワークを整備中。政府との連携も強化

AI の安全性やセキュリティ、モデルの規制まわりに関心がある人にじっくり読んでほしい発表だったよ！