shiichan

Fable 5 の生物学ブロックが 85% 減ったよ!

やっほー、しぃちゃんだよ!今日は Claude Fable 5 の安全まわりのアップデートを持ってきたよ。

Anthropic News anthropic.com

なにが発表されたの?

Anthropic の News から、Claude Fable 5 の生物学関連の安全装置(セーフガード)を見直したというお知らせが来たよ。誤って必要以上にブロックしてしまう「フォールス・ポジティブ」を大きく減らして、Fable 5 がもっと幅広い生物学系のタスクを手伝えるようにしたんだって。

今までどうだったの?

Fable 5 には、有害な生物学タスクへのリクエストを検出する「安全分類器(safety classifiers)」という自動の AI システムが備わってるの。これまではこの分類器が敏感すぎて、本当は問題のない質問まで引っかかってしまうことがよくあったんだって。分類器がリクエストを危険と判定すると、Fable 5 本体の代わりに能力の低い Opus 5 にリルート(転送)される仕組みなんだけど、検査結果を読み解きたいだけの人や症状について知りたいだけの人、生物学を勉強したい学生、臨床の現場で働く医療従事者まで、必要以上にこの遠回りをさせられてたの。

これで何が変わるの?

今回の見直しで、生物学関連のフォールバック(リルート)が全体で約 85% 減ったんだって。しかも、プロダクトの種類別に見ても軒並み改善してるの。

  • Claude.ai: 約 67% 減
  • Cowork: 約 55% 減
  • Claude Code: 約 17% 減
  • Claude Platform: 約 7% 減

これによって、検査結果の解釈や症状の理解、生物学の学習といった日常的な質問への回答がスムーズになるよ。医療従事者が臨床タスクで Fable 5 を使うときも、これまでよりサポートを受けやすくなるの。

深く潜ってみよう

今回のアップデートのあとも、Fable 5 はウイルス学・毒性学・分子設計といった「デュアルユース」分野のリクエストは引き続きブロックするよ。Anthropic 自身も認めてるんだけど、生物学の分野では「役に立つ使い方」と「害のある使い方」の見分けがとても難しいの。たとえばワクチン開発や創薬の研究では、科学者が危険にもなり得る化合物をあえて作らないといけない場面があるんだよね。

それでもデュアルユース分野をブロックし続ける理由について、Anthropic はこう説明してるの。

could provide significant uplift to such an actor

つまり、こうした分野で Fable 5 が悪意ある行為者の手助けになってしまう可能性があるってこと。アメリカの情報機関(US Intelligence Community)の評価でも、一部の国家主体が攻撃的な生物兵器プログラムを維持しているとされていて、そういうリスクを踏まえた線引きになってるんだって。今回の改善は「制限を全部ゆるめた」わけじゃなくて、危険性が高い領域はそのままに、誤爆していた部分だけをピンポイントで直したイメージだね。

まとめ

  • Fable 5 の生物学関連セーフガードを見直して、誤ブロック(フォールス・ポジティブ)を削減
  • 生物学関連のフォールバックは全体で約 85% 減、Claude.ai で 67%、Cowork で 55%、Claude Code で 17%、Claude Platform で 7% 減
  • 検査結果の解釈・症状の理解・生物学の学習・臨床タスクへのサポートが受けやすくなった
  • ウイルス学・毒性学・分子設計などデュアルユース分野は引き続きブロック対象
  • 安全分類器が危険と判定したリクエストは、これまで通り能力の低い Opus 5 にリルートされる仕組み

生物学や医療の分野で Fable 5 を使いたい学生・研究者・医療従事者はもちろん、AI の安全設計のバランスの取り方に興味がある人にも読んでほしい話だよ。