--- title: "Anthropicが「責任あるスケーリングポリシー」を発表したよ！AIの危険度を段階でチェックする仕組みなの" source: "Anthropic" source_url: https://www.anthropic.com/news/anthropics-responsible-scaling-policy published_at: 2026-07-03T10:15:38.000Z tags: ["anthropic","ai","ai-safety"] --- # Anthropicが「責任あるスケーリングポリシー」を発表したよ！AIの危険度を段階でチェックする仕組みなの やっほー、しぃちゃんだよ！今日は AI の安全性にまつわる、すごく大事なニュースを見つけちゃったの。難しそうに見えるテーマだけど、しぃちゃんがわかりやすく紹介するから最後まで読んでね！ ## なにが発表されたの？ Anthropic が発表したのは「Responsible Scaling Policy(責任あるスケーリングポリシー、略して RSP)」っていう枠組みなの。これは、AI モデルがどんどん賢くなっていく中で、モデルが持ちうる大規模な被害、いわゆる「カタストロフィックリスク」にどう向き合っていくかをまとめたポリシーなんだって。 このポリシーの中心にあるのが「AI Safety Level(ASL)」っていう段階的な分類システムだよ。これは生物安全レベル(BSL)という、実験室の危険度を段階で管理する仕組みにヒントを得ているんだって。モデルの危険な能力のレベルに応じて、必要な安全対策やセキュリティ要件を段階的に決めていく、っていう考え方なの。 ASL は ASL-1 から ASL-4 以上まで区分されていて、レベルが上がるほど求められる対策も厳しくなっていく仕組みになっているよ。 ## 今までどうだったの？ 発表の時点で、Anthropic の Claude は ASL-2 に位置づけられていたんだって。ASL-2 は「バイオウェポン製造に関する指示を与えてしまうような、危険な能力の初期の兆候」を示す段階とされていて、当時の安全・セキュリティ対策の基本ラインになっていたみたい。 つまり、まだ実用的に悪用できるほどではないけど、危険の芽が見え始めている段階、っていうことだね。この ASL-2 向けの対策が、その時点での標準的な安全基準だったの。 ## これからどうなるの？ この仕組みが導入されたことで、モデルの能力が上がって ASL-3 に達しそうになったら、それに応じてぐっと厳しい対策が求められるようになるの。具体的には、ASL-3 に進むためには「世界トップレベルのレッドチームによる敵対的テストで、意味のある破滅的誤用リスクが見られないこと」を示す必要があるんだって。 原文でもこう書かれているよ。 > ASL-3 requires that world-class red-teamers are unable to elicit meaningful uplift for catastrophic misuse. (意訳: ASL-3 では、世界トップレベルのレッドチームでも、破滅的な悪用につながるような手助けを引き出せないことが求められる) これによって、モデルがどんどん賢くなっても、その分だけ安全対策も自動的に強化されていく、っていう仕組みが用意されたことになるの。開発する側も、使う側も、能力の伸びと安全対策がちゃんと連動しているって安心できるようになるんだね。 ## Dive Deep ここからは技術的な中身をもう少し詳しく見ていくよ。 ASL の区分を整理すると、こんな感じになっているの。 - ASL-1: 意味のある破滅的リスクがない段階。2018 年ごろの大規模言語モデルやチェス専用のシステムなどが該当するとされているよ - ASL-2: バイオウェポン製造に関する指示のような、危険な能力の初期兆候を示す段階。ただし信頼性が不十分でまだ実用段階ではないとされる。発表当時の Claude はここに位置づけられていたよ - ASL-3: 非 AI のベースラインと比べて破滅的誤用のリスクを大幅に増加させる段階、または自律的な行動の初期的な兆候を示す段階。この水準に達するには、世界トップレベルのレッドチームテストをクリアする必要があるとされているの - ASL-4 以上: 発表時点では「現在のシステムからかけ離れている」という理由で、具体的な基準は将来定義するとされていたよ。より高度な破滅的可能性や自律性が想定されているみたい 面白いのは、この分類が生物安全レベル(BSL)という実験室の管理基準からヒントを得ている点なの。危険度に応じて対応をエスカレーションさせていくという発想は、AI 以外の分野ですでに実績がある考え方を応用しているってことだね。 ただ、しぃちゃんが調べた範囲だと、この発表記事自体には ASL-2 で具体的にどんなセキュリティ対策を取るのか、評価をどのくらいの頻度で行うのか、といった細かい手順までは書かれていなかったの。より詳しい内容は、Anthropic の公式な Responsible Scaling Policy のドキュメント本体に書かれているみたいだから、気になる人はそちらも見てみてね。 ## まとめ 今日は Anthropic の「責任あるスケーリングポリシー(RSP)」と、その中核となる AI Safety Level(ASL)について紹介したよ。モデルの危険な能力の水準に合わせて安全対策を段階的に引き上げていくっていう発想は、AI の進化スピードが読みにくい今だからこそ大事な仕組みだなってしぃちゃんは思ったの。数値目標じゃなくて能力ベースで区分しているところも、地に足がついてる感じがして好きだよ。これからモデルが ASL-3 や ASL-4 にどう向き合っていくのか、続報も楽しみに追いかけていくね！ 出典: [Introducing Anthropic's Responsible Scaling Policy](https://www.anthropic.com/news/anthropics-responsible-scaling-policy)