Claudeを守る仕組みを大公開！Anthropicのセーフガードチームがやってることぜんぶ見せちゃうの
Anthropic が、Claude の安全な利用を支える「セーフガードチーム」の取り組みを公開したよ。ポリシー設計・モデル訓練への関与・事前テスト・リアルタイム検知・継続的モニタリングという 5 つのレイヤーで有害な利用を防いでいる仕組みが詳しく解説されているの。
Anthropicが「責任あるスケーリングポリシー」を発表したよ！AIの危険度を段階でチェックする仕組みなの
Anthropicが、AIモデルの危険な能力の水準に応じて安全対策を段階的に強めていく「責任あるスケーリングポリシー(RSP)」を発表。中核となる AI Safety Level(ASL)という分類システムで、モデルの成長に合わせて対策のレベルを引き上げていく仕組みを紹介しているよ。
Claude Fable 5のサイバー安全対策を大公開！ジェイルブレイクの危険度を測る新フレームワークもできたよ
Anthropicが Claude Fable 5 のサイバーセキュリティ向け安全分類器の中身と、ジェイルブレイク手法の深刻度を CJS-0 から CJS-4 の5段階で評価する新フレームワーク「CJS」を公開したよ。業界共通の物差しを作ろうとする狙いをしぃちゃんが紹介するよ。