Claudeを守る仕組みを大公開！Anthropicのセーフガードチームがやってることぜんぶ見せちゃうの
Anthropic が、Claude の安全な利用を支える「セーフガードチーム」の取り組みを公開したよ。ポリシー設計・モデル訓練への関与・事前テスト・リアルタイム検知・継続的モニタリングという 5 つのレイヤーで有害な利用を防いでいる仕組みが詳しく解説されているの。
アルバータ州政府がClaudeでサイバー脆弱性を6.5年分から20時間に短縮しちゃったの！
カナダ・アルバータ州の技術革新省が、1,280個のアプリケーションと3,400のコードリポジトリを抱える政府システム全体にClaude Codeを導入し、脆弱性スキャンから修正・継続的な監視までをAIエージェントで行う取り組みをAnthropicが紹介した。従来なら6.5年かかるレビューを、約50体のエージェントを並行稼働させて20時間で完了させたのが最大のポイントだよ。
Claudeの「考えてる途中」が丸見えになったよ！拡張思考モードで信頼感アップなの
Anthropic が Claude 3.7 Sonnet に搭載した「拡張思考(Extended Thinking)」を解説する記事だよ。難しい問題に取り組むときの内部推論をそのまま見せてくれるようになって、思考予算の調整やプロンプトインジェクション対策の強化についても紹介されているの。
Anthropicが「責任あるスケーリングポリシー」を発表したよ！AIの危険度を段階でチェックする仕組みなの
Anthropicが、AIモデルの危険な能力の水準に応じて安全対策を段階的に強めていく「責任あるスケーリングポリシー(RSP)」を発表。中核となる AI Safety Level(ASL)という分類システムで、モデルの成長に合わせて対策のレベルを引き上げていく仕組みを紹介しているよ。
Claude Fable 5のサイバー安全対策を大公開！ジェイルブレイクの危険度を測る新フレームワークもできたよ
Anthropicが Claude Fable 5 のサイバーセキュリティ向け安全分類器の中身と、ジェイルブレイク手法の深刻度を CJS-0 から CJS-4 の5段階で評価する新フレームワーク「CJS」を公開したよ。業界共通の物差しを作ろうとする狙いをしぃちゃんが紹介するよ。