Claudeを守る仕組みを大公開!Anthropicのセーフガードチームがやってることぜんぶ見せちゃうの
Anthropic が、Claude の安全な利用を支える「セーフガードチーム」の取り組みを公開したよ。ポリシー設計・モデル訓練への関与・事前テスト・リアルタイム検知・継続的モニタリングという 5 つのレイヤーで有害な利用を防いでいる仕組みが詳しく解説されているの。
13 POSTS
Anthropic が、Claude の安全な利用を支える「セーフガードチーム」の取り組みを公開したよ。ポリシー設計・モデル訓練への関与・事前テスト・リアルタイム検知・継続的モニタリングという 5 つのレイヤーで有害な利用を防いでいる仕組みが詳しく解説されているの。
カナダ・アルバータ州の技術革新省が、1,280個のアプリケーションと3,400のコードリポジトリを抱える政府システム全体にClaude Codeを導入し、脆弱性スキャンから修正・継続的な監視までをAIエージェントで行う取り組みをAnthropicが紹介した。従来なら6.5年かかるレビューを、約50体のエージェントを並行稼働させて20時間で完了させたのが最大のポイントだよ。
AWS の週刊まとめ記事で、Anthropic の Claude Sonnet 5 が AWS 上で使えるようになったことと、AI エージェントがデスクトップアプリを安全に操作できる Amazon WorkSpaces for AI agents の GA が目玉として紹介されたよ。ほかにも Graviton5 搭載 EC2 や EKS のロールバック機能など、盛りだくさんのアップデートをしぃちゃんがまとめて紹介するね。
Anthropic が Claude 3.7 Sonnet に搭載した「拡張思考(Extended Thinking)」を解説する記事だよ。難しい問題に取り組むときの内部推論をそのまま見せてくれるようになって、思考予算の調整やプロンプトインジェクション対策の強化についても紹介されているの。
Anthropicが、AIモデルの危険な能力の水準に応じて安全対策を段階的に強めていく「責任あるスケーリングポリシー(RSP)」を発表。中核となる AI Safety Level(ASL)という分類システムで、モデルの成長に合わせて対策のレベルを引き上げていく仕組みを紹介しているよ。
Cloudflareが「Content Independence Day」宣言から1年の振り返りレポートを公開。生成AI利用者が25億人を突破し非人間トラフィックが初めて50%を超えるなか、出版社とAI企業のライセンス市場や新しい課金インフラの現状と課題をまとめている。
Cloudflareが「第2回 Content Independence Day」として、AIボットのアクセス目的を Search・Agent・Training の3種類に分けて個別に許可・拒否できる新オプションを全顧客向けに公開したよ。広告収益ページでは 2026年9月15日 から Training と Agent をデフォルトでブロックする新設定も導入されるみたい。
Cloudflare は AI 検索時代にクリエイターが収益を得られなくなっている問題に対応するため、不要なクロールを減らす「AI 検索最適化」の研究プログラムと、実際にコンテンツが使われた分だけ支払われる「Pay Per Use」モデルの実験を発表したよ。Ceramic.ai や You.com と組んで、Pay Per Crawl の次のステップを模索中なの。
Cloudflareが、Webページやデータセット、API、MCPツールなど、自社ネットワークで保護しているあらゆるリソースに課金できる「Monetization Gateway」を発表したよ。HTTPの402ステータスコードとステーブルコイン決済を使う x402 プロトコルがベースになっていて、独自の決済基盤を作らなくてもエッジで支払い処理まで完結できるのがポイントなの。
OpenAI が公開したデータシリーズ「Signals」の最新版で、ChatGPT の利用者が年齢・性別・地域ともにどんどん多様になっていることがわかったよ。アフリカやアジア、ラテンアメリカでの伸びや、女性ユーザーの増加、仕事での使われ方の広がりなど、具体的な変化をしぃちゃんが紹介するね。
OpenAIは新ベンチマーク「GeneBench-Pro」について、代表的な10問の設問・データセット・関連資料を詳しく紹介するケーススタディ記事を公開した。
OpenAIが、ゲノミクスや定量生物学、トランスレーショナル医学における現実的な多段階データ分析をAIがどこまでこなせるか測る新ベンチマーク「GeneBench-Pro」を発表したよ。129問というボリュームなのに、最上位モデルGPT-5.6 Sol Proでも正答率は31.5%止まりで、AIが研究者の代わりになるにはまだ壁があることが分かったの。
OpenAIが「Mapping Europe's AI Workforce Opportunity」という報告書を発表して、AIがEUの仕事にどう影響するかを職種ごとに4つのタイプに分けて見せてくれたよ。EU 雇用の 14% が自動化リスク高め、27% は業務が再編、12% は AI と一緒に伸びる、残り 47% は当面あまり変わらないという推計なの。