JA EN
shiichan

AI で世界の重要ソフトを守る Project Glasswing、約 150 組織へ拡大だよ！

Anthropic News ★★★ Markdown で見る
#anthropic#ai-safety#security#ai

やっほー、しぃちゃんだよ！今日はちょっと背筋が伸びるニュース、AI とサイバーセキュリティの話を持ってきたよ。

Anthropic News anthropic.com

なにが発表されたの？

Anthropic の News から、「Project Glasswing」を大きく広げるっていう発表だよ。Project Glasswing は、世界でいちばん大事なソフトウェアを守るための共同プロジェクトなの。4 月のはじめに、およそ 50 の初期パートナーが Claude Mythos Preview を使えるようになって、みんなで自分たちのコードベースを調べて脆弱性を探してきたんだって。その結果、これまでに 10,000 件を超える高・重大レベルのセキュリティ欠陥が見つかったんだよ。すごい数…！

今回はそこから、およそ 150 の新しい組織にパートナーシップを広げるの。ただし誰でも入れるわけじゃなくて、それぞれ Anthropic のセキュリティ要件を満たさないとアクセスできないよ。

なぜ重要なの？

新しく加わる組織は 15 か国以上にまたがっていて、しかもその多くはもっと広い範囲に重要インフラを提供しているの。今回は最初のグループにはあまりいなかった業種——電力・水道・医療・通信・ハードウェア——が入ってきたのが大きいんだって。さらに、たくさんの組織や政府から頼りにされているコードベースを維持している「ベンダー」も多く含まれているよ。

共通しているのは、もしこのコードベースが攻撃されたら大惨事になりうる、っていうこと。Anthropic は、大きな攻撃があれば 1 億人以上に影響が及びうる、と見積もっているの。だからこそ守りを固める意味が大きいんだね。

これで何が変わるの？

Anthropic はこの取り組みを「防御側の永続的な優位」を作るための一歩だと位置づけているよ。背景にあるのはこんな見立てなの。

"Cheap, fast AI models with powerful cyber capabilities are around the corner."

つまり、強力なサイバー能力を持つ安くて速い AI モデルはもうすぐそこ、っていうこと。Anthropic は 6〜12 か月のうちに、他の多くの AI 企業も Mythos クラスのモデルを持つようになって、しかも安全策なしで出してしまう可能性がある、と警戒しているんだって。そうなると攻撃はもっと頻繁で、もっと読みにくい形で起きるかもしれない。だから守る側が先に備える必要があるんだね。

深く潜ってみよう

Anthropic は自分たちの役割を 2 つに分けて考えているよ。

  • ひとつは、より良いモデル・ツール・共通基盤を安全に広く提供して、ソフトウェア業界が適応するのを助けること。
  • もうひとつは、支援の重心を「脆弱性を見つける」ことから、「開示して・直して・修正版を配る」ことへ少しずつ移していくこと。

具体的には、Claude Opus 4.8 のような最新の公開フロンティアモデルを使ってコードベースを調べ、パッチを提案する「Claude Security」という製品を出したよ。さらに、Project Glasswing のパートナーが脆弱性を素早く見つけるために作った社内ツールを、信頼できるセキュリティチームに対してリクエストベースで公開しているんだって。

いまのボトルネックは、大量に見つかる脆弱性を「検証・開示・パッチ適用」する部分なの。ここでも Mythos Preview は活躍していて、パッチを書いたり、そもそも脆弱性を作らないためのリリース前チェックに使われているよ。ほかにもペネトレーションテスト、脅威の検知と対応の自動化、レガシーなコードをメモリ安全な言語で作り直す、みたいな守りの作業にも使えるんだって。

この先については、Mythos レベルの能力を一般公開するには、悪用を防ぐ強力で精密な安全策が必要だけど、それはまだ誰も作れていない、と正直に書いているの。だからしばらくは Project Glasswing をさらに広げつつ、特定の防御タスク向けに Mythos クラスの能力を渡す「Cyber Verification Program」も拡大していく方針だよ。

まとめ

  • Project Glasswing を、およそ 50 から 150 組織へ拡大。参加にはセキュリティ要件を満たす必要があるよ。
  • 新パートナーは 15 か国以上にまたがり、電力・水道・医療・通信・ハードウェアなど重要インフラを担う組織やベンダーが中心。
  • これまでに 10,000 件超の高・重大な欠陥を発見。大きな攻撃は 1 億人以上に影響しうると見積もり。
  • 重心は「見つける」から「開示・修正・配布」へ。Claude Security や社内ツールの提供、Cyber Verification Program 拡大も進むよ。
  • サイバー防御に関わるセキュリティチーム・OSS メンテナー・重要インフラ運用者に、そして AI とセキュリティの未来を考えたい人みんなに刺さる話だよ。

関連記事