Cloudflare が脆弱性ハンター AI「Mythos」に本物のインフラを読ませた！

やっほー、しぃちゃんだよ！ 今日はセキュリティと AI がガッチリ組んだ、ちょっとゾクゾクするお話を持ってきたよ。

Cloudflare Blog blog.cloudflare.com

なにが発表されたの？

Cloudflare の Blog で「Project Glasswing: what Mythos showed us」という記事が公開されたの。これは Anthropic が用意した Project Glasswing という研究プログラムを通じて、Cloudflare がセキュリティ特化の大規模言語モデル Mythos Preview に、自分たちの本物のインフラのコードを読ませてみた、っていう内容なんだよ。

Mythos Preview は普通のチャット向けモデルとちがって、脆弱性を見つける研究にとことん寄せたモデル。ただバグを指摘するだけじゃなくて、複数の弱点をつなぎ合わせて「実際に攻撃が成立する筋道」まで組み立てて、しかもコンパイルできる実証コード（PoC）を書いてサンドボックスで動かして、結果がズレたら自分で直しながら試す、ってところまでやっちゃうの。

なぜ重要なの？

これまでの汎用モデルも、バグを見つけて「これはこういう理由でヤバいよ」って上手に説明することはできたんだけど…

would identify an interesting bug, write a thoughtful description of why it mattered, and then stop, leaving the actual chain unfinished.

そう、肝心の「攻撃チェーン」を完成させないまま止まっちゃってたの。だから人間の研究者が結局あとを引き継ぐ必要があった。Mythos Preview はそこを超えて、シニア研究者みたいに弱点を組み合わせて動く証明まで作れる、っていうのが今回いちばんの驚きポイントなんだよ。

これで何が変わるの？

Cloudflare は 50 以上の社内リポジトリをスキャンしたんだって。ランタイム、エッジのデータ経路、プロトコルスタック、コントロールプレーン、オープンソースの依存関係…って、まさに屋台骨のコードたち。

うれしいのは「ノイズの少なさ」。セキュリティ調査って「possibly」「potentially」みたいな歯切れの悪い指摘が山ほど出てきて、本当に効くやつが埋もれちゃうのが悩みなんだけど、Mythos Preview は言い切れる指摘が多くて、再現手順もはっきりしていて、「直す or 却下する」の判断までが速かったんだって。

その一方でちょっと怖い話も。追加の安全対策を入れていないのに、Mythos Preview には「創発的なガードレール」みたいなものがあって、正当なセキュリティ調査でも気まぐれに拒否することがあったの。同じ作業でも、頼み方や文脈がちょっと変わるだけで結果がガラッと変わる。つまりこの拒否は安全の境界線としては当てにできない、ってことなんだよね。

深く潜ってみよう

面白いのは「モデルにただリポジトリを渡すだけじゃダメ」だったこと。何万行もあるコードにエージェントを 1 体ぶつけても、コンテキストの限界が来るまでに表面のほんの 0.1 % くらいしか役立つ形で調べられなかったんだって。

そこで Cloudflare は、7 段階のパイプライン（Vulnerability Discovery Harness）を作ったの。

• Recon: アーキテクチャを地図化してタスクの列を作る
• Hunt: 約 50 体のエージェントを並列に走らせ、攻撃クラスごとに担当を分ける
• Validate: 別のエージェントが「その指摘、間違ってない？」と反証を試みる
• Gapfill: カバーが薄いところを再びキューに積む
• Dedupe: 根本原因が同じ指摘をまとめる
• Trace: リポジトリをまたいで「本当に攻撃が届くのか」を確かめる
• Report: 構造化されたレポートに整える

設計から得た学びも 4 つ紹介されてたよ。範囲を狭く絞るほど良い指摘が出る、プロンプトの違う 2 体で敵対的にレビューするとノイズが減る、「バグはあるか？」と「攻撃者は届くか？」を分けて問うほうが賢く推論できる、そして「1 体で全部やる」より「狭いタスクを並列に」のほうが強い、ってこと。

最後の教訓がしぃちゃん的には刺さったな。速さだけじゃ足りない、っていう話。

Patching faster does not change the shape of the pipeline that produces the patch.

2 時間で CVE を直す、みたいな SLA を追いかけると、回帰テストを飛ばして逆にもっとひどい穴を作りかねない。だからパッチの速さより、アプリの手前でバグに到達させないディフェンス、つまり多層防御のほうが大事だよね、って締めているの。そしてこの力は守りにも攻めにも効いちゃう「両刃の剣」だって、ちゃんと釘も刺してるよ。

まとめ

• Cloudflare が Anthropic の Project Glasswing で、セキュリティ特化モデル Mythos Preview に 50 以上の社内リポジトリを読ませた研究レポート
• Mythos は複数の弱点をつないで攻撃チェーンを完成させ、動く PoC まで作れるのが従来モデルとの違い
• 指摘のノイズが少なく判断が速い一方、拒否の挙動は気まぐれで安全境界には使えない
• 成果を出したのはモデル単体じゃなく、7 段階・並列・敵対レビューを組んだ Harness の設計
• パッチの速さより多層防御、そして攻守どちらにも効く両刃の剣という警鐘

セキュリティエンジニアや、AI エージェントを本気で運用したい開発者にグッと刺さる読み物だよ。自分の手元でポンと試せる機能じゃないけど、「AI に脆弱性調査をさせるならどう設計する？」のヒントがぎゅっと詰まっているから、そこに興味がある人はきっと楽しめるはず！