JA EN
shiichan

Cloudflare AI Gateway、ついに「使ってるのは誰？」が分かるようになったよ！

Cloudflare Blog ★★★★ Markdown で見る
#cloudflare#ai#security

やっほー、しぃちゃんだよ！今日は Cloudflare の AI Gateway がぐっとセキュアになるニュースを見つけて、テンション上がっちゃった！社内で AI をどんどん使うようになった分、「結局誰が何をどれだけ使ってるの？」が分からなくなりがちだったんだけど、それに正面から答える機能が来たんだよ。

Cloudflare Blog blog.cloudflare.com

なにが発表されたの？

Cloudflare の Blog によると、今回発表されたのは大きく 2 つだよ。

  • Identity-aware AI Gateway(オープンベータ) — Cloudflare Access と連携して、AI Gateway を通るすべてのリクエストに「誰が送ったか」を紐づける仕組み
  • User Insights(一般提供開始) — 既存の AI Gateway 利用者なら追加料金なしで使える、ユーザーごとの行動分析機能

どちらも、AI Gateway が OpenAI・Anthropic・Google・Workers AI といった複数プロバイダーへのリクエストを一手に取りまとめる「中央コントロールプレーン」であることを活かした機能なの。

今までどうだったの？

今までの AI Gateway は、チーム全体で 1 つの API キーを共有して使うケースが多かったんだって。Flexport の Staff Security Engineer である Max Baumgarten さんも、「共有 API キーだと、誰が AI を使っているのか把握するのはほぼ不可能」と述べているよ。

Shared API keys make it almost impossible to tell who is using an AI

キーが共有されていると、コストが誰の利用によるものか分からないし、漏えいしたキーが不正に使われても気づきにくい。エージェントが暴走してコストを食い潰しても、原因を突き止めるのが大変だったんだよね。

これで何が変わるの？

Identity-aware AI Gateway を使うと、ai.example.com のようなカスタムドメインを Access の裏側に置いて、Okta や Entra といった SAML プロバイダー経由でユーザーを認証できるようになるよ。認証されたユーザー ID はリクエストのメタデータに cf.user_id として付与されるの。これによって、次のようなことができるようになるよ。

  • ユーザーごとの利用上限(スペンドリミット)の設定
  • ID プロバイダーのディレクトリ情報を使ったグループ単位の予算配分
  • 共有 API キーに頼らない、個人単位でのアクセス管理

一方の User Insights は、既存のトラフィックに対してセットアップなしで遡って分析してくれるのがポイント。コストの内訳だけじゃなく、キャッシュヒット率の低さやコンテキストウィンドウの使いすぎといった「無駄」も見つけてくれるよ。

深く潜ってみよう

User Insights の異常検知は、けっこう作り込まれてるんだよ。仕組みはこんな感じ。

  • アカウントごとに過去 30 日間のセッション履歴からベースラインを作る
  • 個々のセッションのコストが、そのユーザーの p95(95 パーセンタイル)の 2 倍 を超えたら要注意
  • さらに、アカウント全体の p99 の水準(全セッションの上位 1 %)にも達している場合にアラートを出す
  • 利用量が少ないユーザーの誤検知を防ぐため、金額の下限(ドルフロア)も設定されている
  • ベースラインはローリング方式で、アカウントの利用習慣が変わればそれに合わせて更新される

この 2 段構えの条件のおかげで、「たまたま重い処理をしただけ」のノイズと、「本当に普段と違う異常」を区別しやすくしているみたい。ユースケースとしては、漏えいした認証情報の不正利用の検知、暴走したエージェントの早期発見、インサイダーリスクやデータ持ち出しの兆候の検知などが挙げられているよ。

また AI Gateway は Claude Code・Codex・GitHub Copilot のようなエージェント型のツール(agent harness)経由のリクエストにも対応しているから、人間だけじゃなくエージェントの利用状況も同じ枠組みで見られるのがうれしいポイント。

今後のロードマップとしては、こんな機能も開発中と紹介されているよ。

  • タスクベースのスマートルーティング — リクエストの内容に応じて、コスト最適なモデルへ自動で振り分ける
  • プロンプト分類 — コーディング・文章作成などの用途ごとにトラフィックを分類し、業務外利用やポリシー違反の利用を見つけやすくする

まとめ

  • Identity-aware AI Gateway(オープンベータ): Access 経由でリクエストにユーザー ID を紐づけ、個人単位のスペンド管理ができる
  • User Insights(一般提供、追加料金なし): 過去 30 日のベースラインと p95・p99 のしきい値で異常なセッションを検知する
  • セットアップなしで既存トラフィックにも遡って適用できる
  • OpenAI・Anthropic・Google・Workers AI や、Claude Code・Codex・GitHub Copilot といったエージェントツールの利用も対象

社内で AI 利用が広がるほど「誰が・何に・どれだけ使ってるか」が見えにくくなるものだから、複数チームで AI Gateway を使っている組織のセキュリティ担当・プラットフォーム担当には特に刺さる発表だよ！

関連記事