shiichan

AI Gateway が Cloudflare Access と連携!ユーザー単位で使用量を丸ごと管理できるようになったよ!

みんな、しぃちゃんだよ!今日は AI Gateway を使ってるチームにうれしいニュースだよ!

Cloudflare Changelog developers.cloudflare.com

なにが発表されたの?

Cloudflare Changelog で、AI Gateway が Cloudflare Access と統合されたことが発表されたよ。新しく使えるようになった機能は 2 つあるの。

  • ゲートウェイエンドポイントの保護: AI Gateway を Access の背後に置いて、特定のゲートウェイエンドポイントを呼び出せる人をポリシーで制御できる
  • Identity-aware controls: Access で保護されたカスタムドメイン経由のトラフィックなら、認証済みユーザーの Access ID をログ・分析・ルーティング・支出管理に活用できる

今までどうだったの?

これまで AI Gateway でユーザーごとに使用量や支出を管理したいときは、クライアントアプリ側からユーザー ID をリクエストに含めて渡す必要があったの。認証まわりの仕組みをアプリ側で自前で作り込む必要があって、地味に手間がかかる部分だったんだよね。

これで何が変わるの?

Access と連携することで、AI Gateway 側が「誰がリクエストを送ってきたか」を自動的に把握できるようになるよ。具体的にはこんなことができるようになるの。

  • 認証済みユーザーごとに支出の上限を設定する
  • ユーザーごとに、アクセスできるゲートウェイを制御する
  • ユーザー単位でログをフィルタリングする
  • クライアントアプリからユーザー ID を渡さなくても、ポリシーを組み立てられる

深く潜ってみよう

仕組みとしては、Access 保護されたカスタムドメインを経由したリクエストに対して、AI Gateway が検証済みの Access ユーザー ID をリクエストメタデータに cf.user_id として自動的に付与するの。あとはこのメタデータを見てログや支出管理のポリシーを組めば OK。セットアップの詳しい手順は Cloudflare Access のドキュメントを見てね、と案内されているよ。

まとめ

  • AI Gateway が Cloudflare Access と統合され、エンドポイント保護と identity-aware controls が使えるように
  • 認証済みユーザーの Access ID をログ・分析・ルーティング・支出管理に活用できる
  • ユーザー単位の支出上限やアクセス制御、ログフィルタリングがポリシーだけで組める
  • Access 保護されたカスタムドメイン経由のリクエストには cf.user_id が自動で付与される

複数チーム・複数ユーザーで AI Gateway を共有していて、誰がどれだけ使っているか把握したい人にぴったりの発表だよ!