JA EN
shiichan

Workers AI と AI Gateway が合体！フロンティアモデルは Workers Paid 不要でレート制限 2.5 倍に！

Cloudflare Changelog ★★★★ Markdown で見る
#cloudflare#ai#serverless

こんにちは、しぃちゃんだよ！今日は Cloudflare の Changelog で見つけた、Workers AI と AI Gateway のうれしいアップデートを紹介するね。Workers AI をそのまま使ってる人にも、AI Gateway を使い倒してる人にも関係あるお知らせだよ！

Cloudflare Changelog developers.cloudflare.com

なにが発表されたの？

Cloudflare の Changelog で発表されたのは、Workers AI と AI Gateway のモデルアクセスと課金が統一されるというニュース。同じ AI バインディングや REST API を使って、Workers AI がホストするモデルにも、対応するサードパーティプロバイダーのモデルにもアクセスできるようになったの。AI Gateway 側では、そのリクエストに対してオブザーバビリティ・ロギング・キャッシュ・セキュリティ・課金管理といった機能を提供してくれるよ。

今までどうだったの？

これまでは Workers AI を直接呼ぶ経路と、AI Gateway 経由でリクエストをルーティングする経路とで、入り口や課金の扱いが分かれがちだったの。今回の発表は、この二つの経路を同じインターフェースと同じ請求の仕組みの上に揃えるアップデートなんだよね。

これで何が変わるの？

  • env.AI.run() を使う AI バインディングが、Workers AI とサードパーティモデルの両方に対応するようになった
  • REST API も、共通の /ai/ エンドポイントとしてプロバイダーをまたいで同じ Cloudflare 認証で呼び出せる
  • ゲートウェイ ID を指定すれば Workers AI のリクエストを AI Gateway 経由でルーティングできて、default を指定すると初回の認証済みリクエストで自動的にゲートウェイが作られる
  • AI Gateway を通したリクエストは、リクエスト数・エラー・レイテンシ・トークン使用量・コストの分析対象になり、キャッシュ・レート制限・リトライといった制御も設定できる
  • AI Gateway のプリペイドクレジットで Workers AI の推論費用も支払えるようになり、Workers AI とサードパーティプロバイダーを 1 つのクレジット残高でまとめて管理できる

深く潜ってみよう

コード例

ゲートウェイ経由で Workers AI を呼ぶコードはこんな感じだよ。

const response = await env.AI.run(
  "@cf/zai-org/glm-5.2",
  {
    messages: [{ role: "user", content: "What is the capital of France?" }],
  },
  {
    gateway: { id: "default" },
  },
);

gateway: { id: "default" } を渡すだけで、リクエストが AI Gateway 経由になるの。アプリやワークロードごとにゲートウェイを分けたいときは、既存のゲートウェイ ID を指定すればいいよ。

統一課金の設定と対象モデル

Workers AI の課金にクレジットを使うには、ゲートウェイの Workers AI billing setting を Unified billing に切り替える必要があるの。そのゲートウェイを通した Workers AI リクエストは、クレジット残高からリアルタイムで差し引かれる仕組みだよ。

さらに、プリペイドクレジットを使うと、Workers Paid プランに入っていなくても次のフロンティアモデルにアクセスできるようになるよ。

  • @cf/moonshotai/kimi-k2.6
  • @cf/moonshotai/kimi-k2.7-code
  • @cf/zai-org/glm-5.2

しかもレート制限も上がっていて、AI Gateway のクレジットで課金した場合は 1 アカウント・1 モデルあたり 50 リクエスト/分。従来の Workers AI の課金だと 20 リクエスト/分だったから、上限が 2.5 倍になったことになるね。この上限は、フロンティアモデルへのリクエストが時間がかかりやすい、エージェント系やコーディング系のワークロードを想定して設計されているみたい。

まとめ

  • Workers AI と AI Gateway のモデルアクセス・課金が統一され、同じ AI バインディング / REST API で Workers AI とサードパーティモデルを呼べるように
  • ゲートウェイ ID を指定するだけで Workers AI のリクエストを AI Gateway 経由にでき、default を指定すれば自動でゲートウェイが作られる
  • AI Gateway のプリペイドクレジットを Workers AI の課金にも使える「Unified billing」設定が追加された
  • クレジット課金なら Workers Paid プラン不要で Kimi-k2.6・Kimi-k2.7-code・GLM-5.2 のフロンティアモデルにアクセスでき、レート制限も 20 リクエスト/分から 50 リクエスト/分に向上

Workers AI と AI Gateway をすでに併用してるエンジニアはもちろん、これから AI Gateway でモデルの可視化やコスト管理を始めたい人にもうれしいアップデートだよ！

関連記事