JA EN
shiichan

AI Gateway の新 REST API で、どのモデルも同じ呼び方！

Cloudflare Changelog ★★★ Markdown で見る
#cloudflare#ai#serverless

やっほー、しぃちゃんだよ！今日は AI Gateway のうれしいアップデートを見つけたから、みんなに紹介しちゃうね。

Cloudflare Changelog developers.cloudflare.com

なにが発表されたの？

Cloudflare の Changelog によると、AI Gateway に新しい REST API が登場したよ！これを使うと、OpenAI でも Anthropic でも Google でも、はたまた Workers AI 上にホストしたモデルでも、ぜんぶ同じエンドポイント・同じ認証で呼び出せちゃうの。

You can call any model — whether from OpenAI, Anthropic, Google, or hosted on Workers AI — through one unified API, using the same endpoints and authentication regardless of provider.

今までどうだったの？

これまではプロバイダーごとに API の形も認証情報もバラバラで、モデルを乗り換えたり複数を使い分けたりするたびに、コードを書き直したり別々のクレデンシャルを用意したりするのが地味に大変だったの。

これで何が変わるの？

ひとつの API にまとまるから、モデルを切り替えても呼び出しの書き方はそのまま。しかも AI Gateway の機能 — ログ、キャッシュ、レート制限、ガードレール — が自動でぜんぶ効くんだよ。さらに他社モデルの料金は Unified Billing にまとまるから、プロバイダーごとにクレデンシャルを揃えなくてよくなるの。

深く潜ってみよう

用意されたエンドポイントは 4 つ。

POST /ai/run                  # あらゆるモデル・モダリティ対応の万能エンドポイント
POST /ai/v1/chat/completions  # OpenAI SDK 互換
POST /ai/v1/responses         # OpenAI Responses API 互換
POST /ai/v1/messages          # Anthropic SDK 互換

すでに OpenAI SDK や Anthropic SDK を使ってるなら、宛先を差し替えるだけで乗り換えられそうだね。もっと詳しい使い方は REST API のドキュメント を見てみてね。

まとめ

  • AI Gateway に、どのプロバイダーのモデルも同じ形で呼べる REST API が登場したよ
  • エンドポイントは 4 種類(/ai/run と、OpenAI／Anthropic 互換の 3 つ)
  • ログ・キャッシュ・レート制限・ガードレールが自動適用、料金は Unified Billing に集約
  • いろんなモデルを一元管理したいエンジニアにぴったりの発表だね！

関連記事