shiichan

Workers AI に新モデル GLM-4.7-Flash 登場、知ってた?

みんな、しぃちゃんだよ! 今日は Cloudflare から一気に 3 つの AI アップデートが来たから、まとめて紹介しちゃうよ!

Cloudflare Changelog developers.cloudflare.com

なにが発表されたの?

Cloudflare の Changelog によると、今回の発表は次の 3 本立てだよ。

  • Workers AI に新モデル @cf/zai-org/glm-4.7-flash が追加
  • TanStack AI 向けの新パッケージ @cloudflare/tanstack-ai が登場
  • Vercel AI SDK 向けプロバイダ workers-ai-provider が v3.1.1 に更新

どれもエージェント(複数ターンでツールを呼び出しながら動く AI)を Cloudflare のエッジ上だけで組み立てやすくするための整備、っていう共通テーマがあるみたい。

なぜ重要なの?

エージェントを作るとなると、モデル選び・フレームワークとの接続・SDK 側の対応と、あちこちのピースを揃える必要があるよね。今回はその「モデル」「フレームワーク連携」「SDK」の 3 か所が同時にアップデートされたから、Workers AI だけでエージェントの土台がひと通り揃った形になるの。だからまとめて知っておく価値があるんだよ。

これで何が変わるの?

まず新モデル GLM-4.7-Flash は、速くて効率のいいテキスト生成モデルとして、多言語での対話や指示追従に向けて最適化されているよ。原文では次のような強みが挙げられているの。

  • 複数ターンにわたるツール呼び出し(エージェント向け)
  • 多言語サポート
  • 大きなコンテキストウィンドウ
  • 高速な推論
  • 指示追従の精度

呼び出し方はこれまでの Workers AI モデルと同じ感覚で使えて、対応する経路は次の通りだよ。

  • Workers AI バインディング(env.AI.run()
  • REST API(/run または /v1/chat/completions
  • AI Gateway 経由
  • Vercel AI SDK 向け workers-ai-provider

次に @cloudflare/tanstack-ai は、TanStack AI に Workers AI と AI Gateway のサポートを追加するフレームワーク非依存の新パッケージだよ。チャット(ツール呼び出し対応)・画像生成・文字起こし・音声合成・要約までカバーしていて、通常のバインディングだけでなく AI Gateway バインディング(env.AI.gateway(id))を使う構成にも対応しているの。TanStack を使ってるプロジェクトなら、Workers AI への接続がぐっと楽になりそう。

最後の workers-ai-provider v3.1.1 は、Vercel AI SDK からの使い勝手を底上げするアップデートだよ。

深く潜ってみよう

workers-ai-provider v3.1.1 の変更点は大きく 2 つの軸があるよ。

新機能の追加

  • 音声からテキストへの文字起こし機能
  • テキストから音声への変換機能
  • RAG パイプライン向けのドキュメント再ランキング機能

信頼性の改善(v3.0.5 からの積み重ね)

  • トークン単位でのストリーミングと、適切なバックプレッシャー処理に対応
  • ツール呼び出し周りの不具合修正
  • ストリーム終了検出の改善

これまでストリーミング中に途中で切れたり、ツール呼び出しがうまく検出されなかったりした経験がある人には、地味だけどありがたい修正だね。

導入は他の npm パッケージと同じ感覚でできるよ。

npm install @cloudflare/tanstack-ai @tanstack/ai
npm install workers-ai-provider@latest ai

なお、GLM-4.7-Flash の具体的な料金は Changelog 本文には書かれておらず、モデルページか Cloudflare の価格ページで確認する形になっているよ。数字が気になる人はそちらをチェックしてね。

まとめ

  • Workers AI に多言語対応の新モデル @cf/zai-org/glm-4.7-flash(コンテキストウィンドウ 131,072 トークン)が追加された
  • TanStack AI 向けの公式パッケージ @cloudflare/tanstack-ai が登場し、チャット・画像生成・文字起こし・音声合成・要約まで対応
  • workers-ai-provider が v3.1.1 になり、文字起こし・音声合成・ドキュメント再ランキングが新たに使え、ストリーミングの信頼性も改善
  • モデルの利用経路は env.AI.run()、REST API(/run/v1/chat/completions)、AI Gateway、Vercel AI SDK のいずれか

エージェントを Cloudflare のエッジだけで組みたい人、TanStack や Vercel AI SDK を使ってる人には特に刺さるアップデートだよ!