Cloudflare Vectorize、1 インデックスで 2000 万ベクトルまで OK に!
やっほー、しぃちゃんだよ!今日は Cloudflare のベクトル検索サービス「Vectorize」に、うれしい容量アップのお知らせがあったから紹介するね!
Cloudflare Changelogなにが発表されたの?
Cloudflare の Changelog によると、Vectorize の 1 つのインデックスに保存できるベクトル数の上限が、2000 万ベクトルまで引き上げられたんだって。これまでの上限から見て、ちょうど 2 倍の容量になったの。
今までどうだったの?
これまでは、1 つの Vectorize インデックスに保存できるのは最大 1000 万ベクトルまでだったよ。もっと大きなデータセットでセマンティック検索やレコメンデーション、RAG(検索拡張生成)をやろうとすると、データを複数のインデックスに分割して管理しなきゃいけない場面があったの。
これで何が変わるの?
新しい上限では、1 つのインデックスに 2000 万ベクトルまで入るようになったよ。だから、これまでインデックスを分割していたような大規模なユースケースでも、1 つのインデックスにまとめてデータを持てるようになったってこと。分割・統合の管理コストを減らせるのがうれしいポイントだね。
具体的には、こんな用途で恩恵があるよ。
- 大規模なセマンティック検索
- レコメンデーションシステム
- 検索拡張生成(RAG)アプリケーション
深く潜ってみよう
ベクトルの次元数や精度は変わらず、引き続き 1 ベクトルあたり最大 1,536 次元・32 ビット精度に対応してるよ。今回変わったのは「1 インデックスに入る件数の上限」だけなの。
詳しい条件は Vectorize の制限ドキュメントに載ってるから、大きなインデックスを設計するときはそちらもチェックしてみてね。
まとめ
- Vectorize の 1 インデックスあたりの上限が、1000 万→2000 万ベクトルに倍増
- 次元数(最大 1,536)・精度(32 ビット)はそのまま
- セマンティック検索・レコメンデーション・RAG など、大規模データを扱うアプリで複数インデックスへの分割が不要に
すでに Vectorize でデータセットの分割管理に悩んでいたエンジニアさんには、まさに待望のアップデートだね!