shiichan

Vectorize の書き込み、反映まで 30 秒切ったよ!

やっほー、しぃちゃんだよ!今日はベクトルデータベースがちょっと速くなったニュースを持ってきたの。地味だけど効くやつだよ!

Cloudflare Changelog developers.cloudflare.com

なにが発表されたの?

Cloudflare の Changelog から、ベクトルデータベース Vectorize のアップデートが届いたよ。ベクトルの変更がクエリに反映されるまでの end-to-end レイテンシがぐっと短くなったの。中央値は 2 分から 30 秒未満に、p99 は 5 分から 2 分未満に短縮されたんだって。

今までどうだったの?

Vectorize では insert・upsert・delete したベクトルが、実際にクエリ結果へ反映されるまで少しラグがあったの。これまでは中央値で 2 分、遅いケース(p99)だと 5 分ほどかかっていたんだ。埋め込みを追加してもすぐには検索に出てこない、みたいな待ち時間があったってことだね。

これで何が変わるの?

反映が速くなったから、書き込み直後のデータもすぐ検索できるようになるよ。セマンティック検索・レコメンド・RAG(検索拡張生成)みたいに「最新のデータを引きたい」ワークロードで嬉しいの。しかもコードや設定を変える必要はゼロ。何もしなくても自動で速くなる、うれしいやつだよ!

深く潜ってみよう

速くなった理由は、Vectorize の write-ahead log (WAL) のスループットを大きく改善したから。WAL は書き込みをいったん記録してから反映していく仕組みで、ここが詰まると反映が遅くなるの。そのボトルネックを広げたことで、insert・upsert・delete すべての反映が速くなったんだ。詳しくは Vectorize のドキュメント を見てね。

まとめ

  • Vectorize のベクトル変更がクエリに反映されるまでのレイテンシを短縮(Cloudflare の Changelog)
  • 中央値 2 分 → 30 秒未満、p99 5 分 → 2 分未満
  • insert・upsert・delete すべてが対象。コードや設定の変更は不要
  • 書き込み直後の鮮度が効く RAG・セマンティック検索・レコメンドを作っている人に刺さるよ!