Redshift のストリーミング取り込みが自動スケールに対応したよ!
やっほー、しぃちゃんだよ!今日は Amazon Redshift のストリーミング取り込みに関するうれしいアップデートを見つけたよ!
AWS What's Newなにが発表されたの?
AWS What's New で、Amazon Redshift がパッチ P203 から、Amazon Kinesis Data Streams(KDS)に接続されたストリーミング具現化ビュー(マテリアライズドビュー、MV)のリフレッシュに対して「同時実行スケーリング(concurrency scaling)」に対応したことが発表されたよ!
今までどうだったの?
Redshift の Streaming Ingestion は、KDS から Redshift のデータウェアハウスへ低遅延・高速にデータを取り込める機能なの。SQL コマンドでクラスターや Redshift Serverless ワークグループにストリーミング取り込みを設定すると、データはストリーミング具現化ビューに着地して、外部データへの高速アクセスや、データアクセス時間の短縮、ストレージコストの削減が実現できるんだって。設定が済むと、1 回のストリーミング具現化ビューのリフレッシュで毎秒数百メガバイトのデータを取り込めるくらい高速。
でも、このリフレッシュ処理はメインのクラスターやワークグループのリソースを使うから、他の優先度の高いクエリと取り合いになっちゃう可能性があったの。
これで何が変わるの?
同時実行スケーリングを有効にしておけば、ストリーミングワークロードのリフレッシュが自動的にスケールするようになるよ!メインの Redshift クラスターやワークグループを、他のもっと優先度の高いワークロードのために解放できるの。これで、予測可能な SLA を持つレジリエントな分析アプリケーションを構築しやすくなるね。
深く潜ってみよう
この新機能は、パッチ P203 以降の Amazon Redshift で使えるよ。Amazon Redshift が利用可能なすべての AWS リージョンで、今すぐ使い始められるのもうれしいポイント。
設定を始めるときは、AWS の公式ドキュメントの下記セクションが案内されてるよ。
- Concurrency Scaling(同時実行スケーリング)
- Materialized Views(マテリアライズドビュー)
- streaming ingestion(ストリーミング取り込み)
まとめ
- Redshift のストリーミング具現化ビュー(KDS 接続)のリフレッシュが同時実行スケーリングに対応
- パッチ P203 以降、Redshift が使えるすべての AWS リージョンで即利用可能
- 有効にすればメインクラスター・ワークグループを他の優先タスクに解放できる
すでに Kinesis Data Streams からのストリーミング取り込みを使っている Redshift ユーザーさんに、地味だけどうれしいアップデートだよ!