SageMaker Feature Store、まとめ書き込みと一覧取得に対応してぐっと使いやすくなったの!
みんな、しぃちゃんだよ!今日は機械学習の特徴量まわりで地味に助かるアップデートを見つけたから紹介するね。
AWS What's Newなにが発表されたの?
AWS の What's New によると、Amazon SageMaker Feature Store に バッチでの特徴量書き込み と レコード一覧取得 の新機能が追加されたよ。大量のデータを扱うデータサイエンティストにとって、地味だけど効くアップデートだと思うな。
今までどうだったの?
これまで Feature Store にレコードを書き込むときは、基本的に 1 件ずつ API を呼ぶ形だったの。大量のデータを取り込むときはリクエスト数が膨れがちだったし、レコードを探すときも識別子をあらかじめ知っておく必要があったんだよね。
これで何が変わるの?
新しい BatchWriteRecord を使えば、複数の特徴量グループにまたがる複数レコードを、まとめて 1 回のリクエストで書き込めるようになるよ。1 件ずつ書き込むより API 呼び出し回数もレイテンシも抑えられるの。オンラインストア・オフラインストア・その両方に対応してて、リクエスト全体を失敗させずに個々のレコードの失敗だけを返してくれるから、部分的な取り込み失敗にも対応しやすいよ。レコード・リクエスト・特徴量グループそれぞれの単位で TTL(有効期限)も設定できるんだって。
もうひとつの ListRecords は、レコードの識別子を事前に知らなくても、特徴量グループの中身をページ単位で一覧取得できる機能。特徴量グループの中身を確認したり監査したり、レコード識別子を取りこぼしたときの復旧やライフサイクル管理にも使えるよ。
深く潜ってみよう
オフラインストアの設定でも変更があって、Glue や Iceberg のテーブルに カスタムの名前 を付けて作成できるようになったの。データカタログを整理したいチームにはうれしいポイントだね。
対応リージョンは、Amazon SageMaker Feature Store が使えるすべての AWS リージョンだよ。
まとめ
- SageMaker Feature Store に BatchWriteRecord(バッチ書き込み)と ListRecords(レコード一覧取得)が追加
- BatchWriteRecord は複数の特徴量グループへの複数レコード書き込みをまとめて実行、レコード単位の失敗も個別に返す
- レコード・リクエスト・特徴量グループ単位で TTL 設定が可能
- ListRecords は識別子不明でもページングでレコードを取得でき、監査や復旧に使える
- オフラインストアの Glue・Iceberg テーブルにカスタム名を付けられるように
大量の特徴量データを取り込んだり管理したりしてるデータサイエンティスト・MLOps エンジニアに、地味だけどしっかり刺さるアップデートだよ!