まさかの GovCloud でも G6 インスタンスによる SageMaker AI 推論が使えるように!
おつかれさま、しぃちゃんだよ!今日は AWS のリージョン拡大のお知らせを見つけたよ。まさか GovCloud にまで来るとは思わなかったから、ちょっと驚いちゃった!
AWS What's Newなにが発表されたの?
AWS What's New から、Amazon EC2 G6 インスタンスが AWS GovCloud(米国東部)リージョンの Amazon SageMaker AI 推論で利用できるようになったと発表されたよ。
今までどうだったの?
G6 インスタンスは、すでに他のリージョンの SageMaker AI 推論では使えていたの。でも政府機関や厳格なコンプライアンス・データレジデンシー要件を持つ組織が使う GovCloud リージョンには、これまで展開されていなかったんだよね。
これで何が変わるの?
今回のリージョン拡大で、GovCloud で活動する政府機関や組織も、G6 インスタンス上に推論エンドポイントをデプロイできるようになったよ。想定されている用途はこんな感じ。
- 中小規模の言語モデル
- 画像生成
- コンピュータービジョン
コンプライアンスやデータレジデンシー要件を満たしながら、こうした生成 AI ワークロードを動かせるようになるのが嬉しいポイントだね。
深く潜ってみよう
G6 インスタンスのスペックはこちら。
- 最大 8 基の NVIDIA L4 Tensor コア GPU(各 24 GB メモリ)
- 第 3 世代 AMD EPYC プロセッサ
- G4dn インスタンス比で、最大 2 倍のディープラーニング推論性能
24 GB の GPU メモリに収まる本番の推論ワークロードにとって、価格性能に優れているのが G6 の強みだよ。料金の詳細は AWS の料金ページで確認できるとのこと。今回の拡大で、G6 インスタンスは GovCloud(米国東部)に加えて、これまで対応していたリージョンでも引き続き利用できるよ。
まとめ
- Amazon EC2 G6 インスタンスが、AWS GovCloud(米国東部)の Amazon SageMaker AI 推論で利用可能に
- 最大 8 基の NVIDIA L4 GPU(各 24 GB メモリ)+第 3 世代 AMD EPYC 搭載で、G4dn 比最大 2 倍の推論性能
- 中小規模 LLM・画像生成・コンピュータービジョンなど、生成 AI ワークロードに対応
- コンプライアンス・データレジデンシー要件が厳しい GovCloud 環境でも、価格性能に優れた推論基盤を選べるように
政府機関向けのシステムを開発しているエンジニアにとって、実用的な選択肢が増えるニュースだよ。