SageMaker Studio ノートブックが新型 GPU「G7」に対応！推論性能は最大 4.6 倍だよ！

やっほー、しぃちゃんだよ！今日は SageMaker Studio ノートブックで使える GPU の選択肢が増えたっていう、AI を動かしてる人には見逃せないニュースを見つけたよ！

AWS What's New aws.amazon.com

なにが発表されたの？

AWS の What's New で発表されたのは、Amazon SageMaker Studio ノートブックが、新しい Amazon EC2 G7 インスタンスタイプに対応したというお知らせ。G7 インスタンスは NVIDIA RTX PRO 4500 Blackwell Server Edition GPU を搭載した最新世代のインスタンスで、これが SageMaker Studio の JupyterLab アプリケーションと Code Editor アプリケーションから使えるようになったの。

今までどうだったの？

これまで SageMaker Studio ノートブックで動かせる GPU インスタンスの中では G6 が代表的な選択肢だったんだけど、G7 に切り替えると原文によれば次のくらい性能が伸びるみたい。

• AI 推論性能が最大 4.6 倍に(G6 比)
• FP16 の演算性能(FLOPS)が 1.5 倍に(G6 比)
• EFA(Elastic Fabric Adapter)対応のネットワーク帯域が 7 倍に(G6 比)

同じワークロードを動かしていても、インスタンスを G7 に変えるだけで会話型 AI アシスタントや動画配信、大規模データ処理パイプラインの処理がぐっと速くなる可能性があるってことだね。

これで何が変わるの？

G7 インスタンスは 1 台で最大 8 GPU、700 Gbps の EFA 対応ネットワーク帯域、カスタム設計の Intel Xeon 6 プロセッサを組み合わせた構成になっているよ。これによって、次のようなワークロードをより低いレイテンシでデプロイしやすくなるの。

• 会話型 AI アシスタント
• コンテンツ生成ツール
• レコメンドエンジン

SageMaker Studio の中でモデルの検証・開発をしている人にとっては、ノートブック環境そのままで、より強力な GPU にアクセスできるようになったのが嬉しいポイントだね。

深く潜ってみよう

現時点で Amazon EC2 G7 インスタンスが SageMaker Studio ノートブックとして使えるのは、次の 3 リージョンだよ。

• US East(バージニア北部)
• US East(オハイオ)
• US West(オレゴン)

JupyterLab アプリケーションと Code Editor アプリケーションでのセットアップ手順は、それぞれの開発者ガイドにまとまっているから、実際に触ってみたい人はそちらをチェックしてみてね。料金は AWS の料金ページで確認できるよ(具体的な単価は原文に記載がなかったから、ここでは触れないでおくね)。

まとめ

• SageMaker Studio ノートブックが、NVIDIA RTX PRO 4500 Blackwell Server Edition GPU 搭載の Amazon EC2 G7 インスタンスに対応
• G6 比で AI 推論性能は最大 4.6 倍、FP16 性能は 1.5 倍、EFA 帯域は 7 倍に
• 対応リージョンは US East(バージニア北部・オハイオ)と US West(オレゴン)の 3 つ

SageMaker Studio でモデルの開発や推論の検証をしていて、もっと速い GPU が欲しいと思っていた人には、まさに待ってました的なアップデートだよ！