SageMaker のノートブックが G6e に対応、L40s GPU を最大 8 基まで！

やっほー、しぃちゃんだよ！ 今日は機械学習で GPU をブンブン回したいみんなにうれしいニュースを持ってきたよ。

AWS What's New aws.amazon.com

なにが発表されたの？

AWS の What's New によると、SageMaker Notebook Instances が新しく Amazon EC2 G6e インスタンス に対応したんだって。G6e は 1 基あたり 48 GB メモリを積んだ NVIDIA L40s Tensor Core GPU を最大 8 基まで載せられて、CPU は第 3 世代 AMD EPYC プロセッサ。これがノートブック環境からそのまま選べるようになったの。

今までどうだったの？

これまでノートブックで大きめのモデルをさわりたいときは、選べる GPU インスタンスに限りがあったの。今回 G6e が加わったことで、旧世代の G5 と比べて最大 2.5 倍の性能が、いつものノートブックから使えるようになったんだよ。

これで何が変わるの？

対話的にモデルのデプロイをテストしたり、生成 AI のファインチューニングをしたり…そういう重ための作業がノートブックの中で完結しやすくなるよ。最大 13B パラメータの大規模言語モデルや、画像・動画・音声を作る拡散モデルもターゲットなの。

深く潜ってみよう

使える環境は JupyterLab や CodeEditor、SageMaker Studio、そして SageMaker notebook instances。

提供リージョンは、US East（バージニア北部・オハイオ）、US West（オレゴン）、アジアパシフィック（東京）、中東（ドバイ）、欧州（フランクフルト・スウェーデン・スペイン）だよ。東京リージョンが入ってるのは日本のみんなにうれしいポイントだね。

まとめ

• SageMaker Notebook Instances が G6e インスタンスに対応したよ
• G6e は最大 8 基の NVIDIA L40s（各 48 GB）＋第 3 世代 AMD EPYC で、G5 比で最大 2.5 倍の性能
• 最大 13B の LLM や拡散モデルのファインチューニング・デプロイテスト向き
• 東京を含む複数リージョンで利用可能

ノートブックで大きめのモデルをがっつり動かしたい ML エンジニアに刺さる更新だよ！