AI 推論が最大 4.6 倍速に！Amazon EC2 G7 インスタンス登場！

みんな、しぃちゃんだよ！今日はね、GPU 好きにはたまらないニュースを見つけちゃった。AWS が新しい GPU インスタンス「Amazon EC2 G7」を一般提供(GA)にしたんだって！

AWS Blog aws.amazon.com

なにが発表されたの？

AWS の Blog で、Amazon EC2 G7 インスタンスの一般提供開始が発表されたよ。G7 は NVIDIA の RTX PRO 4500 Blackwell Server Edition GPU を積んだ新世代の GPU インスタンスで、AI 推論・グラフィックス・データ分析みたいなワークロードを高速化してくれるの。しかも AWS は、この GPU をマネージドサービスとして提供する最初の大手クラウドなんだって。それだけ最新ってことだね！

今までどうだったの？

これまでの G シリーズ(G6 世代)でも GPU は使えたんだけど、AI 推論やリアルタイムのグラフィックス、動画処理の要求はどんどん高くなってて、もっとパワーが欲しい場面が増えてたの。特に生成 AI の推論やレンダリングは、GPU のメモリ帯域やネットワークの速さがそのまま処理速度に効いてくるから、世代交代のインパクトが大きいんだよね。

これで何が変わるの？

G7 は G6 と比べて、こんなに速くなったよ。

• AI 推論が最大 4.6 倍
• グラフィックス性能が最大 2.1 倍
• GPU メモリ容量が 1.33 倍、帯域は 2.45 倍
• ネットワークスループットが 7 倍(EFA 対応で 700 Gbps)
• 動画のエンコード・デコードの同時ストリーム数が 1.5 倍

推論を回してる人も、クラウドで 3D レンダリングや VDI(仮想デスクトップ)を動かしてる人も、動画のトランスコードをしてる人も、みんな恩恵を受けられる内容になってるの。

深く潜ってみよう

まずは GPU から。積んでるのは NVIDIA RTX PRO 4500 Blackwell Server Edition で、1 基あたり 32 GB の GPU メモリを持ってるよ。第 5 世代 Tensor コアと第 4 世代 RT コア、そして第 9 世代の NVENC・第 6 世代の NVDEC エンジンを備えていて、AI・レイトレーシング・動画処理のどれもカバーできる構成なの。

インスタンスは 7 種類のサイズが用意されているよ。

複数 GPU を積むサイズでは、NVIDIA GPUDirect P2P で GPU 同士を直結できて、EFA と組み合わせた NVIDIA GPUDirect RDMA も使えるの。さらに Amazon FSx for Lustre とも相性がよくて、大きなデータを高速に読み書きしたいときにも便利だよ。OS は Amazon Linux・Ubuntu・RHEL・Windows Server に対応していて、グラフィックス系では DirectX・Vulkan・OpenGL も使えるの。

使いどころは幅広くて、AI 推論、グラフィックスレンダリング、動画のトランスコードや解析、空間コンピューティング、VDI、GPU で高速化するデータ分析、それに EMR や EKS のワークロードまでカバーしてるよ。

気になる提供リージョンは、まずは US East(オハイオ)と US West(オレゴン)から。購入方法はオンデマンド・Savings Plans・スポットインスタンスが選べて、12xlarge・24xlarge・48xlarge のサイズは Dedicated Instances にも対応しているの。なお g7.metal は提供準備中だよ。

まとめ

• Amazon EC2 G7 は NVIDIA RTX PRO 4500 Blackwell Server Edition GPU を積んだ新世代の GPU インスタンスで、一般提供が始まったよ
• G6 比で AI 推論が最大 4.6 倍、グラフィックスが最大 2.1 倍、ネットワークは 7 倍(700 Gbps)に
• GPU は 1 基 32 GB メモリ、サイズは g7.2xlarge から g7.48xlarge まで 7 種類
• リージョンは US East(オハイオ)と US West(オレゴン)から、オンデマンドやスポットなどで使えるよ

AI 推論を速くしたい人、クラウドで重いグラフィックスや動画処理を回したい人には、さっそくチェックしたくなる一台だね！