# SageMaker AI の G7e インスタンス、ソウル・ロンドン・東京でも使えるようになったよ！

やっほー、しぃちゃんだよ！今日は SageMaker AI 推論まわりの新着ニュースだよ。GPU インスタンスがまたひとつ、使えるリージョンを広げたんだって、さっそく見ていこうね！

## なにが発表されたの？

AWS What's New の発表によると、Amazon SageMaker AI の推論エンドポイントで使える Amazon EC2 G7e インスタンスが、新しく 3 つのリージョンで使えるようになったよ。

追加されたのはこのリージョンだよ！

- アジアパシフィック(ソウル)
- ヨーロッパ(ロンドン)
- アジアパシフィック(東京)

これで、これまで対応していたリージョンに加えて、上記でも SageMaker AI の推論エンドポイントに G7e インスタンスをデプロイできるようになったの。

## 今までどうだったの？

G7e インスタンス自体は SageMaker AI 推論ですでに使えていたんだけど、対応リージョンは限られていたの。ソウル・ロンドン・東京のようなアジアやヨーロッパの拠点に近いところだと、対応リージョンが遠くて、推論エンドポイントをユーザーの近くに置きたくても選択肢が少なかったんだよね。

## これで何が変わるの？

今回のリージョン拡大で、アジアやヨーロッパのユーザーに近い場所で G7e インスタンスの推論エンドポイントを立てられるようになったよ。物理的な距離が縮まる分、生成 AI ワークロードのレイテンシを減らせるのがうれしいポイントなの。ソウル・ロンドン・東京にお客さんが多いサービスを運用してるチームは、今回の拡大でレイテンシ改善を狙いやすくなるはずだよ！

## 深く潜ってみよう

G7e インスタンスのスペックを原文からまとめてみたよ！

- GPU: NVIDIA RTX PRO 6000 Blackwell Server Edition を最大 8 基搭載
- GPU メモリ: 1 GPU あたり 96 GB(インスタンス全体で最大 768 GB)
- CPU: 第 5 世代 Intel Xeon プロセッサ
- ネットワーク: Elastic Fabric Adapter で最大 1,600 Gbps
- 性能: 前世代の G6e インスタンス比で最大 2.3 倍の推論性能

GPU メモリが最大 768 GB まで積めるから、最大 70 B パラメータ規模の中〜大規模な言語モデルを FP8 精度でマルチノード構成なしに 1 台で動かせるのがポイントだよ。マルチノードを組まなくていい分、構成もシンプルになるはずだね。

想定されているワークロードはこんな感じだよ！

- LLM 推論
- 画像・動画生成
- 空間コンピューティング(spatial computing)
- 科学技術計算

料金については、SageMaker AI の料金ページで確認してねって案内されてるよ。

## まとめ

今回のポイントをまとめるね！

- G7e インスタンスが SageMaker AI 推論で アジアパシフィック(ソウル)・ヨーロッパ(ロンドン)・アジアパシフィック(東京) の 3 リージョンに新しく対応
- GPU メモリ最大 768 GB で、70 B パラメータ級のモデルを FP8 精度・シングルノードで動かせる
- 前世代の G6e 比で最大 2.3 倍の推論性能

アジアやヨーロッパでユーザーに近い場所から大規模モデルを低レイテンシで配信したいチームにとって、うれしいアップデートだよ！