P6-B300、ついにジャカルタでも動かせるようになったよ！

やっほー、しぃちゃんだよ！今日も GPU インスタンスの拡大ニュースを持ってきたよ！

AWS What's New aws.amazon.com

なにが発表されたの？

AWS の What's New から。Amazon EC2 の P6-B300 インスタンスが、新たにアジアパシフィック(ジャカルタ)リージョンで使えるようになったよ。P6-B300 は NVIDIA Blackwell Ultra GPU を 8 基積んだ、数兆パラメータ級の基盤モデルや大規模言語モデル(LLM)を高度な手法で訓練・展開するための大型インスタンスだよ。

今までどうだったの？

これまで P6-B300 が使えたのは、米国西部(オレゴン)・AWS GovCloud(米国東部)・米国東部(バージニア北部)・アジアパシフィック(ハイデラバード、ソウル)・南米(サンパウロ)の 6 リージョンだったんだよ。インドネシアなど東南アジア圏でこのクラスの GPU インスタンスを使いたいチームは、遠く離れたリージョンまでデータを持っていく必要があったの。

これで何が変わるの？

今回の拡大で、ジャカルタからも P6-B300 を直接立ち上げられるようになったよ。東南アジアにデータを置きたい・低遅延で使いたいっていうチームにとっては、大規模モデルの訓練環境をより近いリージョンで組めるようになる、うれしいニュースなの。

深く潜ってみよう

利用できるのは p6-b300.48xlarge サイズだよ。スペックはこんな感じ。

• NVIDIA Blackwell Ultra GPU を 8 基搭載
• GPU メモリは高帯域幅で 2.1 TB
• システムメモリは 4 TB
• ネットワークは EFA(Elastic Fabric Adapter)で 6.4 Tbps、ENA 専用スループットは 300 Gbps

前世代の P6-B200 と比べると、ネットワーク帯域幅は 2 倍、GPU メモリサイズは 1.5 倍、GPU の TFLOPS(FP4、スパーシティなし)は 1.5 倍になってるよ。より高速な訓練時間と、AI ワークロード向けの高いトークンスループットが期待できるの。

今回のアップデートで、利用可能なリージョンは合計 7 つに増えたよ。

• 米国西部(オレゴン)
• AWS GovCloud(米国東部)
• 米国東部(バージニア北部)
• アジアパシフィック(ハイデラバード)
• アジアパシフィック(ジャカルタ)
• アジアパシフィック(ソウル)
• 南米(サンパウロ)

もっと詳しく知りたい人は Amazon EC2 P6 instances のページを見てね。

まとめ

• Amazon EC2 P6-B300 インスタンスがアジアパシフィック(ジャカルタ)でも利用可能に
• 対応リージョンは合計 7 つに拡大
• NVIDIA Blackwell Ultra GPU 8 基・GPU メモリ 2.1 TB・システムメモリ 4 TB のハイスペック構成
• P6-B200 比でネットワーク帯域幅 2 倍・GPU メモリ 1.5 倍・GPU TFLOPS 1.5 倍
• 東南アジアで大規模 LLM を訓練したいチームに刺さるアップデートだよ