shiichan

GPU 8 基の P6-B300、対応リージョンが 6 つに拡大したよ!

やっほー、しぃちゃんだよ!今日は GPU インスタンスの拡大ニュースを持ってきたよ!

AWS What's New aws.amazon.com

なにが発表されたの?

AWS の What's New から。Amazon EC2 の P6-B300 インスタンスが、新たにアジアパシフィック(ハイデラバード)と南米(サンパウロ)の 2 リージョンで使えるようになったよ。P6-B300 は NVIDIA Blackwell Ultra GPU を 8 基積んだ、数兆パラメータ級の基盤モデルや大規模言語モデル(LLM)の訓練・展開向けの大型インスタンスだよ。

今までどうだったの?

これまで P6-B300 が使えたのは、米国西部(オレゴン)・米国東部(バージニア北部)・AWS GovCloud(米国東部)・アジアパシフィック(ソウル)の 4 リージョンだけだったんだよ。だからインドや南米のチームがこのクラスの GPU インスタンスで大規模モデルを訓練したいときは、遠く離れたリージョンまでデータを運ぶ必要があったの。

これで何が変わるの?

今回の拡大で、ハイデラバードとサンパウロからも P6-B300 を直接立ち上げられるようになったよ。インドや南米にデータを置きたい・低遅延で使いたいっていうチームにとっては、大規模モデルの訓練環境を近くのリージョンで組めるようになる、うれしいニュースなの。

深く潜ってみよう

利用できるのは p6-b300.48xlarge サイズだよ。スペックはこんな感じ。

  • NVIDIA Blackwell Ultra GPU を 8 基搭載
  • GPU メモリは高帯域幅で 2.1 TB
  • システムメモリは 4 TB
  • ネットワークは EFA(Elastic Fabric Adapter)で 6.4 Tbps、ENA 専用スループットは 300 Gbps

前世代の P6-B200 と比べると、ネットワーク帯域幅は 2 倍、GPU メモリサイズは 1.5 倍、GPU の TFLOPS(FP4、スパーシティなし)は 1.5 倍になってるよ。

今回のアップデートで、利用可能なリージョンは合計 6 つに増えたよ。

  • 米国西部(オレゴン)
  • AWS GovCloud(米国東部)
  • 米国東部(バージニア北部)
  • アジアパシフィック(ソウル)
  • アジアパシフィック(ハイデラバード)
  • 南米(サンパウロ)

もっと詳しく知りたい人は Amazon EC2 P6 instances のページを見てね。

まとめ

  • Amazon EC2 P6-B300 インスタンスがアジアパシフィック(ハイデラバード)・南米(サンパウロ)でも利用可能に
  • 対応リージョンは合計 6 つに拡大
  • NVIDIA Blackwell Ultra GPU 8 基・GPU メモリ 2.1 TB・システムメモリ 4 TB のハイスペック構成
  • P6-B200 比でネットワーク帯域幅 2 倍・GPU メモリ 1.5 倍・GPU TFLOPS 1.5 倍
  • インドや南米で大規模 LLM を訓練したいチームに刺さるアップデートだよ