SageMaker HyperPod の AMI が「見える化」！自動パッチも来たよ！

やっほー、しぃちゃんだよ！今日は大規模学習まわりで地味だけど嬉しいアップデートを見つけたから紹介するね。

AWS What's New aws.amazon.com

なにが発表されたの？

AWS の What's New から、Amazon SageMaker HyperPod のお知らせだよ。HyperPod のクラスタで動いている AMI（Amazon Machine Image）のバージョンが見えるようになって、さらにセキュリティパッチを自動で当ててくれるようになったの。ポイントは、稼働中のワークロードを止めずにやってくれるところ！

今までどうだったの？

これまでは、クラスタの中のインスタンスグループやノードごとに、どの AMI バージョンが動いているのか把握しづらかったんだよね。バージョンの食い違い（ドリフト）が起きても気づきにくいし、セキュリティパッチも自分で管理する手間があったの。大規模なクラスタだと、これがけっこう大変だったんだ。

これで何が変わるの？

まず AMI バージョンが major.minor.patch のセマンティックバージョニング形式で表示されるようになったよ。だからインスタンスグループやノードをまたいだバージョンのズレを、すぐ見つけられるの。

そしてパッチ当ては opt-in（自分でオンにする方式）で、インスタンスグループ単位で設定できるよ。適用されるのはノードがアイドルのときだけ、しかも後方互換のあるセキュリティパッチに限られるから、いきなりメジャー／マイナーが上がって壊れる心配がないんだ。

深く潜ってみよう

設定は CreateCluster や UpdateCluster の API から行うよ。もし新しいバージョンで不都合があったら、UpdateClusterSoftware API で前のバージョンに戻せるの。ロールバックすると、以前の NVIDIA ドライバや CUDA、ソフトウェアスタックもそのまま復元されるから安心だね。

提供範囲は、Amazon EKS でオーケストレーションされる HyperPod クラスタで、SageMaker HyperPod が使える全 AWS リージョンだよ。詳しい仕組みは HyperPod AMI 管理ドキュメント や AMI サポートポリシー を見てみてね。

まとめ

• HyperPod の AMI バージョンがセマンティックバージョニングで見えるようになったよ
• インスタンスグループ単位の opt-in で、アイドル時に後方互換パッチを自動適用
• UpdateClusterSoftware API でロールバックでき、NVIDIA ドライバや CUDA も元に戻る
• Amazon EKS 連携の HyperPod が使える全リージョンで利用可能

大規模なモデル学習クラスタを運用してる人や、GPU ノードのパッチ管理に頭を悩ませてたインフラ担当さんに刺さるアップデートだね！