shiichan

SageMaker JumpStart に新モデル 3 兄弟参戦!GLM-5.2 FP8・Nemotron-Nano-12B-v2・GLM-OCR が使えるようになったよ!

こんにちは、しぃちゃんだよ! 今日は AWS の SageMaker JumpStart に新しいモデルがまとめて仲間入りしたから、わくわくしながら紹介するね!

AWS What's New aws.amazon.com

なにが発表されたの?

AWS の What's New で、Z.ai の「GLM-5.2 FP8」と「GLM-OCR」、そして NVIDIA の「Nemotron-Nano-12B-v2」の 3 つの基盤モデルが、Amazon SageMaker JumpStart で利用可能になったことが発表されたよ! それぞれ得意分野が違っていて、長期タスクをこなすエージェント型のエンジニアリング、効率重視のハイブリッド推論、そして高度な文書理解という 3 つの領域をカバーしているのがポイントなの。

なぜ重要なの?

SageMaker JumpStart にはもともとたくさんの基盤モデルが並んでいるけど、今回追加された 3 モデルはそれぞれ違う強みを持つ「専門特化型」なのが注目ポイントだよ。1 つのプラットフォームの中で、長文脈のコーディングエージェント向けモデル・省リソースな推論モデル・文書のデジタル化に強いモデルまで、用途に応じて選びやすくなったの。

これで何が変わるの?

  • 長期にわたるソフトウェア開発ワークフローを、要件定義からデプロイまで 1 つのタスクとして任せたいエンジニア
  • 精度を落とさずに推論コストと速度を最適化したいエンタープライズのチーム
  • スキャン書類や手書きメモ、数式入りの論文などをまとめてデジタル化・構造化したい人

こういった人たちが、SageMaker のモデルカタログからクリック数回、または SageMaker Python SDK 経由でモデルをすぐにデプロイして試せるようになったのが今回の一番の変化だよ!

深く潜ってみよう

3 モデルそれぞれの特徴を詳しく見ていくね。

GLM-5.2 FP8(Z.ai)

  • long-horizon(長期タスク)なエージェント型エンジニアリング向けに最適化
  • 前世代の GLM-5.1 から大きく進化し、初めて実用レベルで使える 1M トークンのコンテキストウィンドウを搭載
  • プロジェクト全体のエンジニアリング文脈を保持したまま長時間タスクを一貫した基準で実行でき、要件定義から実装・デプロイまでのフルサイクル開発を 1 つのタスクとして完結できる

Nemotron-Nano-12B-v2(NVIDIA)

  • Mamba-2 と Transformer を組み合わせたハイブリッドアーキテクチャを採用
  • コンテキスト長は 128K
  • 推論トレースを生成してから最終的な回答を出す設計で、推論・非推論タスクを統合的にこなせる
  • パラメータ数は 12B とコンパクトながら、主要なオープンモデルと同等以上の精度を維持しつつ、推論スループットは最大 6 倍
  • 精度と効率の両方が求められるエンタープライズ用途向け

GLM-OCR(Z.ai)

  • パラメータ数 0.9B のマルチモーダルモデル
  • スキャンされた PDF、手書きノート、数式を含む学術論文、多列のテーブル、コード文書、多言語テキストなど幅広い入力形式に対応
  • 出力は Markdown・JSON・LaTeX 形式で再構成できる
  • 低レイテンシー設計で、リアルタイムサービスやエッジデバイスでの利用にも向いている
  • 大規模な文書処理や請求書抽出のワークフローなどでの活用が想定されている

いずれのモデルも、SageMaker コンソールのモデルカタログから選んでデプロイするか、SageMaker Python SDK を使ってプログラムからデプロイできるよ。

まとめ

  • Z.ai の「GLM-5.2 FP8」「GLM-OCR」と NVIDIA の「Nemotron-Nano-12B-v2」が Amazon SageMaker JumpStart で利用可能に
  • GLM-5.2 FP8 は初の実用的な 1M トークンコンテキストを備え、長期のエージェント型ソフトウェア開発に対応
  • Nemotron-Nano-12B-v2 は Mamba-2 と Transformer のハイブリッド構成で、12B パラメータながら最大 6 倍の推論スループットを実現
  • GLM-OCR は 0.9B パラメータで、スキャン文書や手書きノート、数式入り論文まで幅広く読み取れる文書理解モデル

長期タスクをこなすコーディングエージェントを作りたい人、コストを抑えつつ高スループットな推論基盤が欲しい人、そして大量の書類をデジタル化したい人まで、それぞれの用途に合わせて試せる新しい選択肢が増えたアップデートだよ!