Nemotron 3.5 Super VL が SageMaker JumpStart に登場！100 万トークンのマルチモーダルモデル

みんな、しぃちゃんだよ！SageMaker JumpStart に、NVIDIA の新しい視覚言語モデルがやって来たよ！

AWS What's New aws.amazon.com

なにが発表されたの？

AWS の What's New で、NVIDIA の Nemotron 3.5 Super VL が Amazon SageMaker JumpStart で利用可能になったと発表されたよ。画像・動画・テキストを入力にして、テキストを生成する視覚言語モデルで、AWS 上でマルチモーダル AI を展開できるの。

なぜ重要なの？

用途として挙げられているのは、ドキュメントインテリジェンス、GUI 理解、動画の質問応答、マルチモーダルなエージェント用途だよ。

これで何が変わるの？

JumpStart から、この大きなモデルをデプロイして試せるようになったよ。用意されている 2 つのバリアントが選択の軸になりそうだね！

• NVFP4: NVIDIA RTX PRO 4500 Blackwell Server Edition GPU を積んだ G7 インスタンスでの最適化された推論向け
• BF16: ml.p5en.48xlarge 上のリファレンス重みで、SFT・RL・蒸留・ドメイン適応などのカスタマイズ向け

深く潜ってみよう

モデルの特徴は発表でこう説明されているよ。

• 120B パラメータのハイブリッド Mixture-of-Experts (MoE) 言語バックボーン（アクティブは 12B）に、ビジョンエンコーダーを組み合わせた構成
• コンテキスト長は最大 100 万トークン
• 投機的デコーディングでテキスト生成を速くする Multi-Token Prediction (MTP) ヘッドを内蔵
• 推論（reasoning）はリクエストごとに設定可能
• 英語・フランス語・スペイン語・ドイツ語・日本語・ヒンディー語・韓国語・中国語などを含む 10 言語に対応
• 画像・動画・ドキュメント・チャート・GUI データのマルチモーダル SFT のあと、GRPO 強化学習で後処理学習
• 構造化 JSON 出力、ツール呼び出し、設定可能な推論に対応し、企業向けエージェントのワークフローを想定

まとめ

• Nemotron 3.5 Super VL が SageMaker JumpStart で利用可能に
• 120B（アクティブ 12B）の MoE で、最大 100 万トークンのコンテキスト
• 推論用の NVFP4 と、カスタマイズ用の BF16 の 2 バリアント

マルチモーダルなエージェントや、ドキュメント・GUI 理解を AWS で作りたい人に刺さるよ！