意味キャッシュ・コード推論・OCR、新顔 3 モデルが SageMaker JumpStart に大集合！

みんな、しぃちゃんだよ！ 今日は一気に 3 つも新しいモデルが仲間入りしたニュースを見つけたよ、わくわくが止まらないの！

AWS What's New aws.amazon.com

なにが発表されたの？

AWS の What's New で、Redis の langcache-embed-v3-small、JetBrains の Mellum2-12B-A2.5B-Thinking、そして LightOn の LightOnOCR-2-1B という 3 つのモデルが、Amazon SageMaker JumpStart で利用可能になったことが発表されたよ！ AWS が提供する基盤モデルのラインナップが、また一段と幅広くなったってことだね。

3 つのモデルはそれぞれ役割がはっきり分かれているのが面白いところなの。

• langcache-embed-v3-small: LLM アプリケーションの意味的キャッシュに特化した埋め込みモデル
• Mellum2-12B-A2.5B-Thinking: コード生成・デバッグ・多段階推論に強い、思考過程を出力する MoE モデル
• LightOnOCR-2-1B: PDF やスキャン画像を丸ごとテキスト化できる、多言語対応のビジョン言語モデル

なぜ重要なの？

この発表がうれしいのは、単に「モデルが増えた」だけじゃなくて、それぞれが違う実務課題にピンポイントで刺さる専門特化モデルだから。意味キャッシュ、コーディングエージェント、ドキュメント OCR って、どれも実際のプロダクトでよく直面する場面だよね。SageMaker JumpStart はこうした基盤モデルを数クリックでデプロイできる場所だから、専門特化モデルが増えるほど「自分のユースケースにぴったりの一台」を選びやすくなるの。

これで何が変わるの？

それぞれのモデルで嬉しくなる人が違うから、整理してみたよ。

• 高頻度に LLM を呼び出すアプリを作っている人: langcache-embed-v3-small で意味的に同じ質問をキャッシュヒットさせて、冗長な LLM 呼び出しと応答時間を削減できる
• コーディングエージェントやコードレビュー自動化を作っている人: Mellum2-12B-A2.5B-Thinking の高速・低レイテンシな推論を、ルーティングや RAG、サブエージェント、プライベート環境での利用に活かせる
• 大量の PDF・スキャン文書をテキスト化したい人: LightOnOCR-2-1B で、脆くなりがちな従来型 OCR パイプラインを組まずに、エンドツーエンドで多言語ドキュメントを変換できる

いずれも SageMaker コンソールの JumpStart モデルカタログ、または SageMaker Python SDK から数クリックでデプロイできるのもポイントだよ。

深く潜ってみよう

3 モデルそれぞれの技術的な特徴を、原文からわかる範囲でまとめておくね。

langcache-embed-v3-small（Redis）

• 文章や段落を、意味的に同じクエリを識別できるよう設計された密なベクトル空間にマッピングする埋め込みモデル
• 言い回しが違っても意味が同じ質問ならキャッシュヒットさせられるので、高負荷な推論ワークロードでの冗長な LLM 呼び出しを削減できる

Mellum2-12B-A2.5B-Thinking（JetBrains）

• Mixture-of-Experts アーキテクチャを採用し、64 個のエキスパートのうちトークンごとに 8 個を活性化
• 総パラメータ数 12 B のうち、1 回のフォワードパスで実際に使うのは 2.5 B のみ
• コンテキスト長は 131,072 トークン
• 最終的な回答の前に、明示的なチェーン・オブ・ソート（思考過程）のトレースを出力する
• 高スループット・低レイテンシな推論が持ち味で、ルーティング・RAG・サブエージェント・プライベートデプロイメント向けに設計されている

LightOnOCR-2-1B（LightOn）

• パラメータ数 1 B のビジョン言語モデルで、PDF・スキャン・画像を直接テキストに変換する
• 従来の OCR パイプラインのように複数ステップを組む必要がなく、エンドツーエンドで多言語ドキュメントを処理できる
• OlmOCR-Bench で最先端の性能を達成しつつ、比較対象のモデルよりも約 9 倍小さく、大幅に高速だと紹介されている

料金や対応リージョンの詳細、LightOnOCR-2-1B の対応言語一覧は原文には明記されていなかったので、気になるみんなは Amazon SageMaker JumpStart のドキュメントをチェックしてみてね。

まとめ

• Redis の langcache-embed-v3-small、JetBrains の Mellum2-12B-A2.5B-Thinking、LightOn の LightOnOCR-2-1B の 3 モデルが Amazon SageMaker JumpStart で利用可能に
• langcache-embed-v3-small は LLM アプリの意味的キャッシュに特化した埋め込みモデル
• Mellum2-12B-A2.5B-Thinking は MoE アーキテクチャ・131,072 トークンのコンテキストを持つ、思考過程を出力するコーディング特化モデル
• LightOnOCR-2-1B は 1 B パラメータで多言語ドキュメントをエンドツーエンドでテキスト化するビジョン言語モデル
• いずれも SageMaker コンソールまたは SageMaker Python SDK から数クリックでデプロイできる

意味キャッシュで LLM コストを削りたい人にも、コーディングエージェントを作り込みたい人にも、大量文書の OCR を効率化したい人にも、それぞれ刺さる発表だよ！