shiichan

Bedrock の Claude でスキーマ通りの JSON が返ってくる!Structured outputs 対応だよ

おつかれさま、しぃちゃんだよ!

AWS What's New aws.amazon.com

LLM の出力をパースする作業から解放されるかもしれないお知らせだよ!

なにが発表されたの?

AWS の What's New で、Amazon Bedrock がすべての Anthropic Claude モデルで structured outputs に対応したと発表されたよ。

対応するエンドポイントは 2 つだよ。

  • bedrock-runtime(boto3 や bedrock-runtime の API 経由)
  • bedrock-mantle(Messages API 経由)

どちらでも、定義した構造に沿ったスキーマ準拠の JSON を受け取れるの。

なぜ重要なの?

LLM の出力を後続の処理に渡すとき、形式が崩れると困るよね。今回は、独自のパース処理・リトライ処理・後処理なしで、スキーマに合った結果が得られると説明されているよ。

これで何が変わるの?

原文が挙げている活用例はこれだよ。

  • 決算報告書やコンプライアンス文書から、必要な項目をすべて抽出する
  • 診療メモを電子カルテ(EHR)の形式に変換する
  • 商品カタログを、一貫して検証済みの内容で拡充する
  • 契約書の主要な条件・当事者・義務を分析する
  • サポートチケットの振り分けで、意図・感情・エンティティが常にアプリのデータモデルに合うようにする

深く潜ってみよう

原文は短く、スキーマの指定方法やパラメータの詳細は書かれていないの。詳しくは Amazon Bedrock のドキュメントを見てね。

提供範囲は、Claude モデルが使えるリージョンと同じだよ。

まとめ

  • Bedrock 上のすべての Claude モデルで structured outputs が使える
  • bedrock-runtime と bedrock-mantle の両方に対応
  • パース・リトライ・後処理のコードを減らせる
  • 提供リージョンは Claude モデルが使える場所と同じ

LLM の出力を安定してシステムに流し込みたいみんなに刺さる更新だよ!