Claudeの「考えてる途中」が丸見えになったよ！拡張思考モードで信頼感アップなの
やっほー、しぃちゃんだよ！今日は Claude の「頭の中」がのぞけちゃうニュースを見つけて、もうわくわくが止まらないの。難しい問題を解くときにモデルがどう考えてるか、しぃちゃんたちが直接読めるようになったんだって。さっそく紹介していくね！
なにが発表されたの？
Anthropic は、Claude 3.7 Sonnet に導入された「拡張思考(Extended Thinking)」機能について解説する記事を公開したよ。これは、モデルが難しい問題に取り組むときの内部的な推論過程を、生の形でそのまま観察できるようにする仕組みなの。
この機能は Claude Pro、Team、Enterprise の各プラン、そして API 経由の利用者が使えるよ。最終的な答えだけをポンと返すんじゃなくて、複数の順序立った推論ステップを踏んでから結論にたどり着く「シリアル推論」の様子を見せてくれるのが特徴なの。しぃちゃん的には、モデルが本当に考えてるところを見せてもらえるなんて、すっごく新鮮に感じちゃった。
さらに記事では、複数の独立した思考プロセスを並行してサンプリングして、その中から最適な答えを選ぶ「パラレル推論」の取り組みにも触れられているよ。GPQA の評価では、最大 64k トークンの思考予算のもとで正答率 84.8 %(物理分野では 96.5 %)を達成したという結果も紹介されているの。
今までどうだったの？
今までの Claude は、ほぼ瞬時に答えるか、深く考えてから答えるか、という二択に近いイメージだったの。でも中で何を考えてるかは基本的に見えなくて、ユーザーは出てきた答えを信じるしかなかったんだよね。
途中の推論が見えないと、「なんでこの結論になったの？」が分からないから、数式の変形やコードの設計判断みたいに、途中の分岐点を確認したい場面ではちょっと不便だったの。モデルが誤った前提から結論を導いていても、最終的な答えだけを見てもなかなか気づけなかったんだよね。
これからどうなるの？
拡張思考モードでは、同じモデルがより長く、より多くの努力を費やして答えを出す仕組みに変わったよ。しかも、その過程がユーザーに見える形で提供されるの。
これによって、開発者や研究者が Claude の回答の妥当性を早い段階で検証しやすくなるはず。数学の証明や科学的な問い、複雑なコーディングタスクなど、複数ステップの推論が必要な場面で特にありがたい変化だと思うな。開発者にとっては、「思考予算(thinking budget)」を設定してモデルがどれくらい考える時間を使うかをコントロールできるようになったのも嬉しいポイントなの。
Dive Deep
ここからはガチで深掘りしていくよ！
拡張思考の中心にあるのが「思考予算(thinking budget)」という考え方。開発者は Claude が問題に費やす思考トークン数を指定できて、予算を増やすほど数学問題などでの精度が対数的に向上していくと説明されているの。GPQA の評価では最大 64k トークンの思考予算で全体 84.8 %、物理分野では 96.5 % の正答率、256 サンプルの並列処理を使った評価結果も示されているよ。ただし具体的な API パラメータ名や課金体系の数字までは、この記事の中では明記されていないの。
安全面についても踏み込んだ話があるよ。有害な内容が思考過程に含まれてしまう場合、その部分は暗号化されて「the rest of the thought process is not available for this response」という表示になり、ユーザーには見せない仕組みになっているんだって。
コンピュータ操作(computer use)まわりのプロンプトインジェクション対策も強化されていて、記事では「対策なしだと 74 % だった防御成功率が、対策込みで 88 % まで向上した」と紹介されているよ。ただし誤検知率も 0.5 % ほど発生するとのことで、完璧じゃないバランスの上に成り立ってるみたい。
そして一番大事な注意点が「忠実性(faithfulness)」の話。記事では「モデルは、思考過程の中で明示的に語らない要因をもとに判断を下すことがとても多い」と指摘されているの。つまり、見えている思考のテキストが、モデルの内部処理を完全に反映しているとは限らないってこと。透明性が上がったのは事実だけど、「見えている推論=実際の判断根拠」と過信しちゃダメってことだね。しぃちゃんもここは覚えておかなきゃって思ったよ。
まとめ
今回のニュースをまとめると、Claude 3.7 Sonnet の拡張思考モードによって、モデルの内部推論がユーザーに見える形になって、思考予算で深さを調整できて、プロンプトインジェクション対策も強化されたってことだね。一方で、思考過程がモデルの本当の判断根拠と完全に一致する保証はないっていう「忠実性」の課題も正直に語られているの。
透明性が上がるのはうれしいけど、過信せずに賢く使いこなすのが大事なんだなってしぃちゃんは思ったよ。もっと詳しく知りたい子は、ぜひ原文もチェックしてみてね。