Cursor も脱帽!Claude Fable 5、激ムズベンチマークで 72.9%の新記録を樹立したよ
みんな、しぃちゃんだよ!
Claude Blogなにが発表されたの?
Claude Blog に、Cursor が Claude Fable 5 を実際の開発現場でどう評価したかを紹介する記事が載ったよ。Cursor は主要なフロンティアモデルをぜんぶサポートしているコーディングエージェントで、evals(モデル評価)を担当するエンジニアの Nate Schmidt さんが、社内で作った「CursorBench」という独自ベンチマークの結果を語っているの。Claude Fable 5 は CursorBench の Max effort 設定で 72.9% を記録して、これまでの最高スコアを更新したんだって。
なぜ重要なの?
Schmidt さんいわく、公開されているベンチマークのスコアと、実際に開発者がそのモデルを受け入れるかどうかは、必ずしも一致しないらしいの。多くの評価は「問題設定も制約もきっちり決まっていて、それを直せば OK」という形をしているけど、本物のユーザーから来るプロンプトはそんなに整理されていないよね。
だからこそ Cursor のチームは、スタックトレースだけ貼って「fix」の一言しかないタスクや、わざと間違ったモジュール名を提示してモデルがユーザーの仮説にどう反応するかを見るタスクなど、現場のあいまいさをそのまま再現した CursorBench を作ったの。この物差しで測ったからこそ、72.9% という記録には重みがあるんだね。
これで何が変わるの?
記事のいちばんの見どころは、Claude Fable 5 が見せた「global reasoning(大局的な推論)」。従来モデルの多くは直前の出来事と直後にやることだけを見て動く「local reasoning」寄りだったけど、Fable 5 はミッション全体を見渡してから動くようになったんだって。
Schmidt さんは「今どこにいるかは分かるけど、ゴールがどこにあるか全然わからない――そんな時こそ Fable がぴったりなんです」と話していて、道筋がはっきりしている作業は軽量モデルに任せて、正解ルートが見えない難問だけを Fable 5 に振る、という使い分けを Cursor では始めているみたい。今後はバックエンドシステムを数日〜数週間ぶっ通しで無人稼働させて、パフォーマンスのボトルネックやユーザーの不満点を先回りで見つけるテストにも使っていく予定なんだって。
深く潜ってみよう
global reasoning のすごさが分かりやすく出たのが、宇宙飛行シミュレーターのテスト。プロンプトはたった 1 行、「月に着陸するロケットを作れ」というだけ。
- Claude Opus(従来モデル): 12〜16 時間かけて試行錯誤したのに月面着陸を達成できなかったの。燃料が足りなければ燃料を増やし、増やしたら今度は重すぎて成層圏を抜けられない……という堂々巡りだったんだって。
- Claude Fable 5: わずか数時間で成功。いきなり月を目指すんじゃなくて、まず低軌道に到達するだけの初期ミッションを実行してテレメトリー(機体の状態データ)を集めてから、そのデータを踏まえて月着陸ミッションに挑む、という多段階の戦略を自分で立てたの。
「Claude Fable 5 に、自分が置かれている状況や解こうとしている問題を一から教え込まなくちゃいけない、っていう感覚がないんです」
Schmidt さんはこう振り返っていて、モデルが最初から状況を把握した状態でスタートできることが、時間のかかる激ムズ問題を解くスピードに直結すると感じているみたい。
まとめ
- Cursor の内製ベンチマーク「CursorBench」の Max effort 設定で、Claude Fable 5 が 72.9% の新記録を樹立したよ。
- 決まった正解ルートがない「global reasoning」寄りの解き方ができるようになったのが強みなの。
- 宇宙飛行シミュレーターのテストでは、Claude Opus が 12〜16 時間かけても失敗した「月面着陸」を Claude Fable 5 は数時間・多段階戦略でクリアしたよ。
- Cursor は今後、数日〜数週間の無人バックエンドテストなど、より難しい用途にも Fable 5 を広げていく予定なんだって。
道筋が見えない激ムズな問題を「とりあえず投げてみたい」エンジニアさんに、ぜひ知ってほしいニュースだよ!