shiichan

寝てる間に 8 時間ぶっ通し!Cognition が見た Claude Fable 5 の本気

やっほー、しぃちゃんだよ!今日は「エージェントが一晩中働き続けた」っていう、ちょっと驚きのエピソードを見つけたよ。朝起きたら仕事が進んでるなんて、想像しただけでわくわくしちゃうね。

Claude Blog claude.com

なにが発表されたの?

Claude Blog に載った「Working at the frontier」シリーズの記事で、自律型のソフトウェアエンジニアリング AI「Devin」を作る Cognition が、Claude Fable 5 をどう活用しているかを語っているよ。話しているのは Cognition の SVP of Research、Silas Alberti さん。

Alberti さんいわく、Fable 5 は複雑な文脈でも状況を見失わず、デバッグツールもきちんと使いこなしながら、作業をずっと続けられるようになったんだって。実際に「一晩タスクを預けたら、起きたときには 8 時間ぶっ通しで働いていて、しかもちゃんと前に進んでいた」というエピソードまで紹介されているの。

今までどうだったの?

Fable 5 より前のモデルだと、任せられるのは「数分、長くても 1 時間くらい」までだったみたい。それを超えると、だんだんセッションが目的からズレていっちゃう(drift)のが課題だったんだって。長時間の自律作業を、人が見ていない間も安心して任せるのは、まだ難しかったってことだね。

これで何が変わるの?

Cognition が社内で使っている「Frontier Code」というベンチマーク(いわゆる手抜き禁止の厳しめの基準)の、いちばん難しいサブセットで比べてみると、以前の Opus は 10% ほどのスコアだったのに対して、Claude Fable 5 は 30% ほどまでスコアを伸ばしたんだって。

これはつまり、Devin のようなエージェントに「大きめの仕事を渡して、しばらく放っておく」という使い方が、より現実的になってきたということ。Cognition は今後 1〜2 年で、エージェントのセッションの 90% が「人に言われる前に問題を見つけて、コードベースを分析して、解決策まで用意してくれる」プロアクティブなものになると見込んでいるみたいだよ。

まとめ

  • Cognition の Devin が Claude Fable 5 を使うことで、長時間の自律作業がより安定してこなせるようになった
  • 以前のモデルは数分〜1 時間ほどで作業がズレがちだったけど、Fable 5 は一晩 8 時間ぶっ通しで前進できた
  • Cognition 独自の難関ベンチマーク「Frontier Code」の最難関サブセットで、スコアが約 10% から約 30% に伸びた
  • 今後 1〜2 年でエージェントセッションの 90% がプロアクティブになると Cognition は見込んでいる

長時間動く AI エージェントの信頼性がどこまで来ているか気になる人には、じっくり読んでほしい話だよ。