安いモデルから強いモデルに交代させても、ギャップの半分も埋まらない──コーディングエージェントの『Handoff Tax』

コーディングエージェントに長時間のタスクをやらせているとき、「安いモデルで詰まったから強いモデルに交代させよう」「難しい推論が終わったから安いモデルに戻そう」という判断をした経験がある人は多いはずだ。この切り替え(ハンドオフ)自体にコストがあることを定量化した論文が、2026年8月25日にarXivで公開された。

「自分のものではない軌跡」を引き継ぐコスト

論文はまず問題設定を説明する。

"Each switch requires the receiver to continue a non-native trajectory produced by another model."

モデルを切り替えるたびに、引き継いだ側は、別のモデルが生み出した「自分のものではない軌跡(non-native trajectory)」を継続することを強いられる。これがコスト・品質のトレードオフを生む、というのが論文の核心的な主張だ。

実験は、Claudeファミリー・GPTファミリーそれぞれから、低コスト・低性能(LC)モデルと高コスト・高性能(HC)モデルのペアを用意し、ハンドオフの方向・タイミング・インターフェース(全軌跡転送・圧縮・軌跡除去)を変化させながら、リポジトリの状態は保ったまま比較する形で行われている。ファイル編集やツール呼び出しの結果といったリポジトリの実体は引き継ぎ先に確実に渡した上で、モデルが生成した「推論の軌跡」そのものをどれだけ引き継ぐかだけを変数として動かしている点が、この実験の設計上の工夫だ。同じ課題を同じ状態から引き継いでも、渡す情報の粒度によって結果が変わるのであれば、それは課題の難しさではなく引き継ぎ方式そのものに原因があると言える。

数字:全軌跡転送は「ギャップの半分も埋まらない」

"Across both model families, full-trajectory escalation recovers less than half of the LC-to-HC quality gap while incurring a substantial cost premium. We term this cost-quality penalty the handoff tax."

ClaudeファミリーとGPTファミリーの両方で、全軌跡を転送してのエスカレーション(安いモデルから強いモデルへの交代)は、LCモデルとHCモデルの品質ギャップの半分も埋められない一方で、コストは大幅に上乗せされる。著者らはこのコスト・品質のペナルティを「Handoff Tax(引き継ぎ税)」と呼んでいる。

論文はハンドオフの「方向」「タイミング」「インターフェース(全軌跡転送・圧縮・軌跡除去)」という3つの変数を独立に動かして比較している。対照的に、強いモデルから安いモデルへのダウンシフトは、コストと品質のバランスという点では有利な結果を示している。難しい推論が既に終わった後であれば、安いモデルに引き継がせても大きく品質を落とさずに済む、というのは直感にも合う。さらに興味深いのは、望ましいインターフェースが方向によって逆転する点だ。

"the preferred interface also reverses with direction: reducing LC-model trajectory information improves escalation quality, whereas removing the HC-model trajectory reduces downshift quality."

エスカレーション(安い→強い)の際は、LCモデルの軌跡情報を減らす(圧縮する)方がむしろ品質が上がる。逆にダウンシフト(強い→安い)の際は、HCモデルの軌跡情報を除去すると品質が下がる。つまり「引き継ぎ情報を多く渡すほど良い」という単純な直感は、少なくともエスカレーション方向では成り立たない、という結果だ。安いモデルが試行錯誤した過程の詳細を強いモデルにそのまま見せると、強いモデルがその「安いモデルらしい」推論の癖に引きずられてしまい、本来の実力を発揮できなくなる、と解釈できる結果だ。

モデル交代のオーケストレーションを組むなら

コスト削減のために「まず安いモデルで走らせて、詰まったら強いモデルに交代する」というオーケストレーション戦略を組んでいる場合、この論文はその交代自体にコストと品質の両面で見えにくい代償があることを示している。特にコーディングエージェントのように、1つのタスクの中で何十回もモデル呼び出しが発生する場面では、ハンドオフの設計次第で最終的なコストと品質の両方が大きく変わりうる。安いモデルの試行錯誤の軌跡をそのまま強いモデルに丸ごと引き継がせるのではなく、圧縮するなど情報を絞った引き継ぎの方が、エスカレーション時にはむしろ品質が上がりうるという指摘は、複数モデルを組み合わせるパイプラインを設計する際の具体的な検討材料になる。API料金の違いを踏まえたモデル選定はClaude・GPT・Gemini API料金の読み方を、エージェントへの情報の渡し方全般はコンテキストエンジニアリングとはを参照してほしい。

ClaudeとGPTのどの版かは明記されていない

本記事は、当サイトが論文の要旨を読んで書いている。要旨には「Claude and GPT families」という記載があるが、具体的にどのモデル名(バージョン)がLC・HCそれぞれに割り当てられたかは要旨からは分からず、本文PDFを読み込んでいないため確認できていない。「圧縮」の具体的な実装方法(どの程度の情報を残すか)、実験タスクの件数・種類についても要旨には記載がなく、本記事では触れていない。Zenn記事検索(2026年8月27日実施)では「Handoff Tax」に該当する日本語記事は見つからなかった。