推論モデルとは何か──通常のLLMとの違いと使い分けの基準

推論モデルとは、最終的な回答を書き始める前に、モデル内部で中間的なトークン列を生成してから応答する大規模言語モデル(LLM)を指す用語である。Anthropicは「拡張思考(extended thinking)」ないし「思考(thinking)」、OpenAIは「推論(reasoning)」、Googleは「思考(thinking)」と呼び、用語もパラメータも三社三様だが、いずれも「回答文とは別に、内部でトークンを消費する下書き工程を挟む」点は共通する。推論を使わない通常のモデルは入力を受けるとすぐ応答トークンの生成を始めるが、推論モデルはこの下書き工程の分だけ出力トークン数と応答時間が増える。優劣の話ではなく、タスクの性質によって効く場面と無駄になる場面がはっきり分かれる。

• 推論モデルは、最終回答の前に内部でトークン列(Anthropicは「thinking」、OpenAIは「reasoning」、Googleも「thinking」と呼ぶ)を生成してから応答する仕組みで、擬人的な「考えている」というより、中間トークンを使って下書き・検算をしてから出力する処理として各社が定義している
• 中間トークンはAnthropic・OpenAI・Googleいずれも「出力トークンとして課金される」と公式に明記しており、画面に見える回答本文が短くても、見えないトークン分の料金と待ち時間が発生しうる
• 用語もパラメータ名も各社で異なる(Anthropicはbudget_tokens/effort、OpenAIはreasoning_effort、Googleはthinking_level/thinkingBudget)ため、同じ「high」という値でも指している範囲が違い、単純な横並び比較はできない

何が違うのか──最終回答の前にトークン列を生成する仕組み

Anthropicは、通常モデルの限界を「一度で答えるモデルは、最初の一発ですべてを正解させなければならない――下書きも、確認も、途中での方針転換もない(A model that answers in a single pass has to get everything right on the first try)」と説明する。thinkingが有効なとき、Claudeは「自分の言葉で問題を解きほぐしてから答える。問われていることを言い直し、複数のアプローチを試し、途中経過を確認し、うまくいかない道筋は捨てる(works through the problem in its own words before answering)」。この中間生成物はthinkingという独立したブロックとして、回答テキストより前に出力される。

ここで重要なのは、画面に表示される「thinking」のテキストが内部処理そのものではない点だ。Anthropicは「thinkingブロック内のテキストはClaudeの推論の要約である(a summary of Claude's reasoning)」と明記し、displayが既定の"omitted"の場合はその要約すら返さない。OpenAIも「モデルが生成した生の推論トークンは公開せず、summaryパラメータで要約のみ見られる」としており、両社ともユーザーが読む「思考過程」は後から要約・整形されたテキストだと自社ドキュメントで明言している。Googleも「Geminiは応答する前に内部で推論する(reasons internally before responding)」とし、その過程をthoughtというステップで表示する。

いずれも、最終出力の前に中間トークンを生成し、それを踏まえて回答を組み立てる処理として仕様が定義されている。トークンの仕組み自体はトークンとは何かを参照してほしい。

いつ効くのか、いつ無駄なのか

Anthropicは、思考が効く場面を「数学・コーディング・分析・長時間稼働するエージェント的タスクのように、本来なら省略されるか回答に圧縮されてしまう中間作業の質が最終的な答えの質を左右するタスク」と説明する(原文: thinking improves performance on complex tasks like math, coding, analysis, and long-running agentic work)。

OpenAIの「reasoning best practices」は、推論モデルと通常のGPTモデルの使い分けを「速度とコストを優先するならGPTモデルの方が速く安価な傾向(GPT models are faster and tend to cost less)」「曖昧さや複雑さを含む問題を解くなら推論モデル系が向く(work through ambiguity and complexity)」と整理し、向くタスクとして曖昧なタスクの処理・大量データからの特定情報抽出・複数手順のエージェント計画・コードのレビューとデバッグを挙げる。また内部で推論するため「"段階的に考えて"のようなプロンプトは不要(prompting them to "think step by step" ... is unnecessary)」とし、通常モデル向けの思考連鎖プロンプト技法は不要だとしている。

Googleはタスクの難易度で整理しており、事実確認・分類には「minimal/low」、概念の比較や創造的推論には「既定のthinking」、高度なコーディング・数学・複数段階の計画(例: AIME数学問題)には「最大のthinking」を使うよう案内している。

裏を返せば、一問一答や単純な分類・定型文章生成のように「下書きしても結論が変わらない」タスクでは、推論を有効にしてもコストと待ち時間が増えるだけの可能性がある。

コストと待ち時間はどう変わるのか

中間トークンは3社とも「出力トークンとして課金される」点で一致する。Anthropicは「thinkingのテキストが返されない場合でも、推論に使ったトークンは出力トークンとして課金される(billed as output tokens, even when the thinking text isn't returned to you)」、OpenAIは「推論トークンはAPI経由では見えないが、コンテキストウィンドウを占有し出力トークンとして課金される(occupy space in the model's context window and are billed as output tokens)」、Googleは「thinkingがオンの場合、応答の料金は出力トークンとthinkingトークンの合計になる(response pricing is the sum of output tokens and thinking tokens)」としている。画面上の回答が短くても、見えないトークン分の請求は発生しうる。

各社の公式ドキュメントに記載された具体的な数値の目安は次の通りだ。

OpenAIは固定のトークン範囲でなく、reasoning_effortという段階で制御する。公式ドキュメントの各段階の用途は次の通りだ。

OpenAIは同時に「これらのモデルを試し始める際は、推論と出力のために最低25,000トークンを確保することを推奨する(reserving at least 25,000 tokens for reasoning and outputs)」とも明記する。出力上限を小さいまま試すと、推論トークンだけで上限に達し回答本文が出ない、という事故が起きうる。

各社の呼び方はどう違うのか

同じ仕組みでも、社によって名称・パラメータ・設定値の粒度が異なる。

Anthropicのドキュメントは、budget_tokensを使う手動モードについて「Claude 4.6モデルで非推奨となり、Claude 4.7以降のモデルはこれをサポートせず400エラーを返す」と明記し、後継のeffortベースの適応的思考への移行を案内している。パラメータの呼び方はモデル世代によっても変わる。

実務ではどう使い分ければいいか

3社の公式ドキュメントを横に並べると、判断の軸は共通している。

• 事実確認・分類・定型応答など「下書きしても結論が変わらない」タスクは、推論を弱める・切る(前章のOpenAI「none」、Google「minimal/low」に該当)。
• コーディングの難所・デバッグ・複数手順の計画・数学など「試行錯誤の質が結果を左右する」タスクは、推論を強める(前章の3社の説明に共通)。
• 会話型チャットや高頻度・低レイテンシの用途は「low」を出発点にする、とOpenAI・Anthropicとも案内している。
• 推論を強めるほど見えないトークン消費と応答時間が増える。試験導入時は前章の数値目安(OpenAIの25,000トークン確保、Anthropicの32,000トークン超でのバッチ処理)を踏まえ、出力上限に余裕を持たせる必要がある。

なお、モデルの内部構造(MoEかどうかなど)は推論モードの有無とは別の設計判断であり、MoEとは何かで扱っている。また、各社のベンチマークスコアを比較材料にする場合は測定条件の違いに注意が必要で、詳細はLLMベンチマークの読み方を参照してほしい。

正直な但し書き

• 本記事のモデル名・パラメータ・数値は2026年8月時点の公式ドキュメントに基づく。Anthropic自身がbudget_tokensを「新しいモデル世代では非推奨」としているように仕様変更は頻繁で、本記事の内容も将来的に古くなりうる。判断の前には都度、各社最新のドキュメントを確認してほしい。
• 「thinking」「reasoning」として表示されるテキストは各社とも「要約」であり、モデル内部の生のトークン列そのものではないと公式に明記されている。本記事の仕組み説明も、内部で実際に何が計算されているかを完全には代弁しない。
• 「effort」「reasoning_effort」「thinking_level」のように名称が似ていても、各社で制御範囲は異なる。Anthropicのeffortはthinking以外の応答全体にも影響する設計で、公式も「effortは厳密なトークン予算ではなく、振る舞いに関する指示である(a behavioral signal, not a strict token budget)」と述べている。同じ「high」でも社をまたいだ単純比較はできない。
• レイテンシについて、各社とも「推論を強めるほど遅くなる」という定性的な関係は明記するが、秒数などの定量データは今回読んだ公式ドキュメントには見当たらなかった。
• 本記事はベンチマークによるモデル間の優劣判断を行っていない。読み方はLLMベンチマークの読み方に譲る。料金の具体的な単価も扱っていないため、課金にかかわる判断の前には各社の最新の料金ページを確認してほしい。
• OpenAIの2つのドキュメントでは推論モデルの呼び方が「GPT-5.5・GPT-5.6」系と「o-series」系で混在しており、本記事では固有のモデル番号への言及を最小限にとどめた。どのモデルが現時点の推奨モデルかは、OpenAIの公式モデル一覧ページで都度確認してほしい。

出典

• Extended thinking - Claude Docs
• Thinking - Claude Docs
• Effort - Claude Docs
• Reasoning models - OpenAI API
• Reasoning best practices - OpenAI API
• Gemini thinking - Interactions API | Gemini API
• Gemini thinking | Gemini Generate Content API