AIの回答が途中で切れるのは「入力の上限」ではなく「出力の上限」──2つを分けて考える

ChatGPTやClaudeの回答が文の途中でぷつりと止まるとき、原因の多くは「読ませた資料が多すぎた」ことではありません。1回の返答で書ける長さの上限に当たっただけ、というケースが多い。AIの上限は1つではなく2つあり、会話全体で扱える量を決める「コンテキストウィンドウ」と、1回の返答で生成できる量を決める「最大出力トークン」は、別々の数字として公式ドキュメントに書かれています。OpenAIのモデル詳細ページは、GPT-5.6 Solについて「コンテキストウィンドウ 1,050,000／最大出力 128,000 トークン」という2つの値を公開しています（2026年8月27日確認）。入力側だけの上限は公式ページに単独の数字としては記載されていませんが、コンテキストウィンドウから最大出力を引いた差分（約922,000）が目安になります。入力側にこれだけの余裕があっても、出力側は128,000トークンで頭打ちになる。この非対称を先に押さえると、「切れた」ときに直す場所が決まります。

• OpenAI公式のモデル詳細ページは GPT-5.6 Sol を「コンテキストウィンドウ 1,050,000／最大出力 128,000 トークン」の2値で公開（2026年8月27日確認）。入力側の目安（約922,000）はその差分の計算値
• Anthropic公式は「1Mトークンのコンテキストウィンドウを持つモデルへの1リクエストが生成できるのは最大128kトークン（max_tokens）」と明記。Claude Haiku 4.5 は 200Kトークン／最大出力 64Kトークン
• 推論（thinking）トークンは出力枠から引かれる。OpenAIは推論モデルを使い始める際、推論と出力用に最低25,000トークンを確保することを推奨している

上限は2つある──「入れられる量」と「書ける量」

OpenAIの公式ガイド「Conversation state」は、コンテキストウィンドウを「1回のリクエストで使えるトークンの最大数。この最大トークン数には入力・出力・推論トークンが含まれる」と定義しています。そして出力トークンについては別項を立て、「モデルごとに出力トークンの上限が異なる」と書いています。同ガイドは例として gpt-4o-2024-08-06 を挙げ、コンテキストウィンドウは合計128kトークン、生成できる出力は最大16,384トークンとしています。つまり公式の説明でも、この2つは最初から別のメーターとして扱われています。

主要モデルの公開値を並べると差がはっきりします（いずれも2026年8月27日に各社公式ページで確認）。

「最大入力の目安」列は、公式ページが公開している「コンテキストウィンドウ」から「最大出力トークン」を引いた差分です。OpenAIが「最大入力」という項目として公表している数字ではありません。

Anthropicの「Context windows」ページはさらに直接的で、「1Mトークンのコンテキストウィンドウを持つどのモデルへの1リクエストも、生成できるのは最大128kトークン（max_tokens）まで」と書いています。コンテキストウィンドウには「システムプロンプト、messages内の全メッセージ（ツール結果・画像・ドキュメントを含む）、ツール定義」が数えられ、「そのターンでClaudeが生成する出力も、拡張思考を含めて数えられる」とも明記されています。

なお約922,000という数字は 1,050,000－128,000 の差分から来ています。公式ページが公開しているのはコンテキストウィンドウと最大出力トークンの2値だけで、入力側の内訳や配分ルールまでは説明していないため、ここは「差分で計算するとこの数字になる」という参考値にとどめます。トークンという単位自体はトークンとは何かで扱っています。

なぜ「GPT-3.5前提の説明」が今も検索上位に残るのか

「ChatGPTは4,096トークンまでしか扱えないので長文は分割せよ」という説明を見たことがある人は多いはずです。これはGPT-3.5 Turbo時代の数字です。OpenAIの現行モデルページでもGPT-3.5 Turboは「16,385 context window／4,096 max output tokens」と記載されており、当時は入力も出力も同じ桁だったため、両者を区別せず「4,096」と語っても実用上ほぼ困りませんでした。

現在は事情が違います。GPT-3.5 TurboからGPT-5.6 Solまでで、コンテキストウィンドウは16,385→1,050,000で約64倍に伸びた一方、最大出力トークンは4,096→128,000で約31倍です（いずれも公開値からの単純計算）。伸び方の比率が違うため、入力の余裕と出力の余裕を同一視した助言は、長い資料を読ませる用途ほど外れます。典型例が「資料は問題なく読めたのに、要約の出力が途中で止まる」です。

推論トークンが出力枠を先に食う

もう1つ、体感とズレる要因があります。推論モデル（reasoning model）が内部で使う思考トークンは、入力ではなく出力の枠から引かれます。

OpenAIのAPIリファレンスは max_output_tokens を「レスポンスで生成できるトークン数の上限。可視の出力トークンと推論トークンの両方を含む」と定義しています。さらに公式の推論ガイドは「生成トークンがコンテキストウィンドウの上限、または設定した max_output_tokens に達すると、status が incomplete、incomplete_details の reason が max_output_tokens のレスポンスが返る」と説明し、続けてこう書いています──「これは可視の出力トークンが1つも生成される前に起こりうる。つまり入力トークンと推論トークンの費用が発生しながら、目に見える回答は受け取れないことがある」。

その対策としてOpenAIは「これらのモデルで実験を始める際は、推論と出力用に最低25,000トークンを確保することを推奨する」としています。Anthropic側も「thinkingトークンは max_tokens パラメータの一部であり、出力トークンとして課金され、レート制限にも数えられる」と明記しています。長い思考を要する質問ほど、可視の回答に回る枠が減る構造です。推論モデルそのものの違いは推論モデルとは何か──通常のLLMとの違いと使い分けの基準にまとめています。

APIなら「なぜ切れたか」はレスポンスに書いてある

APIを使っている場合、切れた理由は推測しなくても返ってきます。各社の該当フィールドは以下の通りです。

Anthropicの「Stop reasons and fallback」ページは、max_tokens が返ったときの対処を「max_tokens を上げるか、応答を継続させる」と一行で示しています。同ページには、途中で切れたレスポンスに「[Response truncated due to max_tokens limit]」「[Response truncated due to context window limit]」といった注記を付けて読み手に不完全であることを伝える実装例も載っています。Geminiの FinishReason は MAX_TOKENS を「リクエストで指定した最大トークン数に達した」と定義しており、maxOutputTokens パラメータの既定値は「モデルによって異なる」と書かれています。

Anthropicはさらに、Claude 4.5以降のモデルでは「入力トークンと max_tokens の合計がコンテキストウィンドウを超えてもAPIはリクエストを受け付け、生成がウィンドウ上限に達した時点で stop_reason: "model_context_window_exceeded" で停止する」と説明しています（それ以前のモデルでは検証エラーが返る）。切れ方が2種類あるということです。

チャット画面で切れたときの手当て

ChatGPTやClaudeのWeb版には max_output_tokens を直接いじるスライダーがありません。できるのは、出力量そのものを設計に落とすことです。

現実的な手は3つです。分割依頼（「全10章を一度に」ではなく「まず1〜3章」と切る）、継続指示（Anthropicが max_tokens 到達時の対処として「応答を継続させる」を挙げている通り、続きから書かせる運用自体は想定されています）、そして出力形式の圧縮（冗長な前置きや繰り返しの要約を禁じるだけで可視出力の消費量は変わります）。

一方、会話が長くなったときの「前に言ったことを忘れる」症状は出力上限ではなく入力側の問題です。Anthropicの公式ドキュメントには「claude.aiのようなチャットインターフェースは、コンテキストウィンドウをローリング（先入れ先出し）で管理することもある」という注記があります。何を残し何を捨てるかの設計はコンテキストエンジニアリングとはで扱っています。

チャット製品側の出力上限は公式ページで確認できなかった

正直に書いておきます。まず、ChatGPTやClaudeのチャット製品側の出力上限は、今回どの公式ページからも数値を確認できませんでした。上の表の数字はいずれもAPIのモデル仕様であり、Web版やアプリの内部設定が同じである保証はありません。表に入れた「Chat Latest」も、OpenAIが「ChatGPTで使われている最新のInstantモデル」と説明しているAPI上のモデルであって、ChatGPT製品そのものの設定値ではありません。

次に、Gemini各モデルの最大出力トークン数は、今回 ai.google.dev のモデル一覧ページからは取得できませんでした（表がページ読み込み後に描画されるため）。本記事でGeminiについて書いたのは、maxOutputTokens パラメータと finishReason: MAX_TOKENS という仕組みの部分だけです。

3つ目に、日本語で「何文字書けるか」への換算は出しません。トークンの区切り方はモデルごとのトークナイザで変わるため、128,000トークンが日本語何文字に当たるかは一意に決まらないためです。

4つ目に、「続けて」と指示すれば必ず続きが正しく出る保証はありません。継続指示は公式が対処として挙げている手段ですが、切れた位置から自然につながるかはケースによります。重要な文書では、継続後に接合部を人が読んで確認する前提で使ってください。

---

出典：本文中の数値・引用は、2026年8月27日に各社の公式ドキュメント（OpenAI「Models」「Conversation state」「Reasoning models」「API Reference」、Anthropic「Models overview」「Context windows」「Stop reasons and fallback」、Google「Gemini API - Generating content」）を取得して確認したものです。日本語訳は当サイトによります。

但し書き：モデルの仕様値は予告なく更新されます。実装前に各社の最新ドキュメントで再確認してください。単価はClaude・GPT・Gemini API料金の読み方も参照できます。