gpt-ossをローカルで動かすと何ができるか──20Bと120Bの違いを整理する

「ローカル ai gpt-oss」で検索する人は、名前は知っていても「20Bと120Bで何が違うのか」「自分の環境でどちらが現実的か」までは掴めていないことが多いと思う。gpt-ossはOpenAIが2026年に公開したオープンウェイトのモデルで、既存記事の一覧表では1行の紹介にとどめていた。ここでは公式モデルカード・Ollama公式ライブラリ・公式GitHubリポジトリの記載だけを使って、2種類の違いを深掘りする。

3行まとめ

1. gpt-ossは20B(総パラメータ21B・アクティブ3.6B)と120B(総パラメータ117B・アクティブ5.1B)の2種類。Ollama配布サイズは20Bが14GB、120Bが65GBで、コンテキスト長はどちらも128K
2. 両モデルともMXFP4量子化で後学習されており、公式GitHubは「全てのベンチマーク評価もこの同じMXFP4量子化で実施した」と明記している。つまり量子化はオプションではなく評価そのものの前提になっている
3. ライセンスはApache 2.0で、function calling・Web閲覧・Pythonコード実行・Structured Outputsに対応する「エージェント的な機能」と、完全なチェーン・オブ・ソートへのアクセスを備える。ただし公式は「このCoT情報はエンドユーザーに見せることを意図していない」と注記している

20Bと120B、パラメータ数と必要環境の違い

Hugging Face公式のモデルカード(2026年8月27日確認)には、両モデルの立ち位置がこう書かれている。

gpt-oss-120b — for production, general purpose, high reasoning use cases that fit into a single 80GB GPU (like NVIDIA H100 or AMD MI300X) (117B parameters with 5.1B active parameters) gpt-oss-20b — for lower latency, and local or specialized use cases (21B parameters with 3.6B active parameters)

どちらもMoE(Mixture of Experts)構成で、パラメータ総数はでかいが、実際に1トークンの生成で使われる「アクティブパラメータ」はずっと小さい。20Bは総数21Bに対してアクティブ3.6B、120Bは総数117Bに対してアクティブ5.1Bだ。同じモデルカードには「MXFP4量子化により、gpt-oss-20bは16GBのメモリ内で動く」とも明記されている。

Ollama公式ライブラリのタグページ(2026年8月27日確認)で、実際に配布されているファイルサイズを見るとこうなる。

コンテキスト長はどちらも128K(13万1,072トークン)で共通していることを、両モデルのconfig.jsonで確認した。20Bはノート1台でも狙える現実的なサイズだが、120Bはコンシューマ向けGPU(前述のRTX 5090でもVRAM32GB)には収まらず、業務用の80GB級GPUか、それに相当する統合メモリを積んだMac(Mac StudioのM5 Ultraなら最大512GB)が現実的な選択肢になる。

MoEの内部構成

config.jsonを直接確認すると、2つのモデルのMoE構成には次の違いがあった。

どちらも「1トークンごとに4つのエキスパートだけを起動する」構成は共通している。120Bはエキスパートの総数を32から128に増やすことで表現力を上げつつ、実際に毎回動く計算量(アクティブパラメータ)は20Bの3.6Bから5.1Bへの増加に抑えている。パラメータ総数の増え方(21B→117B、約5.6倍)に対して、アクティブパラメータの増え方(3.6B→5.1B、約1.4倍)がずっと緩やかなのは、MoE構成ならではの特徴だと言える。

Harmony形式を使わないと正しく動かない

公式モデルカードには「両モデルともharmonyレスポンス形式で学習されており、この形式以外で使うと正しく動作しない」という趣旨の注記がある。Transformersのチャットテンプレートを使えば自動的にharmony形式が適用されるが、model.generateを直接呼ぶような使い方をする場合は、チャットテンプレート経由か、OpenAI公式のopenai-harmonyパッケージを使ってharmony形式を手動で適用する必要があると明記されている。ここを見落として生の文字列を渡すと、期待した出力にならない可能性がある。

Ollamaで動かすコマンド

Ollama経由での導入がコンシューマ向けハードウェアでは最も手軽で、公式モデルカードにもOllamaのインストール後、以下のコマンドで動かせると案内されている。

ollama pull gpt-oss:20b
ollama run gpt-oss:20b

120Bを試す場合はgpt-oss:120bに置き換えるだけだが、ダウンロードだけで65GBかかる点は事前に確認しておいた方がいい。ブラウザチャットUIを合わせて使いたい場合はOpen WebUIのセットアップ手順を参照してほしい。

推論の強さを3段階で切り替えられる

もう1つの特徴として、公式モデルカードには「reasoning effort(推論努力度)を low・medium・high の3段階で調整できる」と明記されている。用途とレイテンシの要件に応じて切り替える設計で、常に最大強度で考えさせるのではなく、簡単なタスクではlowにして応答を速くする、といった運用ができる。

ライセンスはApache 2.0

両モデルとも、Hugging Face公式ページに記載されているライセンスはApache 2.0だった。モデルカードには「コピーレフト制限や特許リスクなしに自由に構築できる。実験・カスタマイズ・商用展開に向いている」と明記されている。オープンウェイト(重みが公開されている)モデルとしては、商用利用の制約が比較的緩い部類になる。

エージェント機能とチェーン・オブ・ソート

公式GitHubリポジトリ（openai/gpt-oss、curlで確認）のREADMEは、両モデルの特徴を6項目の「Highlights」としてまとめている。ライセンス・推論努力度3段階・MXFP4量子化に加えて、次の2点が挙げられている。

• エージェント的な機能：function calling・Web閲覧（web browsing）・Pythonコード実行・Structured Outputsに、モデルがネイティブで対応している
• 完全なチェーン・オブ・ソート（Full chain-of-thought）：モデルの推論過程に完全にアクセスできるとされ、デバッグや出力への信頼性確保に役立つとされる一方、READMEは「この情報はエンドユーザーに見せることを意図していない（This information is not intended to be shown to end users）」と明記している

また、READMEは「すべてのベンチマーク評価は、同じMXFP4量子化を使って実施した」とも明記しており、公式が公表しているベンチマークスコアは、量子化前のフル精度モデルではなく、実際に配布されている量子化済みモデルでの結果である点が確認できた。推論エンジンとしてはTransformers・vLLM・Ollamaに加えて、PyTorch参照実装・Triton参照実装（単一GPU）・Metal参照実装（Apple Silicon向け）が用意されているとREADMEに記載がある。

なお、確認時点（2026年8月29日）でこのリポジトリはスター20.4k・フォーク2.1kを記録しており、公開から一定の関心を集め続けていることがうかがえる。

Ollamaのクラウド版という選択肢もある

Ollama公式ライブラリのタグ一覧には、gpt-oss:20b-cloud・gpt-oss:120b-cloudという表記も見つかった。それぞれ「Low Usage」「Medium Usage」という注記がついており、Ollama自体が提供するクラウド実行の選択肢のようだが、この記事ではローカル実行(手元のマシンで完結させる使い方)に絞って扱っているため、クラウド版の課金体系までは踏み込んでいない。

ローカルLLM全体のモデル比較はローカルLLMおすすめモデル10選、単体GPUなしでどこまで動くかの実測はローカルAIの画像生成は単体グラボなしでも動くのかにまとめている。

120Bを動かさずに書いた理由

• どちらのモデルも自分の環境では実行していない。 手元のMacBook Air(8GB)は空きディスクが6.3GBしかなく、20B版だけでも14GBのダウンロードが必要なため、そもそも保存先がない。65GBの120B版は言うまでもない。この記事はHugging Face公式モデルカードとOllama公式ライブラリの記載を突き合わせた仕様の整理であり、実際に生成させた出力や体感速度の記録ではない
• 推論の質(low/medium/highでどれだけ結果が変わるか)は未検証。 3段階を切り替えられるという仕様は公式モデルカードの記載通りだが、実際に同じ質問を3段階で試して比較する検証は行っていない
• Harmony形式を使わなかった場合に具体的にどう壊れるかは確認していない。 公式モデルカードの注記をそのまま伝えているだけで、間違った形式で投げたときの実際の出力は見ていない
• 120Bを実際に80GB GPUや大容量Macで動かした際の速度は、この記事のどこにも書いていない。 必要環境の数値(80GB GPU、512GBのMac Studioなど)はすべて公式ページの仕様値であり、実際にその構成で動かした結果ではない
• エージェント機能（function calling・Web閲覧・Pythonコード実行）は1つも試していない。 公式GitHubのREADMEに記載されている機能一覧をそのまま紹介したもので、実際に呼び出して動作を確認したものではない
• チェーン・オブ・ソート（CoT）の中身を実際に見たことはない。 「エンドユーザーに見せることを意図していない」という公式の注記をそのまま伝えているだけで、CoTがどのような形式で出力される・されないのかを実機で確認してはいない