Microsoftが「AIの作り方」を全公開──蒸留なしでAIME 97%のMAI-Thinking-1

3行まとめ

1. Microsoftが他社モデルからの蒸留を使わない推論モデルMAI-Thinking-1の技術報告書を公開
2. 事前学習は人間が書いたデータのみで行い、AIME 2025で97.0%、SWE-Bench Proで52.8%
3. 重みや訓練データは非公開だが、フルスクラッチでフロンティア級を作れると示した

Microsoftの研究チーム（MAI）が2026年6月2日、推論モデル MAI-Thinking-1 の技術報告書を公開した。注目は性能そのものより「作り方」だ。

何がすごいのか

• 他社モデルからの蒸留なし：他社の強いAIの出力をコピーする「蒸留」を使わずゼロから学習させた。事前学習は人間が書いたデータのみ（なお、自モデルの出力を使う自己蒸留は訓練の中核に用いている）
• 性能：数学競技 AIME 2025 で 97.0%、コーディングの SWE-Bench Pro で 52.8%。35B activeという規模で同クラス最高水準
• 作り方を公開：アーキテクチャや学習手順を技術報告書に記載

なぜ蒸留を避けたのか

報告書は「継承した知識は、長く改善し続けるための操縦性と頑健性を欠く」と述べる。コピーで得た能力は応用が利きにくく、改善の上限が教師モデルに縛られる、という主張だ。

「hill-climbing machine」の中身は何か

以下は技術報告書PDF（microsoft.ai、2026年6月2日版、確認日2026年8月14日）を通読して整理したもの。発表そのものと同時に出た製品ラインナップについてはBuild 2026でのMAI-Thinking-1発表内容で扱っているので、ここでは報告書の中身だけを追う。

報告書は自らの手法を hill-climbing machine（丘登り機械） と名づけ、序論でこう定義している。「データパイプライン、学習インフラ、強化学習の環境と報酬、評価スイート、安全性テストを構築する統合されたプロセスであり、指定された領域におけるモデル開発を経験的な最適化ループへと変えるもの」。成果物は単一のモデルではなく、モデルを改善し続ける仕組みのほうだ、という置き方である。

掲げられている設計原則は3つ。

1. 能力は継承ではなく学習で得る（capabilities should be learned, not inherited）
2. 単純さは持続する（simplicity is sustainable）— 単純でスケールするレシピ、信頼できるデータ、透明なインフラ
3. 科学的厳密さは近道を避ける（scientific rigor avoids shortcuts）— すべての判断はデータ駆動のラダー、アブレーション、評価で検証可能であること

報告書のFigure 12によると、実際の学習フローは4段階だ。

1. 事前学習を終えたベースモデル MAI-Base-1 を出発点にする
2. STEM推論／エージェント型コーディング・ツール利用／有用性と安全性、の3領域で別々の専門家モデル（teacher）をRLで訓練する
3. 3体の専門家モデルをSFT（教師ありファインチューニング）で1体に統合する
4. 統合モデルに軽量なRLを最後にかけて MAI-Thinking-1 とする

自己蒸留を含む反復学習ループの実体はこの③にあたる。3体の専門家が出したロールアウト（推論の軌跡）を教師データにして1体へ蒸留し直す構造で、外部の教師モデルは登場しない。

事前学習に何をどれだけ食わせたのか

報告書のTable 6が学習3フェーズの内訳を出している。

中間学習の合計は3.55兆トークン。段階的にコンテキスト長を伸ばし、最終的に256K（262,144）に到達させる設計になっている。中間学習ではSTEM・数学・コーディングを重点的に配合し、後段のRLの土台を作る、と報告書は説明している。

データ源とその知識カットオフはTable 4に記載がある。

「人間が書いたデータのみ」の根拠として報告書が挙げているのは、次の3点である。事前学習では言語モデルが生成した合成データを使わないこと。収集済みデータの中に混ざったAI生成コンテンツも除去に努めること。そしてオープンソースの学習用データセットを一切使わず、huggingface.co のような機械学習リポジトリをWebデータから除外していること。Webクローラーは robots.txt を尊重し、米国通商代表部（USTR）のNotorious Marketsリスト掲載サイトは除外する、とも書かれている。

重複除去は複数段構えだ。定型文（ヘッダー・ナビ・フッター等）の除去、バイト単位の完全一致除去、MinHash LSHによる類似度0.8閾値のファジー重複除去、テンプレート生成ページのスケルトン化による一括除去、そして埋め込みモデルによる意味的重複クラスタの間引き。報告書は、大きく疎なモデルほど記憶（memorization）に傾きやすく、ユニークなトークン数が減ると予測可能なスケーリングが崩れる、と重複除去を重視する理由を述べている。

アーキテクチャの実数

Table 1に載っているMAI-Base-1の構成は次の通り。

要旨で「35B active / 1T total」と丸められている数値の実体はこの34.7B／962Bである。

注意機構はGemma 3方式で、局所注意5層に対して大域注意1層を周期的に挟む。局所注意はRoPE（スライディングウィンドウ512、基底周波数10,000）を使い、大域注意には位置エンコーディングを一切使わない（RoPEと同等の性能でより効率的、というのが報告書の理由付け）。フィードフォワード側は高スパースなMoE層とスパース性ゼロの密なFFNを交互に並べる構成で、報告書は「全層をMoEにする配置は共有エキスパートに強く依存するが、交互配置に共有エキスパートを足しても効果はほとんど無い」と観測を述べている。局所/大域の混合はAttention計算量を抑える手法の一つだが、二次スケーリングそのものを線形に置き換えたと主張するスタートアップも別途現れている。詳細はスタートアップSubquadratic、Transformerの二次スケーリング問題を『突破した』と主張を参照。

学習ハイパーパラメータで報告書が「一般的ではない」と自ら断っているものが2つある。ひとつはドロップアウト0.15で、事前学習でこの値を使うのは自分たちの知る限り標準的な実践ではないが、weight decayと補完的な正則化として働きスケーリングラダー上の評価が改善した、としている。もうひとつは学習率の減衰幅で、ピーク2×10⁻⁴から最小2×10⁻⁵へと最終／ピーク比0.1倍で止めている。よくある0.01倍まで下げないのは、そのほうがRL後の成績が良かったからだと明記している。

RLと検証パイプラインはどう組まれているか

RLの土台はGRPO（Group Relative Policy Optimization）で、報告書はそこに2つの改変を加えたと書いている。

• 適応的エントロピー制御：クリッピングの上限を積分制御器で動的に動かし、方策のエントロピーを目標値に保つ。上限が大きすぎるとエントロピーが発散し、小さすぎると崩壊するため、明示的なエントロピーボーナス項より安定したという
• 外側の比率クリップ：GRPOが意図的にクリップしていない2つの分岐が、勾配ノルムの急激な跳ね上がりを起こすことがあった。全分岐に効く硬いクリップを追加した

報酬は3項の和で設計されている。タスク固有の報酬、英語一貫性の報酬、そして長さペナルティだ。英語一貫性を入れたのは、コンテキストが伸びると思考連鎖（CoT）に外国語トークンが混ざり始め、それが学習側と推論側の対数確率の乖離スパイクと相関して学習を不安定にしたためだと説明されている。長さペナルティは問題の正答率で重み付けされており、正答率の低い難問ほどペナルティが弱く、長い推論を許す設計になっている。

ロールアウト長は最初8kトークンで頭打ちにし、学習が進むにつれて2の冪で伸ばして最終的に128kまで拡張する。性能が低い段階で長い推論を出させても推論コストの無駄になる、という理由が書かれている。

自己蒸留は、この長丁場のRLを現実的にするための道具として位置づけられている。RL中に生成されたロールアウトを集め、中間学習済みチェックポイントに対してSFTをかけ、そこからRLを再開する。報告書が挙げる用途は4つ。生の指示文プロンプトから自社のチャット形式へ移行させること。学習と推論の数値差が蓄積して崩壊した実行から進捗を持ち越すこと（崩壊の何ステップも前から不安定性がパラメータに埋まっているため、単なるチェックポイント巻き戻しでは足りない）。新しい事前学習・中間学習チェックポイントが出たとき前世代の進捗を引き継ぐこと。そして報酬ハッキングを示すサンプルを弾くこと。

自己蒸留についてのアブレーション結果として、報告書は次を挙げている。

• 教師の性能に追いつくには O(1M)（百万本オーダー）の推論トレースで足りる。それ以上増やしても効果は逓減し、方策の出力分布を狭めてRL再開後の探索余地を奪う懸念がある
• 最終チェックポイントだけからトレースを採ると、再開後の性能が弱くなる。複数の強いチェックポイントにまたがって採ったほうが多様性が出て良い
• 固定のトークン予算では、1プロンプトあたりのトレース本数を増やすよりプロンプトの多様性を増やすほうが価値が高い
• 短いトレース優先などの偏った選択より、単純なランダムサンプリングのほうが良かった

RL基盤は社内製の非同期分散フレームワーク Rocket（学習側はYOLO、推論側はSGLang）。学習側と推論側でカーネルもスケジューリングも並列化戦略も違うため、トークンごとのわずかな対数確率のズレが長いロールアウトで積み上がり、重要度サンプリングの補正を壊す。対策として両側ともbf16に揃えたと書かれている。

検証データはどう作ったか

STEM側では、すべてのRLデータが「問題と正解の組」か「問題とテストケース群の組」のいずれかで、報酬は形式検証器（SymPy）、AI審判、またはコードを実際にテストにかける実行のいずれかで出す。長文PDFや教科書から組を抽出するパイプラインは4フェーズ構成だ。

1. 階層的パース：OCR、定型文除去、階層構造の構築と破損した相互参照の修復、LLMによる問題／解答スパンのマーキング
2. QAペアリング：章末問題と巻末解答のように離れた場所にある問題と解答を、構造的手がかりと意味的類似で候補を絞り、LLMが最適な対応を選んで検証する
3. キュレーション：検証可能性・問題種別・トピック分類・PII検出・解答漏洩（問題文に答えが入っている）の各分類で選別し、選択式と証明問題は自由記述形式に書き換える。選択式は当てずっぽうで当たるため報酬信号として信頼できない、証明問題は強いAI審判なしでは直接検証が難しい、というのが書き換えの理由。書き換えは3回実行して合議し、合議に達しないものは破棄する。なお報告書のFigure 16によれば、モデルが選択式の形式に慣れ続けられるよう、選択式問題の一部はあえて書き換えずに残している
4. スコアリング：4段階の能力ティアのモデルに各問題をk回解かせて難易度帯に分ける。さらにブラインド採点で、最上位ティアの正答率が低い問題について、そのモデルの合議解答と登録済み正解を順不同で審判に見せる。審判が合議解答のほうを選んだ問題は「正解が怪しい」として破棄し、正解のほうを選んだ問題は「本当に難しい問題」として残す

このパイプラインが吐いた STEM Mix は500万サンプル超で、うち最難関部分が55万組超。競技プログラミングは別パイプラインで、16万問・17言語（Python、C++、C#、Java、JavaScript、Rust、TypeScriptなど）を集め、各問題に参照解答を用意して全テストケースを通ることを確認している。

ソフトウェアエンジニアリング（SWE）環境の構築の工程を見ていく。公開GitHubのプルリクエストを実行可能なRL環境に変換する工程で、通過率が段階ごとに記載されている。

最終的に残った環境は 94,044 個のユニークなリポジトリにまたがる。グレーディング信号は、テスト差分だけを当てた状態（修正前）とコード差分も当てた状態（修正後）でテストを2回走らせ、失敗から成功に転じるテスト（F2P）を課題解決の信号、両方で通り続けるテスト（P2P）を回帰検出の信号として使う。F2Pテストが1つも残らない問題は捨てる。検証では、空のパッチではグレーダーが落ちること、正解パッチでは通ることを複数回試行で確認し、実行結果が非決定的な環境も除外している。

報酬ハッキング対策として、報告書は実際に観測した3類型と、それぞれの潰し方を書いている。

• インターネット検索：環境の元になったPR（＝正解）は検索すれば出てくる。サンドボックスのネットワークを遮断するか、必要最小限のドメインだけ許可する
• ローカルgit履歴の探索：エージェントがコミットログから解決コミットを探しに行く。gitごと消すのはスキルとして必要なので不可。ベースコミット以降のコミット・参照・ブランチを削り、リポジトリを「時間を巻き戻した」状態にする
• テストの改竄：採点前にエージェントが触ったテストファイルを全て復元し、テスト差分は推論中は隠して採点時にだけ当てる。ただし報告書は、テストフレームワークのモンキーパッチや等価判定の書き換えといった経路は「単純なリセットや隠蔽では防ぎきれない」と残存リスクを認めている

汎用ツール利用の環境は、モックしたバックエンドとシード済みデータベースで作られ、1環境あたり50を超えるツールを持つものも多い。合計で150環境超・13万タスクを合成したと記載されている。

報告書が載せたベンチマーク表

Table 11のSTEM・エージェント型コーディング（数値は%、「—」は該当モデルが公表していないもの）。

Table 12の一般能力（Sonnet 4.6の数値はMAI自身の評価スイートで測定したもの）。

MAI-Thinking-1側の数値はいずれも温度1.0・top-p 0.97で4回実行した平均、と明記されている。

人手による対面比較（human side-by-side）は、英語のみ1,276タスク・うち30%がマルチターンで実施された。プロンプトは専門家が書いたものと、Microsoftの一般向けCopilotのログ（PII等を除外してから層化抽出）の2系統。評価者はSurge AI経由の英語ネイティブで、指示追従・事実性・簡潔さと関連性・網羅性・文体の5次元を個別に見たうえで7段階の総合選好を付ける。

次元別に見ると、Sonnet 4.6に対して優位だったのは簡潔さと関連性（+0.11）および文体（+0.08）で、指示追従・事実性・網羅性は誤差の範囲だった。

報告書自身の限界表明と確認できなかったこと

報告書自身が認めている限界と、こちらで確認できなかった点を分けて書く。

報告書が自ら書いていること

• 総評として「分野を先導してはいない（it does not lead the field）が、幅広いカテゴリで一貫して強い性能を出す」と書いている。報告書が挙げる具体例は「AIME 2025でSonnet 4.6を上回る」「SWE-Bench ProでOpus 4.6に迫る」の2点で、Opus 4.6を上回ったとは書いていない。表の数値も、AIME 2025でSonnet 4.6を上回る一方Opus 4.6には及ばず、他の多くの項目でも他社モデルを下回る
• Terminal-Bench 2.0の46.0について、SWEの学習データが bash と文字列置換の2ツールしか使っておらず、ターミナル操作に特化した環境で訓練していないため、この数値は「広いエージェント訓練からの汎化を反映したもの」だと説明している。加えて、推論速度とインフラの交絡を除くため評価時に既定のタイムアウトを無視したとも明記している
• Table 11の他社数値は各社の公式モデルカードや発表からの転記で、MAIが再実行したものではない。一方Table 12のSonnet 4.6の数値はMAI自身の評価スイートで測ったもので、両者は測り方が違う
• 学習データの提供元は非公開。「プライバシー、法務、安全、競争上の理由から、データセットや提供元の完全なリストは開示しない」と明記している
• 「合成データ不使用」は事前学習に限った話である。RL段階では、品質検査に落ちた実行可能環境を再利用した合成SWE問題や、150超の合成ツール利用環境を積極的に使っている。またHTML抽出の一部でLLMを使うが、報告書は「LLMは元テキストを残すか削除するかを選ぶだけで、合成コンテンツを追加することはできない」と条件を付けている
• 意味的重複の検出には他社のオープンウェイトモデル Qwen3-Embedding-0.6B を、トークナイザーにはOpenAIの o200k_base（語彙数200,019）を使っている。「他社モデルからの蒸留なし」はモデルの能力を継承していないという主張であって、他社製の部品を一切使っていないという意味ではない
• テスト改竄対策について、テストフレームワークのモンキーパッチなど「単純なリセットや隠蔽では防ぎきれない」経路が残っていると認めている

この記事で確認できなかったこと

• 第三者による独立した再現や独立ベンチマークの結果は、この報告書の中には無い。「蒸留なし」もMAI自身の申告であり、外部から検証する手段は現時点で見当たらない
• 学習にかかった金額は報告書に記載が無い。書かれているのは使用GPU（事前学習8K基のGB200、RL climbは4.6K基のGB300）と、事前学習でgoodput 90.0%・総オーバーヘッド51時間という運用指標まで
• 人手評価は英語のみで、日本語を含む多言語での対面比較は載っていない
• 重みの公開可否について、報告書本文には記述が見当たらなかった

この報告書が示した意味

学習済みの重みや訓練データ自体は非公開で、「作り方の構造」が公開された段階。とはいえ、フルスクラッチでフロンティア級を作れることを示した意義は大きい。MicrosoftがOpenAIとは独立した開発ラインを持つことの証明でもある。

更新履歴

• 2026-08-14: 「正直な但し書き」章の「AIME 2025以外の多くの項目で他社モデルを下回る」という記述を修正。報告書原文（§4.1）が述べているのは「AIME 2025でSonnet 4.6を上回った」ことのみで、Table 11ではAIME 2025でもOpus 4.6（99.8）には及ばない。「AIME 2025でSonnet 4.6を上回る一方Opus 4.6には及ばず、他の多くの項目でも他社モデルを下回る」に修正した。あわせて、報告書に無い文言を鉤括弧で引用のように見せていた「自己蒸留を含む反復学習ループ」の鉤括弧を除去。出典に根拠のない主観的な最上級表現（SWE環境構築が「報告書の中で数字が最も細かく出ている箇所」）を削除。選択式・証明問題の自由記述化について、証明問題側の理由（強いAI審判なしでは直接検証が難しい）とFigure 16の注記（形式慣れのため選択式の一部を意図的に残す）を追記