2026年7月27日 月曜日
AI時短ラボ
モデル· 約16

Kimi K3の重みが公開された──1.56TBの中身を開けて、公称スペックを全部数え直した

Moonshot AIが2026年7月27日、Kimi K3のモデル重みと47ページの技術レポートを公開しました。重み本体は1.56TB・96ファイル。ダウンロードせずにHTTP Rangeで索引だけを取得し、公称の2.78兆パラメータ・活性約1000億・93層をすべて検算して一致を確認しました。あわせて、技術レポートに書かれていた「AnthropicとOpenAIのモデルは課題を拒否するので比較評価が成立しない」という一文と、謝辞の最後の一行についても取り上げます。

Kimi K3の重みが公開された──1.56TBの中身を開けて、公称スペックを全部数え直した
執筆・編集:
目次

Moonshot AIが2026年7月27日(日本時間7月28日未明)、Kimi K3のモデル重みと47ページの技術レポートを公開しました。7月17日の正式発表時に「重みは7月27日までに公開する」と予告されていたもので、期限内での公開となりました。

重み本体は1.56TB・96ファイル。これをダウンロードせずに中身を確認する方法があります。safetensorsという形式は各ファイルの先頭にテンソルの索引(名前・型・形)が入っているので、HTTPのRangeリクエストで先頭部分だけを取得すれば設計図が読めます。96ファイル分の索引を取得して集計したところ、公称スペックはすべて一致しました。

動画版も公開しています(20分・図解あり): Kimi K3の中身を全部確認してきた

3行まとめ ・重み1.56TBの索引だけをRangeリクエストで取得(本体は1バイトも落とさず・取得量72MB=全体の0.005%) ・テンソル総数497,220個。ただし層とエキスパートの番号を正規化すると、ユニークな構造は60種類だけ ・技術レポートに「AnthropicとOpenAIのモデルはサイバー関連の課題を拒否するので、比較評価が成立しない」と明記

公開されたもの

項目 内容
モデル重み 1,560,860,324,864バイト(約1.56TB)・96ファイル
技術レポート 47ページ(GitHub上でPDF公開)
技術ブログ kimi.com/blog/kimi-k3
ライセンス Kimi K3 License(K2のmodified MITとは別の独自ライセンス)
公開日時 2026年7月27日 16:29 UTC(日本時間7月28日 01:29)
周辺OSS MoonEP(分散学習)/ AgentENV(サンドボックス)/ MiniTriton / nano-kpu

Hugging Faceのリポジトリ自体は6月13日に作成されており、公開までの約1か月半は空の状態で置かれていたことになります。

索引から数え直した公称スペック

公開された重みの索引を集計した結果と、技術レポートTable 1の公称値の対応です。

項目 索引からの実測 公称値 一致
総パラメータ 2,779,931,837,184(2.78兆) 2.78T
活性パラメータ 約1,058億 104.2B ほぼ一致※
層数 93 93
注意層の構成 KDA 69層 + MLA 24層 69 KDA + 24 MLA
視覚エンコーダ 401,214,464(401M) 401M

※活性パラメータの差は、埋め込み層などを数に含めるかどうかの違いと見られますが、断定はできません。

テンソルの総数は497,220個でした。このうち494,592個(99.5%)がルーテッドエキスパートの部品で、これは「92層 × 896エキスパート × 6テンソル」の計算とぴったり一致します。

興味深いのはここからで、層番号とエキスパート番号を正規化して数え直すと、ユニークな構造は60種類しかありません。1種類あたり平均8,287回、同じ形の部品が繰り返されている計算になります。2.8兆という数字は、構造の複雑さではなく繰り返しの回数によるものだ、という見方ができます。

論文の数式が、テンソル名として実在する

技術レポートで説明されている機構が、そのままテンソルとして格納されていることも確認できました。

  • Attention Residuals の擬似クエリ(レポート式8): self_attention_res_proj.weight が shape [1, 7168] で、93層すべてに1枚ずつ存在
  • Quantile Balancing のバイアス(式13-14): gate.e_score_correction_bias[896] で、MoE層92層ぶん
  • MXFP4量子化の実体: weight_packedU8 [3072, 1792](4bitを1バイトに2個詰め)、weight_scale[3072, 112](32要素ごとに1つのスケール)

注意層の並び順も確認できました。レポート§2.1は「KDA 3層のあとにGated MLA 1層」という3:1の構成と、「バックボーンの末尾に追加のGated MLA層を置き、最終層が必ず全体注意になるようにした」と書いています。索引を見ると、MLA層の位置は3, 7, 11 …… 91 の4層刻みに加えて、92層目にもう1つ。記述どおりの構造でした。

技術レポートで目を引いた3か所

1. 「拒否するので測定できない」

セキュリティ能力を評価した§6.2.2に、次の一文があります。

Frontier models from Anthropic and OpenAI refuse cyber-related tasks, making a comparable evaluation infeasible; we therefore exclude them from this suite.

(AnthropicとOpenAIのフロンティアモデルはサイバー関連の課題を拒否するため、比較可能な評価が成立しない。よってこのスイートから除外した)

そのうえでK3自身の評価結果として、6つのプロジェクトで16件の未知の脆弱性を発見し、人間のレビューを通過したもののうち約70%が実在の脆弱性だったと報告されています。Linuxカーネルでも2件見つかっており、いずれも過去の修正が不完全で穴が残っていたケースだとされています。

エクスプロイト開発の評価では36課題中14課題(38.9%)を突破。比較対象のGLM-5.2は8課題でした。**この課題群はすべて人間の専門家が解けることを確認済みで、全体で約540専門家時間(1課題あたり平均15時間)**と見積もられています。

英国AI Security InstituteとNIST傘下のCAISIによる合同評価も引用されており、ExploitBenchで32%(GLM-5.2は24%)、32ステップの模擬企業ネットワークで17ステップ進行(人間の専門家で約20時間の作業)。ただし41課題では1件も任意コード実行に到達していないとされています。

なお、この評価の比較相手はGLM-5.2のみです。ClaudeやGPTは測定されていないため、「K3のほうが危険」とも「安全」とも、この評価からは言えません。

2. ベンチマークの1位が、条件を変えると消える

ネット調査能力を測るBrowseCompで、K3は91.2でトップに立っています(GPT-5.6 Solは90.4)。ただし§6.1の脚注に条件が書かれています。

For BrowseComp we adopt a context-compaction strategy triggered at 300K tokens; evaluated with the full 1M-token context window and no context management, Kimi K3 achieves 90.4%.

(BrowseCompでは30万トークンで発動するコンテキスト圧縮戦略を採用した。100万トークンのフルコンテキストでコンテキスト管理なしで評価した場合、Kimi K3は90.4%となる)

1Mコンテキストが売りのモデルが、1Mをそのまま使うとスコアが下がるという構造です。そして圧縮なしの90.4という数字は、レポートがGPT-5.6 Solの値として挙げている90.4と同じ値になります。ただしGPT側がどの条件で測定されたかは公開されていないため、同条件での同点とは言えません。

同様の条件注記は他にもあります。SWE-MarathonでFable 5に7ポイント差をつけている件については、そのFable 5が課題の35%でフォールバックに当たっていたと脚注に書かれています。

3. 謝辞の最後の一行

47ページを読み終えた先の付録Aに、貢献者リストがあります。約400名が姓のアルファベット順に並び、最後は Xinxing Zu でアルファベット順が終わります。

その次に、順番の外にもう1行だけ「Kimi K3」と記載されています。

ケーススタディの章(§7)には、GPUカーネル最適化の事例として「開発の後期には、初期のKimi K3チェックポイントが社内のカーネル最適化作業の大半を担当していた」という記述があります。この2つを並べて読むと、貢献者リストの一行を単なる洒落と読むのは難しくなります。

蒸留疑惑について、レポートには何が書かれているか

7月22日、トランプ政権科学技術政策局長のKratsios氏が「MoonshotがK3開発のためにAnthropic Fable 5を蒸留した」と投稿し、業界から反論が出ていました(詳細は前回記事)。決定打は技術レポート待ちという状況でした。

公開されたレポートで "distillation" が使われているのは、すべて MOPD(Multi-Teacher On-Policy Distillation)の文脈です。 これは、3つのドメイン × 3段階の推論深度で訓練した合計9つの専門家モデルを、1つのモデルに統合する工程を指しています。教師として挙げられているのは自社の専門家モデルであり、Fable 5を教師に使ったという記述はありません。SFTデータについても「prior Kimi series の専門特化モデルで合成した」と書かれています。

ただし、レポートに書かれていないことは「やっていない」の証明にはなりません。訓練データの完全な内訳が開示されているわけではないため、この記述で疑惑が晴れたと結論づけることはできません。判断材料が1つ増えた、という段階です。

実際に動かせるのか

この重みは、個人のPCでは動きません。

1.56TBという数字は保存容量ではなく、GPUのメモリに載せる必要がある量です。単純計算で、ゲーミングPC向けの上位GPUであるRTX 4090(24GB)なら60枚分、データセンター向けのH100(80GB)でも18枚分に相当します。しかも実際の推論には会話履歴(KVキャッシュ)や計算途中のデータを置く領域が別途必要で、技術ブログは64個以上のアクセラレータを積んだスーパーノード構成を推奨しています

さらに、この1.56TBはすでにMXFP4(4bit)まで量子化した後のサイズです。量子化しなければ5.56TB相当になる計算で、これ以上圧縮する余地は大きくありません。

ライセンスも読みました。MITとほぼ同文の全面許諾に加えて、K2にはなかった条項が入っています。モデルを第三者に推論・ファインチューニングとして提供する事業(Model as a Service)で、連続する12か月の売上が2,000万米ドルを超える場合、商用利用の前にMoonshot AIとの個別契約が必要というものです。加えて月間アクティブユーザー1億人超または月商2,000万ドル超の製品では、UIに「Kimi K3」を目立つように表示する義務があります。個人や中小規模の利用者には、事実上かからない閾値です。

つまり、法的にはほぼ自由に使えるのに、物理的には個人の手に余るという状態です。

実際にやったこと(この記事の一次情報)

この記事の数値は、公開された重みから自分で取得・集計したものです。手順は次のとおりです。

  1. Hugging FaceのAPIでファイル一覧を取得(118ファイル、うち96個がsafetensors)
  2. 各safetensorsファイルの先頭8バイトをHTTP Rangeリクエストで取得し、索引JSONの長さを読む
  3. その長さぶんだけ続きを取得し、テンソル名・dtype・shapeを取り出す
  4. 96ファイル分を集計し、shapeからパラメータ数を計算(MXFP4のweight_packedは4bitを1バイトに2個詰めているため2倍して数える)

取得したのは合計72MB、全体の0.005%です。重み本体は1バイトもダウンロードしていません。

念のため書いておくと、ここで読んだのはテンソルの名前・型・形だけで、中に入っている数値そのものは見ていません。分かるのは「どういう部品でできているか」であって、「何を学習したか」ではありません。重みの数値から意味を読み取る研究(解釈可能性)は現在も研究の最前線にあり、部分的にしか成功していません。

正直に書いておくこと

  • 活性パラメータの実測値(約1,058億)は公称104.2Bと1.5%ずれています。 埋め込み層や視覚エンコーダを数に含めるかの違いと考えていますが、確定はしていません。
  • GPUの必要枚数は重みサイズからの単純な割り算です。 実際の運用ではKVキャッシュ・活性値・並列化のオーバーヘッドが加わるため、この枚数で動くという意味ではありません。
  • ベンチマークの数値は、Moonshot自身が測定した値と第三者機関からの引用値が混在しています。 社内ベンチマークについてはK3が自社ハーネス(Kimi Code)で、他社モデルはClaude CodeやCodexで評価されており、条件は完全には揃っていません。
  • セキュリティ評価の比較相手はGLM-5.2のみです。 繰り返しになりますが、ClaudeやGPTとの比較はこの評価からはできません。
  • チップ設計の事例はRTLシミュレーション段階で、レポート自身が「初期の概念実証」と明記しています。実機は製造されていません。

関連記事

技術レポートは47ページ、重みは1.56TB。どちらも通読する人は多くないと思いますが、公開されている以上、書いてあることが本当かどうかは誰でも確かめられます。この記事の数字も、同じ手順で再現できます。

シェア: ポスト はてブ

出典・参照資料

YouTubeで見る ↗

AIニュースの解説を動画でも

YouTubeでは注目ニュースの背景を解説し、Xでは新着記事をお知らせしています。

コメント

まだコメントはありません。最初のコメントを書いてみませんか?

AIについて聞きたいことはありますか?

質問箱で無料で受け付けています。回答は公開され、他の方の参考にもなります。

質問箱を見る →

関連記事