2026年9月4日 金曜日
AI時短ラボ
研究· 約14

GLM-5.3-Flashが採用した『mHC』はDeepSeekが8か月前に発表していた技術だった

Z.aiがGLM-5.3-Flashの新機能として発表した「Manifold-Constrained Hyper-Connections(mHC)」は、arXiv論文を著者名から突き合わせると、DeepSeek創業者Wenfeng Liang氏を含むチームが2025年12月31日に発表し、自社のDeepSeek-V4(2026年4月公開)に先行実装していた技術だった。GitHub・arXiv・Hugging Faceの一次情報だけで、この技術系譜を追う。

GLM-5.3-Flashが採用した『mHC』はDeepSeekが8か月前に発表していた技術だった
執筆・編集:
目次

Z.aiが2026年8月26日に公開したGLM-5.3-Flashは、新しい設計要素として「Manifold-Constrained Hyper-Connections(mHC)」というアーキテクチャ手法を採用したと発表した。だが、arXivの著者名を実際に突き合わせると、この手法自体はDeepSeekの研究チームが2025年12月31日に発表した論文が出所であり、DeepSeek自身は2026年4月公開のDeepSeek-V4に、GLM-5.3-Flashより4か月早くこの手法を組み込んでいたことが確認できる。

3行まとめ

  • mHCの原論文「mHC: Manifold-Constrained Hyper-Connections」(arXiv:2512.24880)は2025年12月31日提出。著者20名の中にDeepSeek創業者Wenfeng Liang氏の名前がある
  • DeepSeek-V4の論文アブストラクトには「(2) Manifold-Constrained Hyper-Connections (mHC) that enhance conventional residual connections」と明記されており、2026年4月時点で自社モデルに実装済みだった
  • GLM-5.3-Flashがこの手法を採用したのは2026年8月26日(transformers v5.16.1のリリースノートより)。原論文の公開から約8か月後にあたる

GLM-5.3-Flash側の発表内容

huggingface/transformersのv5.16.1リリースノート本文には、GLM-5.3-Flashについてこう書かれている。

The model also adopts Manifold-Constrained Hyper-Connections (mHC) to further improve scaling efficiency. Together with our latest 30T-token multimodal pre-training corpus, these changes enable GLM-5.3-Flash to deliver more intelligence with less compute.

(このモデルはさらにスケーリング効率を向上させるため、Manifold-Constrained Hyper-Connections(mHC)も採用している。最新の30兆トークンのマルチモーダル事前学習コーパスと合わせて、これらの変更によりGLM-5.3-Flashはより少ない計算量でより高い知能を実現している)

このリリースノート本文には、mHCがどこで最初に提案された手法かについての言及は一切ない。Z.ai側の発表を読む限り、mHCはGLM-5.3-Flashの新機能の1つとして語られている。

arXivを遡ると著者にDeepSeek創業者の名前がある

mHCという名称そのものの原典を探すため、arXivを「Manifold-Constrained Hyper-Connections」というフレーズで検索すると、2025年12月31日提出の論文「mHC: Manifold-Constrained Hyper-Connections」(arXiv:2512.24880)がヒットする。アブストラクトはこう始まる。

Recently, studies exemplified by Hyper-Connections (HC) have extended the ubiquitous residual connection paradigm […] To address these challenges, we propose Manifold-Constrained Hyper-Connections (mHC), a general framework that projects the residual connection space of HC onto a specific manifold to restore the identity mapping property, while incorporating rigorous infrastructure optimization to ensure efficiency.

(近年、Hyper-Connections(HC)に代表される研究は、広く使われる残差接続のパラダイムを拡張してきた。〔中略〕これらの課題に対処するため、私たちはManifold-Constrained Hyper-Connections(mHC)を提案する。これはHCの残差接続空間を特定の多様体へ射影することで恒等写像の性質を回復しつつ、効率を確保するための厳密なインフラ最適化を組み込んだ一般的なフレームワークだ)

この論文の著者リストには20名が名を連ねているが、その中に「Wenfeng Liang」——DeepSeekの創業者であり、DeepSeek LLM・DeepSeekMoE・DeepSeek-Coder・DeepSeek-V2・V3・R1・V3.2・V4という同社の主要論文すべてに共著者として名を連ねてきた人物——が含まれている。arXiv APIで同氏の直近の論文リストを時系列で確認すると、次の順序になっていた。

公開日 タイトル
2026-07-06 DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation
2026-04-26 DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence
2026-01-12 Conditional Memory via Scalable Lookup
2025-12-31 mHC: Manifold-Constrained Hyper-Connections
2025-12-02 DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models

mHCの論文は、DeepSeek-V3.2(2025年12月2日)とDeepSeek-V4(2026年4月26日)のちょうど間、同氏の論文リストの時系列に自然に収まる位置にある。

DeepSeek-V4は実際にmHCを実装していた

さらに、DeepSeek-V4自体の論文アブストラクトを確認すると、mHCがこの原論文の発表だけで終わらず、実際に自社モデルへ実装されていたことが分かる。

DeepSeek-V4 series incorporate several key upgrades in architecture and optimization: (1) a hybrid attention architecture that combines Compressed Sparse Attention (CSA) and Heavily Compressed Attention (HCA) to improve long-context efficiency; (2) Manifold-Constrained Hyper-Connections (mHC) that enhance conventional residual connections; (3) and the Muon optimizer for faster convergence and greater training stability.

(DeepSeek-V4シリーズは、アーキテクチャと最適化においていくつかの重要なアップグレードを組み込んでいる。(1) 長文コンテキストの効率を改善するCompressed Sparse Attention(CSA)とHeavily Compressed Attention(HCA)を組み合わせたハイブリッドアテンションアーキテクチャ。(2) 従来の残差接続を強化するManifold-Constrained Hyper-Connections(mHC)。(3) より速い収束とより高い学習安定性のためのMuonオプティマイザ)

つまり、mHCは「DeepSeekの研究チームが提案し、DeepSeek自身が2026年4月公開のDeepSeek-V4で実際に使い、その4か月後にGLM-5.3-Flashが採用した」という技術系譜として、公開されている論文アブストラクトだけから再構成できる。

「mHC」はDeepSeek1社の専有技術ではなくなっている

ただし、この技術系譜は単純な「先発DeepSeek・後発GLM」という二項対立には収まらない。同じ「Manifold-Constrained Hyper-Connections」というフレーズでarXivを検索すると、2026年に入ってから他の研究グループによる派生・応用論文が複数見つかる。「Manifold-Constrained Hyper-Connections for Parameter-Efficient Finetuning」(2026年7月20日、著者はOldenburg氏ら)、「Beyond Residual Connections: Manifold-Constrained Hyper-Connections for Robust Speaker Representation Learning」(2026年8月6日、話者認識への応用)、「KromHC」「TBP-mHC」「mHC-GNN」「mHC-lite」といった変種を提案する論文群も存在する。原論文の発表から半年余りで、mHCは特定企業の専有技術というより、Transformer系アーキテクチャ研究の1つの共通手法として、複数の研究グループに広がっていたことがうかがえる。

GLM側より3か月早く、個人がmHCの変種を検証していたHugging Faceリポジトリ

Hugging Faceには、「dungnv」というユーザー名の個人アカウントが公開した「mHC-manifold-constrained-hyper-connections」というリポジトリがある。Hugging Face APIで確認すると、このリポジトリの最終更新日時は2026年5月19日で、GLM-5.3-Flashの公式発表(8月26日)より約3か月早い。

このリポジトリには文章による説明(README)は含まれておらず、examples/nanogpt/以下に、out-fineweb10B-hc-48l(Hyper-Connections、48層)、out-fineweb10B-mhc(mHC)、out-fineweb10B-mhc-ortho-48l(mHCの直交版)、out-fineweb10B-vres-48l(別の残差接続バリアント、48層)といった、条件ごとに名付けられたチェックポイントファイルだけが並んでいる。これは、nanoGPTスケールの実験でHyper-Connections・mHC・mHCの直交版・別バリアントを比較する個人研究が、GLM-5.3-Flashの公式発表より早く、公開状態で存在していたことを示す一次的な痕跡だ。ただし、このリポジトリには解説文が一切なく、実験の結論や考察を読み取ることはできない。

dungnvリポジトリの実験結果までは読み解けなかった

この記事は、GitHub(huggingface/transformersのリリースノート)・arXiv(論文アブストラクトと著者の時系列一覧)・Hugging Face(dungnvリポジトリのメタデータ)という3つの一次情報のみを組み合わせて構成している。DeepSeekの論文著者リストにWenfeng Liang氏の名前があることは確認したが、これは「DeepSeek社としての公式プロジェクト」であることの直接証明ではなく、同氏が個人としてこの研究に関わったことを示すにとどまる(もっとも、同氏が同社の全主要論文に一貫して名を連ねてきたことを踏まえれば、DeepSeek社の研究活動の一環と見るのが自然な解釈ではある)。

Z.ai側が、GLM-5.3-Flashの設計にあたってDeepSeekの原論文を参照した、あるいは影響を受けたと明言した発言は、本記事の確認範囲では見つかっていない。技術手法がオープンな論文として公開された以上、他社がそれを独自に採用すること自体は研究コミュニティの通常の営みであり、本記事はこれを「模倣」や「盗用」といった評価をする立場は取らない。単に、GLM-5.3-Flashの発表文だけを読んでいては見えない技術の系譜を、公開されている一次情報から再構成して示すことが本記事の狙いだ。

dungnvリポジトリの実験結果(どの設定が最も性能が良かったか等)は、README等の解説が存在しないため本記事では紹介できていない。この記事を書いている自分自身は機械学習アーキテクチャの研究者ではなく、mHCという手法自体の技術的な優劣を評価する専門性は持ち合わせていない。

関連記事: Z.aiがGLM-5.3-Flashを公開 / z.aiがGLM-5.3を公開

感想・指摘はコメント欄へ。

シェア: ポスト はてブ

出典・参照資料

AIニュースの解説を動画でも

YouTubeでは注目ニュースの背景を解説し、Xでは新着記事をお知らせしています。

コメント

まだコメントはありません。最初のコメントを書いてみませんか?

AIについて聞きたいことはありますか?

質問箱で無料で受け付けています。回答は公開され、他の方の参考にもなります。

質問箱を見る →

新しい記事をメールで受け取る

AIの新しい発表を、出典付きで整理して届けます。

関連記事

「JIT-Agent」とは何か──harnessそのものを「その場で生成するモデル」に育てるという発想の記事画像
研究09.02読了14

「JIT-Agent」とは何か──harnessそのものを「その場で生成するモデル」に育てるという発想

出典 ─ JIT-Agent: Scaling Har
覆面AI「Omen Alpha」を課金して測った──公開スペックは実物より小さく、トークナイザはGLMと18対18で一致の記事画像
モデル09.04読了13

覆面AI「Omen Alpha」を課金して測った──公開スペックは実物より小さく、トークナイザはGLMと18対18で一致

出典 ─ OpenCode公式X「Omen Alpha
Z.aiがGLM-5.3-Flashを公開──Opus級に迫って価格は10分の1、覆面モデルOx Alphaの正体だったの記事画像
モデル08.26読了8

Z.aiがGLM-5.3-Flashを公開──Opus級に迫って価格は10分の1、覆面モデルOx Alphaの正体だった

出典 ─ Z.ai公式ブログ: GLM-5.3-Fla
正体不明のAI「Ox Alpha」が無料で突然現れた──tokenizerの「指紋」が指す先はGLM次世代かの記事画像
モデル08.21読了13

正体不明のAI「Ox Alpha」が無料で突然現れた──tokenizerの「指紋」が指す先はGLM次世代か

出典 ─ OpenCode公式X(Ox Alpha無料
モデルの重みを変えずにTerminal-Bench 2.1の正答率を9ポイント上げる──StateMがDeepSeek-V4 Flashで再現した392/445のログを開けたの記事画像
研究09.04読了12

モデルの重みを変えずにTerminal-Bench 2.1の正答率を9ポイント上げる──StateMがDeepSeek-V4 Flashで再現した392/445のログを開けた

出典 ─ Terminal-Bench 2.1 artifacts(GitHub Release)
エージェントの記憶は『覚えている』だけでは足りない──「State Tracking」という新しい評価軸とStateMemBenchの記事画像
研究08.27読了6

エージェントの記憶は『覚えている』だけでは足りない──「State Tracking」という新しい評価軸とStateMemBench

出典 ─ Can Agent Memory Syste
PEFTライブラリに3つの新しいLoRA派生手法──HiRA・GLoRA・BEFTを1つずつ読むの記事画像
検証09.02読了14

PEFTライブラリに3つの新しいLoRA派生手法──HiRA・GLoRA・BEFTを1つずつ読む

出典 ─ huggingface/peft v0.20
Hugging Face TRLの知識蒸留が本採用に──約30PRの改修を経て安定版へ、複数教師の非同期蒸留も追加の記事画像
検証09.02読了14

Hugging Face TRLの知識蒸留が本採用に──約30PRの改修を経て安定版へ、複数教師の非同期蒸留も追加

出典 ─ huggingface/trl v1.10.