748Bのモデルなのに動くのは1B──MindLabのMacaron-V1-Ventiが採るMixture-of-LoRA構成を、公開モデルカードで読む

3行まとめ

1. Macaron-V1-Ventiは、744BパラメータのGLM-5.2ベースモデルの上に、Chat・Agent・Coding・GenUIそれぞれ専門の1B級LoRAアダプタを4つ載せた「Mixture of LoRA（MoL）」構成のモデル。モデルカードは「748Bはリリース向けのラベルで、実際にアダプタのテンソル形状を足し合わせると1アダプタあたり7,688,042,496の格納値、4アダプタ合計で約308億、全体で約7,748億の論理格納パラメータになる」と、数字の出し方まで注記している。
2. 実運用時は「ルーティング（L0が24トークンの制約付き復号で振り分け）→回答（選ばれた専門家が生成）→要約（192トークン上限で他の専門家に引き継ぐ）」という3ホップのループが走る。モデルカードの計測では平均4.68秒（うちルーティングと要約が合わせて全体の32%）、ルーティング精度は6,391/6,448（99.12%）。
3. モデルカードは「Limitations」節を独立見出しで7項目立て、「1回のスナップショットに過ぎず、世代を跨いだ改善の複利効果は測定していない」「BFCL v4のステートフルAPIでは離散的な関数呼び出しの54.0%に対し49.5%にとどまる」といった弱点を自己申告している。

Mixture of LoRA（MoL）という構成

Macaron-V1-VentiはMindLab Researchが公開している、パーソナル・インテリジェンス（個人向けAIアシスタント）・ツール利用・コーディング・コードネイティブなGenerative UI向けのモデルで、Macaron-V1ファミリーのフラッグシップと位置づけられている。モデルカードによれば、アーキテクチャは「GLM-5.2の上に構築したMixture of LoRA（MoL）」で、744BパラメータのベースモデルGLM-5.2に、4つの1Bパラメータ級LoRA専門家（specialist）を組み合わせる。

実行時は、L0が新しい各ユーザーリクエストを最も適した専門家にルーティングし、選ばれたLoRA内で推論とツールのやり取りが続き、完了した作業は簡潔な要約を通じて専門家間で共有される、とモデルカードは説明している。

Macaron-V1-Ventiは前身のMacaron-V1-Previewの流れを汲みつつ、ベースをGLM-5.2に移した最初のモデルでもある。モデルカードは「GLM-5.2でポストトレーニングされた最初のモデル」と明記している。

ルーティングの実測値

モデルカードは、各ユーザーターンが「ルート（L0が24トークンの制約付き復号でカノニカルなアダプタラベルを出す）→回答（選ばれた専門家が答える）→要約（192トークン上限の要約をProxyがサーバー側で保持する）」という3ホップのループを回ると説明している。48件のマルチターン混合ドメインリクエスト（温度0）で計測した数値は次の通り。

ルーティングとその後の要約を合わせると、専門家自身の生成にかかる時間の上に約32%が追加でかかる計算になる。ルーティング精度は6,391/6,448（99.12%）で、カノニカルラベルの遵守率100%、リクエストエラーやパースエラーはゼロ。クラス別の精度は最低でL1（Agent）の97.1%から最高でL2（Coding）の100%まで幅があり、モデルカードは「このトレースはLoRA訓練データから抽出したもので、独立したholdout分割ではない。実装上の診断値であり、ルーティングの汎化性能を推定するものではない」と自ら限定を付けている。

他モデルとの比較表

モデルカードは、GLM-5.2・GPT-5.5・Claude Opus 4.8・Gemini 3.1 Pro・Qwen 3.7 Max・Minimax M3と並べた12ベンチマークの比較表を公開している。抜粋すると次の通り（0〜100スケール、*はモデルカード自身が「他の公開リーダーボードやモデルレポートからの参考値」と注記している値）。

モデルカード自身が「行ごとに指標とプロトコルが異なるため、この表は集約したモデルランキングを定義しない」と明記しており、単純な「何位」という読み方を戒めている。評価に使うジャッジや実行環境も行ごとにばらばらで、たとえばChatBenchは自社デプロイのGLM-5.2、LivingBenchはKimi K2.6（ユーザーシミュレータ）＋Gemini 3.1 Pro（環境エージェント）＋Claude Opus 4.6（ジャッジ）、PinchBenchはClaude Haiku 4.5がジャッジでPerplexity検索APIを使う、TerminalBench 2.1はHarborフレームワーク＋Claude Code Agent Harnessで4時間タイムアウト、といった具合に異なるプロトコルが使われている。

ハードウェア要件とNoAI境界

モデルカードによれば、MoL構成はベースを1つ常駐させ専門家をランタイムのアダプタとして公開するため、格納パラメータは約7,748億で済み、各専門家をベースごと複製するレイアウト（約2兆9,760億）の約26.0%にあたる。B300 GPU 8枚・DCP8・EAGLE有効の構成では平均TPOT 8.6ミリ秒・並行度1で110トークン/秒、並行度16で18.0ミリ秒・757トークン/秒という数値も公開されている。

Safety節では、UI4Aのアクション契約に「モデルに見せてはいけないフィールド」を指定するNoAIという可視性境界があり、機微なデータに対してはプロンプトレベルの指示に頼るのではなくこれを使うべきだ、とモデルカードは明記している。同時に「本リリースには独立した安全性・レッドチーム評価は含まれていない」とも明記されている。

正直章──モデルカード自身が挙げる7つの限界

MindLab自身がモデルカードの「Limitations」節に独立見出しで挙げている項目を、要約せずにそのまま紹介する。

• 1回のスナップショットであり、学習曲線を示したものではない: 再帰的な自己改善ループの単一スナップショットであり、単独では「世代を跨いだ複利的な改善」と「1回分の自己生成データによる訓練」を区別できない
• 集合知能（collective intelligence）の証拠が無い: MoLは異なるチームやユーザーがトレーニングした専門家を同じベースの上で組み合わせられる設計だが、本リリースは同梱の4専門家しか評価しておらず、複数の所有者にまたがるアダプタの組み合わせは未検証
• 1ターンにつき1つの意図しか扱えない: 複数の意図を含むメッセージは1つの専門家にルーティングされ、会話が後のターンにまたがる形で処理される。複数意図の分解は探索段階で本番未投入
• ステートフルなobserve-before-commit APIが弱点: BFCL v4（200タスク）で、REPL基盤は離散的な関数呼び出しの54.0%に対し49.5%にとどまる
• 長セッションでのキャラクター安定性: 複数の選好ドリフトが起きた非常に長いセッションで、定性的な劣化が観測されている（定量測定はしていない）
• コンポーネント単位の要因分解ができない: 報告された改善が専門化・ルーティング・ハーネスのどれに由来するかは、本リリースのどの対照実験でも解決されていない
• 再現性の境界: 報告された実行結果を再現できるのは、アダプタのリビジョンと互換ベースを対応するハーネス設定・タスクバンクのバージョン・評価器・サンプリング設定と組み合わせた場合のみ

モデルカードの裏にある技術レポートと公開コード

モデルカードのYAMLメタデータのタグにはarxiv:2608.09819という記載があり、これが実際にどの論文を指すのか、arXivを直接開いて確認した。該当するのは同じMindLab Researchによる技術レポート「Macaron-V1: Towards Open Continual Learning with Self-Improvement and Mixture-of-LoRA」（2026年8月10日投稿・8月24日改訂）で、Macaron-V1全体の設計思想（ベースモデルを凍結し複数のLoRAをターンごとに切り替える「Mixture-of-LoRA」アーキテクチャ）を50ページ規模で論じたものだ。論文本文には、このモデルカードには載っていない情報も含まれている——たとえばL0（Chat）〜L3（GenUI）各アダプタのLoRAランク・alpha値（VentiはランクをGLM-5.2の注意機構・MLP投影層に対しrank=16・alpha=32で適用）、AdamW・学習率5×10⁻⁶・4エポックという共通の学習レシピなどだ。コード基盤の一部もGitHub（MindLab-Research/Mixture-of-LoRA-Harness）で公開されているのを確認したが、この記事ではリポジトリの中身までは読み込んでいない。

タグにあってもモデルカードで説明されていないこと

モデルカードの数値・限界の記述はすべてMindLab自身の自己申告であり、筆者はHugging Face上のREADMEをcurlで取得して読んだのみで、モデルを実際にダウンロードして動かす検証はしていない（744Bベース＋アダプタという規模上、本記事の執筆ルールでも大容量ダウンロードは避けている）。モデルカードのタグにはa2uiという語も含まれているが、本文中にA2UIそのものの説明箇所は見当たらなかった。日本語圏でのZenn記事検索では「Macaron-V1」「Mixture-of-LoRA」ともに該当記事はこの記事作成時点で見当たらなかった。なおベースのGLM-5.2自体については中国Zhipu AIがGLM-5.2を公開した記事で別途扱っている。

関連記事

• 中国Zhipu AIがGLM-5.2を公開──100万トークン対応・MIT重み公開予定のコーディング特化モデル
• LLMベンチマークの読み方
• オープンウェイトとは何か