Apple、MLX（エムエルエックス）とThunderbolt 5のRDMAでMac Studio 4台をつなぎ、816B（8,160億）パラメータのMuse Spark Openを毎秒36トークン超で動かす手順と実測を公開M5 UltraのTTFTはM3 Ultra比で最大4.6倍

Apple機械学習研究は2026年10月15日（現地日付。ページに時刻の記載なし）、同日公開の最新版MLX（エムエルエックス）とRDMA over Thunderbolt 5を使い、Mac Studio（M5 Ultra）を複数台つないで大規模LLMを手元で動かす方法とベンチマークを公開した。総パラメータ816BのMuse Spark Open（ミューズ スパーク オープン）は、4台構成で1秒あたり36トークン超を生成したと、Appleは書いている。

3行まとめ

1. Apple機械学習研究が2026年10月15日、MLXとThunderbolt 5のRDMAでMac Studio（M5 Ultra）4台を連携し、Muse Spark Open（総816B・アクティブ42B）を毎秒36トークン超で生成と発表
2. M5 Ultra 1台はM3 Ultra比で初回トークンまでの時間が最大4.6倍、生成速度が1.6倍（いずれもApple測定）
3. 4ビット化したMuse Spark Openでも約493GBあり、推論中の計算用メモリを足すと1台には収まらないとApple。文脈8,192トークンで、2台のパイプライン並列は15.74、2台のテンソル並列は24.99、4台のテンソル並列は36.73トークン/秒

本記事の内容は、日本時間10月16日1時台に公式ページで確認したものです。数値はすべてAppleの記事に載っているもので、当サイトで測ったものではありません。

何が公開されたのか

公開されたのはApple Machine Learning Researchの記事「Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio」です。MLXはApple siliconの統合メモリを生かすオープンソースの配列フレームワークで、記事はその最新版（同日公開）を使った実測と手順をまとめています。

評価に使ったモデルは3つです（Appleの表1）。

Muse Spark OpenはMoE（Mixture of Experts）で、推論のたびに一部のエキスパートだけを動かす構成です。Appleは「ほぼ1兆パラメータ」の最先端級モデルと呼んでいます。計測は mlx_lm.benchmark で行い、文脈長は8,192トークンと65,536トークンの2通りです。65,536を入れた理由として、Appleは大きな文脈が要る「エージェント型のコーディング」をローカルで動かす用途を挙げています。

Mac Studio 1台だとどこまで動くのか

Appleによると、Qwen 3.8（27B）とMistral Medium 3.5（128B）は、512GBのMac Studio 1台に収まります。65,536トークンの設定でもメモリ使用は最大でそれぞれ68GBと158GBです。

Appleは、M5 UltraをM3 Ultraと比べて次のように書いています。

• 初回トークンまでの時間（TTFT）: 計算量で決まる。GPUのNeural Acceleratorが行列演算を速くし、M3 Ultra比で最大4.6倍
• 生成速度: メモリ帯域で決まる。M5 Ultraは1.2TB/秒、M3 Ultraは819GB/秒で、トークン/秒は1.6倍
• ピーク消費電力: M3 Ultraが約200W、M5 Ultraが約300W（65,536トークン時）

Appleの表から、8,192トークン側と読める数値を抜くと次のとおりです。

「最大4.6倍」は、この表の組み合わせからは出てきません（95.9÷24.6は約3.9倍、18.2÷4.1は約4.4倍）。4.6倍は65,536トークン側などの別の組み合わせの値と考えられますが、そちらの数字は今回取得した本文から読み取れませんでした。

Muse Spark Openは何台で、どう分けて動かすのか

Appleによると、Muse Spark Openは元のBF16だとパラメータだけで1.6TB超、4ビット（NVFP4）にして約493GBです。推論中の計算用メモリを足すと1台には収まらず、複数台への分割が必要としています。分け方は2通りです。

• パイプライン並列: モデルを層の深さで分ける。前半の層を1台目、後半を2台目が処理する。実装が簡単で、コードの変更は最小限
• テンソル並列: 各層を幅で分け、全台が全層の一部を計算する。実装は複雑で、トークンごと・層ごとに小さな通信が何度も発生する

通信には、macOS 26.2で入ったThunderbolt 5経由の低遅延RDMAドライバーと、MLX v0.30.1以降の通信集合演算 jaccl（「ジャッカル」と読むとAppleは書く）を使います。検証では、2台構成も4台のメッシュも、各2台の間をThunderboltケーブル2本でつないでいます。ケーブル2本にした理由は、リンク帯域を2倍にするためです。起動には mlx.launch を使い、実行コマンド例が記事に載っています。

実測：Muse Spark Openの生成速度

Appleの表3のうち、Muse Spark Openの行は次のとおりです。

ほかの2モデルも、台数を増やすと速くなっています。4台のテンソル並列は、Mistral Medium 3.5が23.37、Qwen 3.8が50.89トークン/秒です（1台はそれぞれ7.70と19.69）。Appleは、密なモデル（全パラメータが常に動くモデル）は複数台に分けたときの伸びが特に良いと書いています。一方で、Muse Spark Openの生成速度もテンソル並列で大きく伸び、大きな文脈でも密なモデルと同程度の伸びだとしています。

TTFTでは、Muse Spark Openの4台テンソル並列が、8,192トークン側と読める表で4.8秒です。65,536トークンでは、ケーブル2本で約40.6秒、1本だと約50.5秒だったと本文にあります（1本の実験は追加で行ったもの）。2台のテンソル並列は、この大きな文脈で2台のパイプライン並列よりも遅れました。Appleは、エキスパート出力の正規化が通信を増やすためと説明しています。台数を増やせばこの差は取り戻せるとも書いています。

手元で使うには：エージェントツールとの接続

mlx_lm.server の前に mlx.launch を付ければ、複数台に計算を分けたままローカルのサーバーとして起動できます。記事は、エージェントツールの OpenCode から使う設定例も載せています。OpenAI互換のプロバイダー設定（@ai-sdk/openai-compatible）で、baseURL を http://127.0.0.1:8080/v1 に向ける書き方です。

公式ページを確認して気づいたこと

日本時間10月16日1時59分に公式ページを取得して、本文を読みました。表2と表3は、文脈長の8,192と65,536の2つを並べた表のはずですが、取得した本文では片方の値の列だけが残っていました。Figure 1が8,192トークンの図で、Muse Spark Openの4台構成が「36トークン超」と書かれていること、パイプライン並列のTTFTが1台とほぼ同じ（8,192では重ねる効果が出ない、とAppleが書く部分）ことから、残っている列は8,192トークン側と読んでいます。本記事で「8,192トークン側と読める」と書いた数字は、この推定にもとづくものです。65,536トークン側の表の数字は、今回の取得分からは確認できませんでした。

今回の発表で確認できなかったこと

• 日本での提供や価格: 今回取得した公式ページには、Mac Studio（M5 Ultra）の日本での発売や価格、Muse Spark Openの配布条件・ライセンスの記載を見つけられませんでした。「Mac Studio」の仕様ページへのリンクは付いていますが、そのページは取得していません
• 第三者による再現: 数値はすべてAppleによる測定です。当サイトでは試していません
• 構成の前提: 1台での比較は512GBのMac Studioと明記され、結びでも512GBの統合メモリを組み合わせの一つに挙げています。ただ、2台・4台構成の各台が512GBかどうかは、ベンチマークの説明の中では明示されていません
• モデルの出どころ: 実行コマンドのモデル名は meta-models/Muse-Spark-Open-816B-A42B-NVFP4 です。Appleは「newly released（新たに公開された）」と書いていますが、モデルの公開元や具体的な公開日の説明は、この記事にはありません
• 精度や品質: 速度と電力の記事で、4ビット化による回答の質の変化は扱っていません

Muse Spark系の周辺情報は、当サイトのMeta AIの日本提供の解説で、公式が示す基盤がMuse Sparkであることを扱っています。

出典と確認時刻

• Apple Machine Learning Research「Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio」（2026年10月15日）: https://machinelearning.apple.com/research/mlx-distributed-inference
• 確認時刻: 日本時間2026年10月16日1時59分

本記事は続報があり次第更新します。