メモリ帯域幅1.2TB/sは何を意味するのか──ローカルLLMの速度を決める「本当のボトルネック」

高性能なCPUを積み、大容量のメモリを積んだPCでローカルLLMを動かしたのに、テキストが一言ずつ「ポツ、ポツ」としか出てこない──この経験をした人は少なくないはずだ。原因の多くは計算力の不足ではなく、「メモリ帯域幅」という、見落とされがちな仕様にある。技術メディアHardware Corner（2026年8月26日更新の記事）を中心に、この仕組みを式で確認する。

3行まとめ

1. LLMのトークン生成は計算量よりデータ移動量に律速され、速度はおおむねメモリ帯域幅に比例する。一般的なデュアルチャネルPC（約83GB/s）では5t/s前後、RTX 5090（1,790GB/s）では80〜100t/s超という目安がHardware Cornerの記事に示されている
2. NVIDIA公式のRTX 5090製品ページをcurlで確認すると、メモリインターフェース幅512bit・32GB GDDR7という仕様が裏付けられる
3. Apple Newsroomの一次発表（2025年3月）を確認すると、M3 Ultraの800GB/sという数字はApple自身が公式に発表した数字であり、最新のM5 Ultra（1.2TB/s）はその1.5倍にあたる

なぜLLMは「計算」より「データ移動」がボトルネックになるのか

Hardware Cornerの記事はこう説明している。

"The reason is that running an LLM is less about raw calculation and more about constantly moving massive amounts of data. The model's parameters—its 'knowledge'—are stored in memory. For the LLM to generate a single word, the processor has to read gigabytes of these parameters from memory. The speed at which it can read that data is determined by memory bandwidth."

LLMを動かすことは、生の計算量よりも、大量のデータを絶え間なく移動させることに近い。モデルのパラメータ（「知識」）はメモリに保存されており、LLMが1語を生成するたびに、プロセッサはギガバイト単位のパラメータをメモリから読み出す必要がある。そのデータを読み出せる速さこそが、メモリ帯域幅だ。

帯域幅の計算式

記事は、GPUとシステムRAMそれぞれの帯域幅の計算式を示している。

GPU（VRAM）の場合：

メモリ帯域幅（GB/s）＝（メモリバス幅 ÷ 8）× メモリ速度

システムRAMの場合：

メモリ帯域幅（GB/s）＝ メモリ速度（MT/s）× チャネル数 × 8 ÷ 1000

記事はこれを「researcher（プロセッサ）が本（モデルの知識）を保管した図書館（メモリ）へ何度も往復する」比喩で説明する。バス幅・チャネル数が「車線の数」、メモリ速度が「車線を走る速度」にあたり、両者の掛け算が総スループット（帯域幅）になる。

具体的な数値：GPU、システムRAM、ユニファイドメモリの比較

記事に掲載されている実際の数値をいくつか拾うと、次のようになる。

一般的なデスクトップPCのシステムRAM（約80GB/s）と、ハイエンドGPU（1,790GB/s）の間には20倍以上の差がある。この差が、同じLLMをCPUで動かすかGPUで動かすかで、体感速度がまるで違う理由だ。

RTX 5090については、NVIDIA公式の製品ページ（nvidia.com/en-us/geforce/graphics-cards/50-series/rtx-5090/）を今回curlで取得し、Memory Specsの項目を確認した。標準メモリ構成は32GB GDDR7、メモリインターフェース幅は512-bitと明記されており、Hardware Cornerの記事が計算の前提にしている「512-bit（28Gbps）」というバス幅の数字と一致する。ただしNVIDIA公式ページ自体には、計算済みの帯域幅（GB/s）の数値そのものは明記されていなかった。

帯域幅とトークン/秒の対応関係

記事は、帯域幅の違いが実際のトークン生成速度（t/s）にどう表れるかも示している。

"A standard consumer CPU with dual-channel RAM, offering around 83 GB/s of bandwidth, might only produce about 5 tokens per second... Stepping up to a workstation CPU with octa-channel RAM boosts bandwidth to over 200 GB/s, pushing performance into the 20-30 t/s range... An entry-level GPU like an RTX 3060 provides 360 GB/s of bandwidth, delivering a fluid and conversational experience at around 35 t/s. At the top end, a powerhouse like the RTX 5090 with its 1790 GB/s of bandwidth makes text generation feel near-instantaneous, easily exceeding 80-100 t/s."

この数字はモデルサイズ・量子化レベルなど他の条件にも左右される目安値だが、帯域幅とトークン生成速度がおおむね比例して伸びていく傾向は明確に見て取れる。

ユニファイドメモリという「解決策」

Apple製チップに代表される「ユニファイドメモリアーキテクチャ」について、記事はこう位置づけている。

"Unified memory architectures are a game-changer because they eliminate the traditional separation between system RAM and VRAM... A top-tier chip like the M3 Ultra, for instance, boasts an incredible 800 GB/s of memory bandwidth. This explains why modern Macs are so surprisingly competent at running large models—they deliver the memory bandwidth of a high-end workstation in a consumer package."

CPUとGPUが別々のメモリプールを持つ従来型の構成をなくし、単一の高速なメモリプールを共有する設計だ。M3 Ultraは800GB/sという帯域幅を実現しており、これがコンシューマー向け製品でありながらワークステーション級のメモリ帯域幅を提供できる理由だと説明されている。

この800GB/sという数字は、Apple自身の一次発表（Apple Newsroom、2025年3月の「Apple reveals M3 Ultra」発表文）でも確認できる。発表文をcurlで取得すると、「M3 Ultra is built for AI...and over 800GB/s of memory bandwidth. AI professionals can use Mac Studio with M3 Ultra to run large language models (LLMs) with over 600 billion parameters directly on device」と書かれている。M3 Ultraはユニファイドメモリを最大512GBまで構成でき、600億パラメータ超ではなく600「billion」＝6,000億パラメータ超のLLMをデバイス上で直接動かせる、とApple自身が主張している。また、M3 UltraはM3 Maxダイ2枚をUltraFusionという技術で接続した設計で、この2ダイ間の接続自体は2.5TB/sの帯域幅を持つとされている（メモリ帯域幅の800GB/sとは別の数値）。

最新世代：M5 Ultraは1.2TB/s

2026年8月25日にAppleが発表した新型Mac Studio（M5 Ultra搭載）の公式スペックページによれば、統合メモリ帯域幅は1.2TB/sに達し、これは「従来比50%向上」とApple自身が説明している数字だ（詳しくはMac Studio M5 Ultraの発表内容を参照）。Hardware Cornerの記事にあるM3 Ultraの800GB/sという数字と比較すると、単純な帯域幅だけで見ても50%の伸びがあることになる。この記事の計算式に沿って考えれば、同じモデル・同じ量子化レベルであれば、トークン生成速度もおおむねこの帯域幅の伸びに応じて改善する可能性があるが、実際の生成速度はモデルのアクティブパラメータ量・量子化方式・推論エンジンの実装効率にも左右されるため、単純な比例計算がそのまま成り立つとは限らない。

今回Apple公式スペックページをcurlで取得し直すと、実は現行ラインナップにはM5 MaxとM5 Ultraの2チップがあり、GPUコア数の構成によって帯域幅が変わることも確認できた。

M5 MaxはGPUコア数を32→40に増やす構成変更で帯域幅が460GB/s→614GB/sへと上がる一方、M5 UltraはGPUコア数を64→80に増やしても帯域幅の表記は1.2TB/sのまま変わらない。この帯域幅の差が、同じ「M5」世代のチップ内でもM5 MaxとM5 Ultraでどれだけトークン生成速度に差を生むかについては、公式スペックページには記載がなく、この記事では確認できていない。

実務上の含意：GPUのスペック表で最初に見るべき数字

ローカルLLMの購入・構築を検討する際、多くの人はまずVRAM容量（モデルが「入るかどうか」）に注目する。しかし、モデルが入った後の「快適に動くかどうか」を左右するのは、この記事が扱ってきたメモリ帯域幅だ。GGUF・MLXといったフォーマットの違いについてはGGUFとMLX、Macで動かすならどっちを選ぶべきか、ローカルLLM全般の基礎知識についてはローカルLLMとは何かも参照してほしい。

M5 Ultraの実測ベンチマークはまだ存在しない

• 本記事の計算式・数値はHardware Cornerという専門メディア1本を主な一次資料としている。記事自体は独立した学術論文やベンダー公式のベンチマークではなく、コミュニティ向けの技術解説記事である点に留意してほしい。
• 掲載した「帯域幅→トークン/秒」の対応表は、あくまで目安として記事が示した数値であり、モデルサイズ・パラメータ数・量子化レベル・推論エンジン（llama.cpp、MLXなど）の実装効率によって実際の数値は大きく変動する。理論上の帯域幅と実効的な利用率の差についての具体的な数値は、本記事が参照したHardware Corner記事には記載がなかった。
• Mac Studio M5 Ultraの1.2TB/sという帯域幅が、実際にどの程度のトークン生成速度につながるかについての実測ベンチマークは、512GB構成の発送が2026年10月下旬であることもあり、本記事執筆時点ではまだ存在しない。
• 「メモリ帯域幅が速度を決める」という説明は、主に自己回帰的な生成（decode、1トークンずつ生成するフェーズ）に当てはまるものであり、プロンプトの読み込み（prefill、最初の応答が出るまでの時間）は計算量に律速される場合が多い。この違いについての詳細な解説は、本記事のソースには含まれていなかった。