DeepSeekはローカルで動かせるのか──パラメータ数とVRAM要件で判定する

「DeepSeek ローカル」で検索する人がイメージしているものは、実は2種類に分かれる。DeepSeek-V3・R1という本体そのものなのか、それとも「DeepSeek-R1-Distill」のような、他のモデルに蒸留した軽量版なのか。この2つは求められるハードウェアが桁単位で違うので、まず数字で切り分ける。

この記事は実機での動作テストではなく、Hugging Face・Ollamaの公開メタデータをその場で取得して積み上げた、判断材料としての記事だ。

3行まとめ

1. DeepSeek-V3-0324本体はFP8ネイティブで約641GiB（Hugging Face公式safetensorsメタデータから実測換算）。量子化しても最小173GiB〜、配布元unslothは「VRAM+RAM合計180GB以上」を推奨している
2. Ollama公式ライブラリでの配布サイズを見ると、deepseek-r1:671bはデフォルト量子化で404GB（unslothの最小量子化173GiBの倍以上）。同じ671Bでも配布元・量子化方式によってサイズは2倍以上変わる
3. 「DeepSeek-R1-Distill」シリーズは別物で、Ollamaでは1.5b=1.1GB〜70b=43GBまで7段階で配布されている。名前に「671B」が付くのは本体のみで、蒸留版は一般的なローカルLLMと同じ土俵で動く

DeepSeek-V3-0324本体は何GBか

Hugging Face APIのhttps://huggingface.co/api/models/deepseek-ai/DeepSeek-V3-0324を叩くと、safetensorsメタデータとしてパラメータの内訳が返ってくる。

BF16:    3,918,786,560 パラメータ
F8_E4M3: 680,571,043,840 パラメータ
F32:        41,555,600 パラメータ
合計:    684,531,386,000 パラメータ(約684.5B)

これはデータ型ごとのパラメータ「個数」なので、1個あたりのバイト数(BF16=2バイト、F8_E4M3=1バイト、F32=4バイト)を掛けて実際のファイルサイズに換算すると、

680,571,043,840 × 1 + 3,918,786,560 × 2 + 41,555,600 × 4
= 680,571,043,840 + 7,837,573,120 + 166,222,400
= 688,574,839,360 バイト ≒ 641.2 GiB

になる。DeepSeek-V3はFP8(8bit浮動小数点)をネイティブの配布形式にしているモデルで、この約641GBという数字は「量子化する前」の、公式が配布しているそのままのサイズだ。一般的な家庭用GPU(VRAM 24GB前後)は言うまでもなく、統合メモリ192GBのMac Studioでも収まらない。

「671B」という数字自体はニュースで何度も見てきたつもりだったが、実際に自分でバイト単位まで計算し直してみると、画像生成の検証で使ったMacBook Airの空きストレージ(6GB前後で足りるかどうかを争っていた)と並べたとき、桁が3つ以上違うことに改めて実感が伴った。

量子化しても173GB〜405GB

「量子化すれば小さくなるのでは」という疑問はもっともで、実際にunslothが公開しているDeepSeek-V3-0324のGGUF量子化版がある。Hugging FaceのTree APIで各量子化フォルダの合計ファイルサイズを実測すると、以下の通りだった。

配布元のunslothはREADMEで次のように書いている。

"2.71bit was found to be the best in terms of performance/size and produces code that is great and works well. 2.42bit was also found to pass all our tests. So, for best results, use the 2.42-bit (IQ2_XXS) or 2.71-bit (Q2_K_XL) versions. Though not a must, try to have at least 180GB+ combined VRAM + RAM."

最小の1.78bit版(約173GB)ですら、配布元は「予備的(prelim)」と位置づけていて精度面での妥協がある。実用を狙うなら2.42bit以上(約204GB〜)が推奨で、unslothの目安は「VRAM+RAM合計で180GB以上」だ。これは複数枚のGPUを積んだワークステーション、あるいは統合メモリ192GB〜512GBのMac Studio級のマシンを想定した数字であって、個人が普段使いのノートPCで動かせる範囲には入らない。

配布元が変わるとサイズも変わる：Ollama版との比較

同じ「671B」でも、配布元・量子化方式によってダウンロードサイズは大きく変わる。Ollama公式ライブラリのdeepseek-r1ページ（curlで確認）では、フルサイズのdeepseek-r1:671bがデフォルト量子化で404GB（コンテキスト長160K）と表示されている。これはunslothの最小量子化版（UD-IQ1_S、約173GiB）の2倍以上にあたる。同じOllamaライブラリには、蒸留版も含めて次のサイズが並んでいる。

Ollamaのページには「DeepSeek-R1は8Bの蒸留モデルと671Bのフルモデルの両方で、DeepSeek-R1-0528へのマイナーバージョンアップを受けた」という記載もあり、Ollamaで配布されているdeepseek-r1:8bは、本記事が別途Hugging Faceで実測したDeepSeek-R1-Distill-Llama-8B（無印版）とは、厳密には同一バージョンでない可能性がある。「どの配布元・どのバージョンを指しているか」まで揃えないと、同じ「8B」でもファイル自体が微妙に異なりうる点は覚えておきたい。

DeepSeek-R1-Distillシリーズは別物

一方、「DeepSeek-R1-Distill-Qwen-7B」のような蒸留モデルは、名前に「DeepSeek」を冠してはいるが、アーキテクチャ的にはQwenやLlamaをベースにDeepSeek-R1の推論データで再学習したもので、パラメータ規模はまったく別次元になる。Hugging Face APIで確認したパラメータ数は以下の通り。

Ollama Libraryにもdeepseek-r1:1.5bからdeepseek-r1:70bまで(本体であるdeepseek-r1:671bも含めて)複数サイズが並んでいるが、蒸留版は一般的なローカルLLMと同じ土俵で語れるサイズだ。実際、別記事で実測した8Bクラスのモデル(llama3.1:8b、量子化後4.9GB)は、同じ「8B」という規模感になる。あの検証では、統合メモリ8GBのMacBook Airで8Bクラスのモデルを動かすと、生成速度が0.88トークン/秒までスワップで落ち込んだ。DeepSeek-R1-Distill-Llama-8Bも量子化後のファイルサイズは近い水準になるはずで、同じ制約(8GBメモリでは実用速度が出にくい)が当てはまる可能性が高い。ただしこれは同規模モデルからの類推であり、DeepSeek-R1-Distill-Llama-8B自体を実機で計測したわけではない。

どちらの「DeepSeek」を指しているかで答えは変わる

• 「DeepSeek-V3」「DeepSeek-R1」という本体(671B級)をローカルで動かすのは、個人の一般的なPC・Macでは現実的でない。量子化しても最小で約173GB、実用を狙うなら約204GB以上が必要で、配布元自身がVRAM+RAM合計180GB以上を挙げている
• **「DeepSeek-R1-Distill」シリーズ(1.5B〜70B)**は、パラメータ規模で言えば一般的なローカルLLMと同じで、7B〜14B級ならメモリ16GB以上のマシンで検討に値する。ただし8B級を8GBメモリのマシンで動かすと実用速度が出にくいことは、同規模の他モデルで実測済みだ
• 検索で「DeepSeek ローカル」を調べている人がイメージしているのがどちらなのかで、答えは正反対になる

この記事で確認できていない数字

• 実機での動作テストはしていない。 すべてHugging Face API・GGUFファイルのTree APIから取得した公開メタデータに基づく計算で、実際にダウンロードして起動速度や生成品質を測ったわけではない
• DeepSeek-R1-Distill-Llama-8Bそのものの実測値ではない。 llama3.1:8bで実測した数値からの類推であり、アーキテクチャの違い(蒸留の有無)による差は考慮できていない
• UD-Q3_K_XL(約321GB)以上の、より高精度な量子化版は表に含めていない。 最小構成に絞って比較した
• DeepSeek-V3以降のモデル(例えばDeepSeek-V4系)のサイズは確認していない。 DeepSeekショックとはの記事で扱った2025年1月時点の経緯や、V4-Flash-Vision-Expの新機能とは別に、本記事はDeepSeek-V3-0324に絞って数字を出している
• OllamaとHugging Face、両方の配布元を比較したのはR1系のみ。 DeepSeek-V3-0324本体についてはOllama版のサイズを確認していない。また、Ollamaのダウンロードサイズは「量子化後の配布ファイルサイズ」であり、Hugging Face safetensorsの「未量子化サイズ」（本記事冒頭の約641GiB）とは前提が異なる数字であることに注意してほしい