ローカルLLMおすすめモデル10選無料で動かせるAI【2026年版】

【更新 2026年9月25日】 公開時「Gemma 3」を三強の一つとして挙げていたが、Googleが2026年4月2日にGemma 4を発表しライセンスもApache 2.0に変わったため、該当箇所をGemma 4に更新した。Qwen・DeepSeek・Devstral・Mistral Smallの提供状況も一次ソースで再確認し、変更点を本文中に反映している（Qwen3の行そのものは2026年6月時点の評価のまま）。詳細は末尾の更新履歴を参照。

3行まとめ

1. 2026年のローカルLLM三強はQwen3（総合力）、Gemma 4（マルチモーダル・入門向き）、Llama 4 Scout（超長コンテキスト）。いずれも無料で利用可能
2. 8GBメモリのノートPCでもPhi-4-mini（3.8B）やQwen3 1.7Bが動作する。M4 Macの32GBなら12B〜14Bクラスが快適
3. 導入ツールはOllama（CLI・API統合向き）かLM Studio（GUIで簡単）。ollama pull qwen3:8b の1コマンドで始められる

ローカルLLMとは何か

ローカルLLMは、クラウドAPI（ChatGPTやClaude等）を使わず、自分のPC上でAIモデルを動かす方法だ。メリットは3つある。

1. 無料: モデルのダウンロードと実行に費用がかからない
2. プライバシー: データが外部に送信されない
3. オフライン動作: インターネット接続なしで使える

2026年時点では、オープンソースモデルの性能が急速に向上しており、日常的な用途（文章生成、要約、翻訳、簡単なコード生成）であればローカルLLMで十分対応できるレベルに達している。

おすすめモデル10選（2026年6月時点）

Hugging Face Blog、SitePoint、AI Magicxの各調査に基づく。Gemma 4とDeepSeek-V4.1-Flashの行、および各行の後継モデルの注記は、2026年9月25日に当サイトが一次ソースを確認して差し替え・追記したもの。

Tier 1: 総合力で選ぶなら

Zennの日本語記事によると、Qwen3はローカルで動作するモデルとして日本語性能がトップクラスで、特に32Bモデルはビジネス文書・要約・翻訳で高精度を発揮する（2026年6月時点のレビュー）。

Qwenのラインアップ自体は8月に次の世代へ進んでいる。2026年8月26日には次世代Qwen4のアーキテクチャを先行公開した「Qwen3.8-Flash-Next」（総パラメータ125B・1トークンあたりのアクティブは6B）が公開されたが、モデル全体をメモリに載せる必要がある構造上、フル重みの4bit量子化でも本体だけで約65GB前後が必要になる（当サイトの概算、関連記事）。Qwen4本体については、2026年9月22日の雲栖大会（Apsara Conference）で「Qwen4 Series Coming Soon」としてMax／Flash & Plus／27Bの3枠が示されたのみで、公開日・重みの公開有無は本記事が2026年9月25日に確認した範囲では発表されていない（詳細はQwen4とは）。

一方、本記事が想定する「ノートPCや単体GPU・Macで動かす」規模にも新しい版は出ている。2026年8月5日には27Bの密モデル「Qwen3.8-27B」がApache 2.0で公開されており（関連記事）、Hugging FaceのQwen公式にはQwen3.5・Qwen3.6の27Bクラスのモデルも並んでいる（いずれもApache 2.0）。Qwen3.8-27BのQ4_K_M量子化ファイル（unsloth配布）は16.46GBで、Macなら32GBの統合メモリがQ4_K_Mの現実的なラインになる（ファイルサイズからの当サイトの積算で、実機での検証ではない。どのMacで動くか）。本記事のTier 1表は2026年6月時点の評価にもとづくQwen3のままで、これらの新しい版との比較はしていない。

Gemma 4はGemma 3から何が変わったか

Gemma 3から乗り換える価値があるかを2026年9月25日に一次ソースで確認した。Googleの公式ブログとHugging Faceのモデルカードによると、Gemma 4はE2B・E4B・12B（統合版）・26B A4B（MoE）・31B（密モデル）の5サイズ展開で、全サイズがテキストに加え画像・動画（フレーム列として処理）を扱い、音声入力はE2B・E4B・12Bのみが対応する。コンテキストは小サイズ（E2B・E4B）が128K、それ以外が256K。4月2日の発表時はE2B・E4B・26B A4B・31Bの4サイズで、12Bは6月3日に追加された。ライセンスはGemma 1〜3で使われていたGoogle独自の利用規約から、汎用のApache 2.0に変わっている（ai.google.dev/gemma/apache_2で条文を確認済み）。

Hugging Face上で配布されているGGUF量子化ファイル（unsloth配布）のサイズをQ4_K_Mで実測すると、E2B約3.1GB・E4B約5.0GB・12B約7.1GB・26B A4B（MoE）約16.9GB・31B約18.3GBだった（10進数換算、1GB＝10億バイト）。いずれも本記事の「ノートPC〜Mac〜24GB GPU」という対象ハードウェアの範囲に収まる。ollama pull gemma4:12bのようにOllamaのライブラリにも登録済みで、Googleの公式ドキュメントもローカル実行の手段としてLM Studio・Ollamaを案内している。以上の理由から、本記事ではTier 1・Tier 3・ハードウェア別おすすめ表のGemma表記をGemma 4に更新した。Gemma 3のモデルも引き続きHugging FaceとOllamaのライブラリで配布されている。

Tier 2: 用途特化

Tier 3: 注目株

MoEモデルの「アクティブパラメータ」は起動に必要なメモリではない

Qwen3・GLM・gpt-ossのようなモデルをサイズで比べるときに読み違えやすいのが「アクティブパラメータ」だ。Llama 4 Scoutの項目（Tier 1）で触れた通り、MoE（Mixture of Experts）モデルの「アクティブパラメータ」は1トークンの推論で使う重みの量であって、ロードするメモリ量ではない。トークンごとに使う専門家（エキスパート）が切り替わるため、どのエキスパートが呼ばれても対応できるよう総パラメータ分の重みを全部メモリに置いておく必要がある。

具体例として、Z.aiのGLM-5.3-Flash（総パラメータ320B・アクティブ18B、2026年8月26日公開、関連記事）で確認した。Hugging Face上の4bit量子化ファイル（unsloth配布のGGUF、UD-IQ4_XS）5個の合計サイズをcurlで実測すると156,822,111,075バイト、約157GBだった（2進数のGiB換算では約146GiB）。「アクティブ18B」という数字だけを見て一般的なノートPCやMacで動くと判断すると、実際には大きく外れる。

本記事のTier 1〜3で挙げたモデルの中にもMoEは複数ある。Llama 4 Scout（アクティブ17B/総109B・約65GB必要）、Qwen3の30B（30B-A3B）と235B（235B-A22B。Hugging Faceのモデルタグはどちらもqwen3_moe）、Gemma 4の26B A4B（モデルカードでは総25.2B・アクティブ3.8B。Q4_K_Mで約16.9GBと、総パラメータ分の重みを載せるサイズになる）、gpt-oss（20bは総21B・アクティブ3.6B、120bは総117B・アクティブ5.1B）、DeepSeek-V4.1-Flash（総552B）はいずれもMoEで、動作に必要なメモリはアクティブパラメータでなく総パラメータで決まる。一方、Qwen3の0.6B〜32B（30Bを除く）、Gemma 4のE2B・E4B・12B・31B、Phi-4-mini、Devstral、Mistral Smallは密（Dense）モデルで、パラメータ数＝メモリの目安がそのまま当てはまる。モデルを選ぶ際は、サイズ表記の後ろに「A」に続く数字（例: 235B-A22B）や「MoE」の表記がないか確認するのが安全だ。gpt-ossのように名前に表れないモデルもあるので、モデルカードの「active parameters」の記載も見ておきたい。

ハードウェア別おすすめ

AI MagicxとPromptQuorumのハードウェアガイドに基づく。VRAM数値はQ4量子化（4bit圧縮）前提。Gemma 4の各モデルは、元のGemma 3の位置に2026年9月25日に当サイトがGGUFの実ファイルサイズ（Q4_K_M）から当てはめたもので、両ガイドの推奨ではない。

Apple Silicon MacはGPUとCPUがメモリを共有するため、スペック上のRAMをそのままVRAMとして使える。32GB MacでもNVIDIA RTX 3090（24GB VRAM）より大きなモデルを動かせるケースがある。ローカルAI用に新しくマシンを組む場合の判断基準（統合メモリの上限・VRAMの上限の違い）はMacとWindows、どちらで組むべきかにまとめている。

導入方法──OllamaとLM Studio

Contaboの比較記事に基づく。

Ollama（CLI・開発者向け）

# macOS/Linuxの場合
curl -fsSL https://ollama.com/install.sh | sh

# モデルのダウンロードと実行
ollama pull qwen3:8b
ollama run qwen3:8b

OllamaはAPIサーバー（ポート11434）も内蔵しており、Pythonスクリプトやアプリケーションからの呼び出しが容易だ。自動化やスクリプト連携に向いている。

LM Studio（GUI・初心者向け）

lmstudio.ai からデスクトップアプリをダウンロード。Hugging Faceのモデルをワンクリックでダウンロードでき、チャットUIが内蔵されている。ポート1234でAPIサーバーも起動できる。

【2026年9月25日追記】 lmstudio.aiのトップページと料金ページ（lmstudio.ai/pricing）を直接確認したところ、現在は新アプリ「Bionic」（オープンモデル向けのAIエージェント）が前面に出ており、Free（0ドル）・Bionic+（20ドル/月・Kimi K3やGLM 5.3など米国ホストのクラウドモデルが使える）・Pro（100ドル/月）の3プランがある。料金ページのFreeプランには「ローカルLLMの実行（llama.cpp・MLX）」が含まれ、FAQも「ローカルでモデルを動かし続けられるか」に「Yes」と答えている。また公式ドキュメントによると、BionicはLM Studioとは別の新しいアプリで、従来のLM Studioも併用できる。有料プランとして挙がっているのはクラウドモデル・Web検索・利用上限の拡大・トークンの割引などで、本記事で扱っているLM Studio本体でのモデルのダウンロード・チャット・APIサーバーは有料プランの項目に入っていない。

使い分け

Contaboの比較によると、LM Studioでモデルの評価・選定 → Ollamaで実運用統合という流れが効率的とされている。

クラウドAI（ChatGPT等）との使い分け

ローカルLLMはクラウドAIを完全に置き換えるものではない。

高度な推論や最新情報が必要ならクラウドAI、プライバシーが重要な社内文書処理やオフライン環境ではローカルLLMが合理的だ。

手元のモデルが日本語の実務に耐えるかは自分で測るしかない

上の表の「性能」欄は8B〜32Bクラスという粒度でしか書けていない。だがローカル運用に踏み切れるかを実際に分けるのは、パラメータ数ではなく、日本語の要約や敬語が自分の仕事で使えるかどうかだ。

当サイトでは、そこを自分のタスクで測るために要約・敬語・固有名詞の扱いで日本語実務性能を実測するJTLスコアという台帳を運用している。測る領域は3つに固定している。要約は長い日本語資料を事実を取り違えずに縮められるか、敬語はビジネス文面として破綻していないか、固有名詞は人名や社名、製品名を勝手に書き換えたり表記を揺らしたりしないか。条件をそろえて同じ指示文を各モデルに与え、出力を突き合わせる方式で、ベンチマークスコアの転載ではなく手元で動かした結果だけを記録している。

OllamaでQwen3やGemma 4を入れたら、この3点を自分の実物の資料で一度通してみてほしい。筆者がYouTubeの解説動画やこのサイトの記事制作でLLMを毎日使ってきた実感としても、英語ベンチマークのスコアの序列どおりの体感にならないことがあった。モデルごとの数値は測定が済み次第JTLスコアの台帳に追記していく（2026年8月14日時点では方法論を公開している段階）。

「無料」でもGPUには20万円以上かかる

• 「無料」とはいえ、大型モデル（27B以上）を快適に動かすにはGPUが必要で、RTX 4090は15〜25万円程度する。Macの場合はM4 Pro以上（32GB〜）が推奨で、20万円以上の初期投資になる
• ベンチマークでの「トップクラス」と実際の使い勝手は異なる場合がある。特に日本語性能は英語に比べて劣る傾向があり、モデルによって差が大きい
• DeepSeekは中国企業のモデルであり、データの取り扱いに関する考慮が必要な場合がある（ローカル実行の場合はデータが外部に送信されないため、クラウドAPIより懸念は小さい）
• モデルの選択は月単位で変わりうる。海外4本・Zennレビューを主な情報源とした調査そのものは2026年6月時点のスナップショットで、Gemma・DeepSeek・Devstral・Mistral Small・Qwenの提供状況は2026年9月25日に一次ソースで再確認し、一部を更新した（更新箇所は末尾の更新履歴を参照）。Qwen3.5以降のQwenの新しい版との比較、各モデルの性能の再評価はしていない

海外4本と日本語レビュー1本を突き合わせた

本記事はHugging Face Blog、SitePoint、AI Magicx、Contaboの調査記事、Zennの日本語レビュー記事を主な情報源とした。2026年6月19日時点の情報に基づく（Gemma 4などの差し替えと追記は2026年9月25日に一次ソースで確認したもの）。

関連記事: Claude Code 使い方・料金ガイド | Gemini vs ChatGPT 比較 2026年版