スマホにローカルAIアプリを入れるとどこまで使えるか──実用度の判定

「ローカルAI スマホ おすすめ」で検索する人が想定しているのは、AppleやGoogleがOSに組み込んでいる標準機能(Apple Intelligenceなど)ではなく、自分でアプリストアから入れる、サードパーティ製のローカルLLMアプリのはずだ。標準機能側はApple Intelligence機能一覧で扱っているので、この記事ではその外側、つまり自分でモデルを選んでダウンロードするタイプのアプリに絞る。

3行まとめ

1. サードパーティのローカルLLMアプリ「PocketPal AI」はllama.cppエンジンでGGUFモデルを動かす。プリセットで用意されているのはDanube 2/3・Phi・Gemma 2・Qwenで、話題のgpt-oss系は公式のプリセット一覧には含まれていない（GitHub公式ドキュメントで確認）
2. Googleが自社のオンデバイス推論API向けに名指ししているのはGemma 3 1B・Gemma 3n(実効2B/4B)クラス。gpt-oss-20Bの重み実測約12.8GBとは、想定サイズが一桁以上違う
3. Pixel 10 Proは公式に16GB RAMと明記される一方、Appleは公式スペックページでiPhoneのメモリ容量を公表していない

サードパーティ製アプリの実装を確認する

代表例として、GitHubで公開されているPocketPal AI(iOS App Store・Google Playの両方で配布)のREADMEを見た。アーキテクチャは4層で説明されている。

"Engine | The inference engines. llama.cpp runs language models in the quantized GGUF format. ... Hardware | Where the math actually happens. PocketPal targets CPU (universal fallback), GPU (Metal on iOS, OpenCL on Qualcomm Adreno for Android), and NPU (Qualcomm Hexagon) — falling back gracefully and offloading partial layers when a full backend isn't available."

つまり、PCのOllamaやLM Studioと同じllama.cppエンジンを使い、GGUF形式に量子化されたモデルをスマホ内部で動かす仕組みだ。iOSならMetal(GPU)、AndroidならOpenCL(Adreno GPU)やQualcomm Hexagon(NPU)を使う。「クラウドAPIの薄いラッパーではなく、モデルそのものが端末上で動く」という点は、PCのローカルLLMと原理は同じだ。

似た位置づけのプロジェクトに、macOS/Linux/Windows/Android/iOS/ブラウザを横断するMLC LLM(推論エンジン)もある。こちらもmacOSではMetal、AndroidではVulkan/OpenCL経由でGPUを使う設計になっている（MLC LLM公式GitHub READMEのプラットフォーム対応表でcurl確認）。

PocketPal AIが実際にプリセットしているモデル

アプリのアーキテクチャだけでなく、実際にどのモデルがアプリ内から選べるようになっているかも確認した。PocketPal AI公式リポジトリのdocs/getting_started.md（curlで確認）には、次の一文がある。

"PocketPal AI comes pre-configured with some popular SLMs: Danube 2 and 3, Phi, Gemma 2, Qwen. Modells need to be downloaded before use. You can download and use these models directly from the app and load any other GGUF models you like!"

つまり公式にプリセットされているのはDanube 2/3・Phi・Gemma 2・Qwenの4系統で、話題のgpt-oss系はこの一覧には含まれていない（任意のGGUFモデルを手動で読み込む機能自体はあるため、非公式に試すこと自体は妨げられていない）。同ドキュメントにはもう1つ、メモリ管理の仕組みについての記載もある。「Auto Offload/Load」という設定をオンにしておくと、アプリがバックグラウンドに回ったときに自動でモデルをメモリから解放し、フォアグラウンドに戻ったときに再読み込みする（大きいモデルほど再読み込みに数秒かかる、と明記）という。メモリが限られるスマホ環境向けの、PC版のOllama等にはあまり見られない工夫だ。

Googleが「スマホ向け」と定義しているモデルのサイズ

では、実際にどれくらいのサイズのモデルがスマホ向けとされているのか。GoogleのAI Edge(MediaPipe LLM Inference API)の公式ドキュメントを見ると、次のように書かれている。

"Gemma-3n E2B and E4B are the latest models in the Gemma family... Gemma 3n models are designed for efficient execution on low-resource devices. ... This technique allows the models to operate at an effective size of 2B and 4B parameters..."

"Gemma-3 1B is the lightest model in the Gemma family... The model contains 1B parameters and open weights."

Googleが自社のオンデバイス推論API向けに名指しで推奨しているのは、Gemma 3 1B、そしてGemma 3n(実効サイズで2B・4B相当)だ。いずれも「low-resource devices(低スペック機器)向けに設計した」と明記されている。つまりGoogle自身の定義でも、スマホで無理なく動かす対象は1B〜4B級にとどまっている。

Pixel 10 Proのメモリは16GB(公式)

Androidのフラッグシップ機として、GoogleストアのPixel 10 Pro仕様ページを確認したところ、「16 GB RAM」と明記されていた。OS・他アプリと共有するメモリの中から、1B〜4Bクラスのモデル(量子化後で1GB〜数GB程度)を動かす分には現実的な余地がある計算になる。別記事で実測したMacBook Air(統合メモリ8GB)と比べても、Pixel 10 Proの16GBはむしろ余裕がある部類に入る。

一方でApple公式のiPhone仕様ページ(iPhone 17 Proのapple.com/iphone-17-pro/specs/)を確認したが、「GB RAM」「GB memory」に該当する記述は見当たらなかった。Appleはマーケティング向けの公式スペックページでメモリ容量を公表しない方針を長らく続けており、今回も実際にページを取得してこの点を確認できた。iOS版のPocketPal AIやMLC LLMがどれだけのモデルサイズまで実用的に扱えるかは、公式スペックだけからは分からない。

比較対象として、gpt-oss-20Bのサイズを見ておく

「ローカルAI スマホ」というクエリと隣接して「ローカルAI gpt-oss」というクエリもよく出てくる。gpt-oss-20Bがスマホでも動く範囲に入るのか、実際のファイルサイズを見ておく。

Hugging Face上のsafetensorsファイル3つをcurl -sILで調べたところ、合計は次の通りだった。

4,792,272,488 + 4,798,702,184 + 4,170,342,232
= 13,761,316,904 バイト ≒ 12.8 GiB

gpt-oss-20Bはネイティブでこの約12.8GBという重みサイズになる(MoEで全パラメータ約21Bのうちアクティブは一部だが、ディスクに置く重みファイル自体はこのサイズが必要)。Googleが「オンデバイス向け」として名指ししているGemma 3 1B・Gemma 3n(実効2B/4B)と比べると、ファイルサイズでおよそ3倍(4B想定時)から13倍(1B想定時)になる計算だ。16GBメモリのPixel 10 Proであっても、OSやほかのアプリと共存させながら12.8GB級のモデルを読み込むのは、1B〜4B級と同じ感覚では扱えない規模になる。

実際にgpt-oss-20Bをスマホの主要アプリ(PocketPal AI・MLC LLM)が公式に対応モデルとして掲載しているかどうかまでは、今回は確認していない。あくまで「サイズだけを比較するとこれだけ違う」という判定材料として示す。

サイズで区切って考えると

• サードパーティのローカルLLMアプリ自体は実在し、原理はPCのローカルLLMと同じ(llama.cppでGGUFモデルを動かす)。GPU・NPUを使う実装も確認できた
• 「スマホ向け」として配布元(Google)が名指ししているのは1B〜4B級。 これより大きいモデル(7B以上、まして20B級)を快適に動かせるかは、公式ドキュメントの範囲では確認できなかった
• Androidは公式にRAM容量を公表している機種が多い(Pixel 10 Proで16GB確認)一方、Appleは公表していない。 iPhoneでどこまで大きいモデルが実用的かは、公式スペックだけからは判断材料が得られない
• スマホでのローカルAI活用は、PCと同じ感覚で「大きいモデルほど良い」と考えるより、配布元が明示している1B〜4B級を起点に考えたほうが手堅い。PC向けのローカルLLMおすすめモデル10選で挙げている軽量モデル(Qwen3 1.7Bなど)は、スマホ側のサイズ感とも重なる

サイズ表と実機の体感は別物であること

• 実機でこれらのアプリをインストールして動かしたわけではない。 すべて公式README・公式ドキュメント・公式スペックページの記述と、モデルファイルサイズの実測にとどまる
• 生成速度・体感の実用度は確認していない。 モデルが「起動する」ことと「実用的な速度で応答する」ことは別の話で、この記事はサイズと公式の位置づけの整理に限定している
• iPhoneのメモリ容量。 Apple公式が公表していないため、非公式の分解情報などには当たっていない
• gpt-oss-20BがPocketPal AIの公式プリセット一覧に含まれていないことは確認できたが、GGUFモデルを手動で読み込んだ場合に実際に動くかどうかまでは確認していない。 また、MLC LLM側の対応モデル一覧（プリセット・非プリセットとも）は今回のセッションでは調査していない