Google、ローカル動作の拡散型テキスト生成モデル「Diffusion Gemma」を公開

1. GoogleがGemmaファミリーの新モデル「Diffusion Gemma」を公開。拡散型アプローチで256トークンを並列生成するとDeepMind公式は説明するが、Hugging Faceモデルカードは「1回の順伝播で15-20トークン」とし、一次資料同士で数値が食い違う
2. 従来の自己回帰型と比較して最大4倍の生成速度向上をうたうが、比較対象の自己回帰型モデルが何かは明示されていない（品質面の比較対象はGemma 4 26B A4Bと明示、15項目中14項目で下回る）
3. ローカル動作を前提とした開発者向けモデルで、コード生成やツール連携などの用途を想定

何が変わるのか

従来のLLMは「自己回帰型」──テキストを1トークンずつ順番に生成する。Diffusion Gemmaはこのアプローチを根本から変え、画像生成AIで使われる「拡散モデル」の手法をテキスト生成に応用した。

具体的には、256トークン（おおよそ日本語で100〜150文字相当）のブロックを一度に並列生成する。ノイズから段階的にテキストを「精製」していく仕組みで、Google DeepMindによると従来の自己回帰型と比較して最大4倍の生成速度が得られるとしている。

ローカル動作・開発者向け

Diffusion GemmaはGemmaファミリー（Google DeepMindのオープンモデルシリーズ）に属し、ローカル環境での動作を前提としている。クラウドAPIを経由せず、開発者の手元マシンで実行できる設計だ。

主な想定用途は以下のとおり。

• コード生成：関数やクラスの雛形など、構造が予測しやすいテキストの高速生成
• ツール連携：開発環境やCIパイプラインへの組み込み
• バッチ処理：大量のテキスト変換・分類タスクの高速化

トレードオフ：速度と品質

拡散型のアプローチには速度面のメリットがある一方、出力品質にはトレードオフが存在する。Google DeepMindの発表でも「reduced output quality」（出力品質の低下）が言及されている（この引用の出典URLは2026年8月14日時点で失効しており、現行の公式ページ・モデルカードでは同趣旨の記述を再確認できていない。詳細は記事末尾の但し書きを参照）。

自己回帰型が各トークンを前のトークンに依存して生成するのに対し、拡散型は並列生成であるため、長い文脈での一貫性や、微妙なニュアンスの表現では自己回帰型に劣る場面が想定される。

このため、Diffusion Gemmaは「最高品質の文章生成」よりも「構造化されたテキストの高速生成」に適したモデルと位置づけられる。

技術的な位置づけ

テキスト生成に拡散モデルを適用する研究は以前から存在していたが、実用レベルのモデルとしてGoogleがGemmaブランドで公開したのは注目に値する。

富士通が発表したPHOTONアーキテクチャ（Transformerの代替で475倍の推論性能を主張）とは異なるアプローチだが、いずれも「Transformer + 自己回帰」という現在の主流パラダイムに対する代替手法を模索する動きの一環である。

公称26B・推論時アクティブ3.8BのMoE

Google DeepMindの公式モデルページ（2026年8月14日確認）によると、DiffusionGemmaは「26B total Mixture of Experts (MoE) model that activates only 3.8B parameters during inference」──総パラメータ26B級のMoEで、推論時に実際に動くのは3.8Bだけという構成である。Gemma 4とGemini Diffusionの研究成果の上に構築されたとしている。

ただしパラメータ数の表記は情報源によって割れる。確認できた値をそのまま並べる。

配布先は公式ページ記載でHugging Face・Kaggle・Google Cloud Vertex AI Model Gardenの3つ。Hugging Faceのモデルidは google/diffusiongemma-26B-A4B-it である。DeepMind公式ページとHugging FaceのモデルIDは1語の「DiffusionGemma」表記だが、配布先の一つであるGoogle自身のKaggleページ（2026年8月14日確認）は「Google | Diffusion Gemma | Kaggle」と2語表記も使っており、本記事が初出時に用いた「Diffusion Gemma」表記が誤りとは言えない。確認できる範囲は「DeepMind公式ページとHFモデルIDは1語表記」までである。

Hugging Faceのモデルカードには、コンテキスト長は「Up to 256K tokens」、画像・動画入力に対応と記載されている。モデルカード冒頭は「multimodal, handling text, image, and video inputs」と明記し、対応能力の一覧にも「Video Understanding」が挙がる一方、仕様表の「Supported Modalities」欄はText, Imageのみで動画が載っておらず、モデルカード内でも表記が割れている。画像・動画入力への対応はDeepMindの公式モデルページ側には書かれていない。

並列生成の粒度についても一次資料同士で表現が割れている。DeepMind公式ページは「Generating 256 tokens in parallel with each forward pass」（1回の順伝播で256トークンを並列生成）としているのに対し、Hugging Faceのモデルカードは「parallel denoising of 256 tokens via diffusion sampling achieves low latency by generating 15-20 tokens per forward pass」（256トークンの並列denoisingにより、1回の順伝播あたり15-20トークンを生成して低レイテンシを達成）とし、モデル概要では「block-autoregressive」（ブロック単位の自己回帰）というアプローチだと説明している。本記事のリード・本文は前者（256トークンを一度に並列生成）の表現を採用しているが、後者の「1回の順伝播で15-20トークン」という記述とは数値が一致しない。同じGoogleの一次資料同士で表現が食い違っており、本記事ではどちらが実態をより正確に表しているかを判定できていない。

手元で動かすとき、何GB必要か

DeepMindの公式ページは「fits comfortably within the 24GB VRAM limits of a consumer NVIDIA RTX 5090 or 4090 when quantized」（量子化すれば消費者向けGPUの24GB VRAMに余裕をもって収まる）としている。

実際に配布されているファイルのサイズをHugging FaceのAPIで確認した値が以下（2026年8月14日時点）。単位はバイト÷1024の3乗で計算したGiBであり、HFのファイル一覧画面が表示する10進のGB（例：Q8_0は26.88GB）とは値が異なる。

注意すべきは、これがファイルサイズであって実行時のVRAM使用量ではない点だ。KVキャッシュとアクティベーションの分が別途乗るため、とくに256Kコンテキストを使う場合は上表より大きい容量が要る。

表を素直に読むと、24GiB（コンシューマ向けGPUのVRAM表記の慣例に合わせて表と同じGiB換算）に収まるのはQ6_K以下で、Q8_0（約25.0GiB）はファイルサイズだけで24GiBを超える。公式の「24GBに収まる」は4bit級の量子化を前提とした記述と読むのが自然だ。NVFP4版はNVIDIAが公開しており、公式ページはBlackwell世代GPUでのNVFP4ネイティブ対応に言及している。

ローカル実行するモデルの選び方全般はローカルLLMおすすめモデル10選で扱っている。

ライセンスはGemma Terms of UseではなくApache 2.0

Gemmaシリーズは従来、独自ライセンスである「Gemma Terms of Use」で配布されてきた。しかしDiffusionGemmaのHugging Faceモデルカードに記載されたライセンスは Apache License 2.0 で、リポジトリのメタデータ上も apache-2.0 である。モデルカードからリンクされているライセンス文書（ai.google.dev/gemma/docs/gemma_4_license）を開くと、内容はApache License 2.0だった。

Apache 2.0の範囲では、商用利用はロイヤリティフリーで許諾され、再配布時にはライセンス文の同梱と、改変したファイルへの変更告知が求められる。モデルの出力物に対する制限条項はApache 2.0には含まれない。

ただし同ライセンスページからは「Prohibited use」「Intended use statement」「Gemma Terms of Use」という別文書へのリンクも張られている。これら別文書がApache 2.0に上乗せの制約を課すかどうかは、今回確認できていない。ライセンス条件を業務利用の根拠にする場合は、この3文書を直接読む必要がある。

公式ベンチマークと「4倍」の測定条件

Hugging Faceのモデルカードに掲載されているスコアは以下のとおり。モデルカードは「Evaluation results marked in the table are for instruction-tuned models, with the recommended Entropy Bound (EB) sampler」と注記しており、指示チューニング済みモデルを推奨サンプラーで評価した値である。比較対象はモデルカードの表がそのまま明示している自己回帰型モデル「Gemma 4 26B A4B」で、原表の2列目にあたる。

15項目中14項目でGemma 4がDiffusionGemmaを上回るが、HLE（ツール無し）だけはDiffusionGemmaが11.0%とGemma 4の8.7%を上回っており、逆転している。

速度について、公式ページは「generates up to 4x faster token output (achieving over 1,000 tokens per second on a single NVIDIA H100 GPU)」──最大4倍、H100 1枚で1,000トークン/秒超──と記載している。Hugging Faceのモデルカードはさらに条件を明示しており、「exceeding 1100 tokens per second」を H100・FP8・low batch size settings（低バッチサイズ設定）で計測した値としている。

つまり「4倍」はデータセンター向けGPUを1枚使い、バッチサイズを絞った条件下の数字である。手元のRTX 4090で4bit量子化版を動かした場合に同じ倍率が出るとは限らない。加えて、この「4倍」という速度比較の測定で比較対象とした自己回帰型モデルが具体的に何であるかは、公式ページ・モデルカードのいずれにも明示されていない（品質面のベンチマーク比較では、上表のとおり比較対象はGemma 4 26B A4Bと明示されている。速度の比較対象とは別の話である）。

自己回帰型に代わる高速化という問題意識では富士通のPHOTONアーキテクチャも同じ方向を向くが、あちらはアーキテクチャそのものの置き換えを主張しており、測定条件も別物である。

リンク切れの訂正とベンチマーク未検証の但し書き

出典:

• DiffusionGemma - Google DeepMind
• google/diffusiongemma-26B-A4B-it モデルカード - Hugging Face
• Gemma 4 license - Google AI for Developers

但し書き:

• 「最大4倍の速度向上」はGoogleの発表に基づく数値であり、ハードウェア構成や入力条件によって変動しうる
• 出力品質の低下の程度について、初出時は「定量的なベンチマーク比較がまだ十分に公開されていない段階」と書いたが、2026年8月14日にHugging Faceモデルカードを確認したところ、Gemma 4 26B A4Bとの定量比較が15項目公開されていた（本文のベンチマーク表を参照）。ほとんどの項目でGemma 4がDiffusionGemmaを上回るが、HLE（ツール無し）のみDiffusionGemmaが上回っている
• モデルの具体的なパラメータ数・ライセンス条件の詳細は公式ページを参照されたい（初出時の記述。2026年8月14日に一次確認した値を本文に追記した）
• 初出時に出典として挙げていたURL（deepmind.google/models/diffusion-gemma/）は2026年8月14日時点で404を返す。現行の公式ページは deepmind.google/models/gemma/diffusiongemma/ であり、出典欄を差し替えた
• 本文中の「reduced output quality（出力品質の低下）」は初出時に参照した公式ページの記述だが、当該URLが失効しているため再確認できていない。2026年8月14日時点の公式モデルページとHugging Faceモデルカードには、同趣旨の記述を確認できなかった
• 容量の表はHugging Faceで配布されているファイルサイズの合計であり、実行時のVRAM使用量ではない。またコミュニティ製の量子化版（unsloth・nvidia）はGoogle公式のビルドではない
• Ollama公式ライブラリ（ollama.com/library/diffusiongemma）は2026年8月14日時点で404を返した。Ollamaでの配布は確認できていない
• Kaggleのモデルページは存在を確認したが、提供バリアントの一覧までは読み取れていない
• ベンチマークはすべてGoogleがモデルカードで公表した値で、第三者による再現・検証は確認していない
• パラメータ数は情報源によって26B／25.2B／25,823,781,228と表記が割れており、どれが正式な公称値かは確認できていない