AI時短ラボ
検索
モデル

IBM、チャット・判定・音声認識を1つのエンドポイントで扱う「Granite Switch 4.1(グラナイト スイッチ)」を公開8Bと30B、VRAMは基本モデルとほぼ同じと説明

執筆:約14分で読めます

IBMは2026年10月15日(米国時間)、Hugging Faceのブログで「Granite Switch 4.1」の8Bと30Bを公開した。判定用のDecision aLoRA、安全判定のGuardian aLoRA、音声文字起こしのGranite-Speech-5.0-Turbo-CTCを1つのモデルにまとめ、VRAMは基本モデルとほぼ同じとIBMは説明している。

IBM、チャット・判定・音声認識を1つのエンドポイントで扱う「Granite Switch 4.1(グラナイト スイッチ)」を公開──8Bと30B、VRAMは基本モデルとほぼ同じと説明
目次

IBMは2026年10月15日(米国時間)、Hugging Faceのブログで「Granite Switch 4.1(グラナイト スイッチ)」の8Bと30Bを公開しました。チャットの応答、判定(Decision・Guardian)、音声の文字起こしを、1つのモデル・1つのホスト型エンドポイントで切り替えて扱えるモデルです。ブログの公開は日本時間10月16日5時台で、モデルカードのリリース日は10月14日と書かれています。ライセンスはApache 2.0です。

3行まとめ

  1. IBMが「Granite Switch 4.1」の8Bと30Bを公開。Decision aLoRA、Guardian aLoRA、Granite-Speech-5.0-Turbo-CTC(470M・英語)を1つのモデルに内蔵した(IBM発表)
  2. 4つの機能を1つにまとめても、使うVRAMは基本モデルとほぼ同じとIBMは説明。判定はチャットで作ったKVキャッシュを再利用する
  3. 内蔵の音声認識は英語のみで、音声エンコーダーとLLMはまだ一緒に学習されていない。他社との比較はIBM自身の説明で、Guardianのモデルカードの表ではRAGの幻覚検出で他社3モデルを下回る項目もある

本記事の内容は、日本時間10月16日5時台に公式ページで確認したものです。

Granite Switch 4.1で何ができるのか

IBMのブログによると、Granite Switchは「モジュール式にモデルを作る」プロジェクトで、「last spring」に始まったとされています(年はブログに明記なし)。今回の4.1の8Bと30Bには、次の3つが入っています。

部品 IBMの説明
Decision aLoRA 汎用の判定用。モデルカードでは、状態と選択肢付きの質問を渡すと、1回の計算で選択肢ごとの確率(softmax)を返す
Guardian aLoRA 安全に関する判定用。モデルカードでは、有害性・脱獄(jailbreak)・暴言・暴力・性的内容・社会的偏見・非倫理的行為を検出する
Granite-Speech-5.0-Turbo-CTC 音声の文字起こし用。IBMはOpenASR Leaderboardで最速のASRモデルと説明

ブログは、この3つに基本モデルを加えた全部を「1つのモデルに合成」しており、GPU上のVRAM使用量は基本モデル単体とほぼ同じ、つまり「より少ないGPUでより多くの機能」と書いています。

仕組みの核は「Activated LoRA(aLoRA)」です。GitHubのREADMEによると、通常のLoRAはアダプターごとに学習したKVの分布が違うため、切り替えるたびにKVキャッシュを捨てて計算し直す必要があります。aLoRAは共通の正規化したKVキャッシュに対して学習されているので、1つのチェックポイントに同居でき、制御トークンを入力に置くと、その位置から該当アダプターが働きます。ブログは、チャットの生成で作ったKVキャッシュをその後のアダプターによる判定に再利用できるとも書いています。

使い方の例として、モデルカードには音声入力の呼び出しがあります。OpenAI互換のクライアントから、input_audioを含むメッセージを送ると、内蔵の音声モデルが文字起こしし、その文章が音声部分の代わりにチャットの文脈に差し込まれます。判定は、リクエストのchat_template_kwargsにadapter_nameを指定して切り替えます。

誰がいつから使えるのか・日本では

モデルはHugging Faceで公開されており、バックエンドはHugging Face TransformersとvLLMと書かれています。8Bのモデルカードのリリース日は2026年10月14日です。8Bと30Bはどちらも、基本モデル(Granite 4.1の8Bと30B、コンテキストは128K)にDecision・Guardian・音声認識を載せた同じ構成で、30Bの基本モデルにも同じ128Kの表記があります。

「全アダプター入り・音声なし」の版として、-preview付きの3B・8B・30Bも別に公開されています。GitHubのREADMEのクイックスタートは、今回確認した時点ではこの-previewのモデル名を使った例でした。

日本の読者にとって大事なのは言語です。8Bのモデルカードの基本モデルの対応言語には、英語、ドイツ語、スペイン語、フランス語、日本語、ポルトガル語、アラビア語、チェコ語、イタリア語、韓国語、オランダ語、中国語が並びます。一方、内蔵の音声認識(470Mパラメータ)は英語のみです。音声認識モデル単体のモデルカードにも「Supported Languages: English」とあります。日本語の音声を文字にする用途には、今回の発表の範囲では使えません。

料金は、モデルがApache 2.0の公開重みなので、自分のGPU環境で動かす前提です。本記事が確認したページに、IBMが提供する有料のホスト型サービスの料金は載っていませんでした。

前と何が違うのか

ブログは、判定モデル(decision model)自体は新しくないとしています。IBMは以前の「Granite Libraries」で、判定やその他のタスク向けアダプターを公開済みで、ブログの説明に沿うと、今回はそれを組み合わせる「Switch」に、新しい汎用のDecision aLoRAと音声認識を足した形です。

比較についてのIBMの主張は次のとおりです。

  • Guardian aLoRAは、安全関連の判定タスクで平均すると、Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions、Clef-Flashを上回る(IBMのブログ)
  • Granite-Switch-4.1-30B(基本のGraniteを凍結し、特化型aLoRAを4つ)と、Jev-27B(Qwen系の基本モデルを凍結し、汎用の判定LoRAを1つ)で、実世界の5ステップのRAGワークフローを競わせたところ、前者のほうがかなり速く完了した(IBMのブログ)
  • 3BのカスタムGranite Switchでゲーム「Doom」を操作させたところ、毎秒60〜100回の判断ができた。IBMはJevの報告値として毎秒10回を挙げ、このモデルは遊びながら状況を実況し、質問にも答えられるとしている(IBMのブログ)

判定性能の数字は、モデルカードにも載っています。Decision aLoRAを、公開のDecision Index(高速サブセット1,068行、edition-v0.3)で評価した結果です。

モデル Overall Knowledge Language Retrieval Tools Arts
Granite Switch 4.1 8B 42.9 29.1 48.9 49.8 59.8 18.0
Granite Switch 4.1 30B 50.1 32.4 58.6 49.8 76.5 26.4

どちらも0〜100のスコアです。このDecision Indexの表には、他社モデルの数字は並んでいません。

他社モデルとの数字の比較は、Guardian側のモデルカード(granitelib-guardian-r1.0のguardian-core)にあります。「最良の学習済みアダプター」とブログが挙げた4モデルを並べた表で、IBMの測定です。

指標 最良の学習済みアダプター Jev 1.13 Microsoft-Decision-1 gpt-6-luna-decisions Clef-Flash
OOD Safety(F1) 0.810 0.779 0.787 0.769 0.761
RAGの幻覚検出 LM-AggreFact(BAcc) 0.757 0.783 0.778 0.764 0.672
関数呼び出しの幻覚検出 FC Reward Bench(BAcc) 0.790 0.689 0.741 0.731 0.542

安全性と関数呼び出しでは上回っていますが、RAGの幻覚検出ではJev 1.13、Microsoft-Decision-1、gpt-6-luna-decisionsを下回っています。ブログの「平均すると上回る」は、こうした項目ごとの差を含んだ説明です。なお、ブログでは「GPT-Luna-Decisions」、このモデルカードでは「gpt-6-luna-decisions」と表記されています。

公開直後の8Bはダウンロード28件、READMEはまだ3B-previewのまま

日本時間10月16日5時36〜37分に、ブログと関連ページを順に取得しました。そのときの8Bのモデルカードには、ダウンロード数28、いいね0と表示されていました。公開直後のページです。また、GitHubのREADMEの紹介文とクイックスタートは、先に触れたとおり-previewの3Bのモデル名のままで、今回の8B・30Bの非プレビュー版を前面に出した書き方にはまだなっていませんでした。実際にモデルを動かして試したわけではないので、速度や精度は確認していません。

音声は英語だけ、速さの比較はIBMの説明だけ

  • 音声は英語のみで、結合も途上: モデルカードによると、音声エンコーダーとLLMはまだ一緒に学習されておらず、両者をつなぐ学習済みの射影もありません。制約として、英語のみ、出力は小文字・句読点なし、デコード時の制御なしと書かれています
  • 性能の主張はIBM自身の比較: 他社の判定モデルとの比較や、RAGワークフローの速度、Doomの毎秒の判断数は、ブログ上のIBMの説明です。Doomの比較相手の数字は、IBMがJevの報告値として引用したものです。詳細なデータはIBMが「今後数週間で公開する」と書いており、本記事の時点では第三者による検証は確認していません
  • Decisionは一部の機能が未整備: モデルカードによると、decisionはGranite Librariesに入ったものの、Mellea(GitHubのREADMEによると、LLMの出力を型で制約するPythonのライブラリ)の対応するintrinsicはまだなく、低レベルの呼び出しを使う必要があります。独自アダプターを学習するためのAdapter SDKも「公開予定」の段階です
  • 日本での提供: 今回確認したページに提供地域の制限は書かれていませんが、日本語の音声認識は含まれません。日本語の運用例は、今回確認したページにはありませんでした

IBMのGraniteについては、今回の基本モデル(4.1)より後に出た「Granite 4.2」の作り方を整理した記事があります。→ IBM「Granite 4.2」の作り方

突き合わせたIBMとHugging Faceの6ページ

確認時刻は、いずれも日本時間2026年10月16日5時36〜37分です。

本記事は続報があり次第更新します。

この記事でよく聞かれること

Granite Switch 4.1とは何ですか?
IBMがHugging Faceで公開した、チャット・判定(Decision)・安全判定(Guardian)・音声文字起こしを1つのモデルにまとめた「Granite Switch」の4.1版です。サイズは8Bと30Bの2つで、IBMのブログによると1つのホスト型エンドポイントから自然言語の応答、判定、音声からの文字起こしを切り替えて使えます。ライセンスはApache 2.0です。
Granite Switch 4.1の音声認識は日本語に対応していますか?
音声認識は英語のみです。モデルカードによると、組み込まれているGranite-Speech-5.0-470M-TurboCTCは英語のモデルで、Granite Switchの音声入力には英語のみ・出力は小文字で句読点なしという制約も書かれています。一方、基本モデルのGranite 4.1の対応言語には日本語が含まれると8Bのモデルカードにあります。
Granite Switch 4.1はどうやって使えますか?
モデルはHugging Faceで公開されており、モデルカードによるとHugging Face TransformersとvLLMで動かせます。GitHubのgranite-switchリポジトリのコードはApache-2.0で、pipでインストールしてvLLMのOpenAI互換サーバーとして起動する手順が書かれています。
VRAMは増えないのですか?
IBMのブログは、基本モデル・Decision・Guardian・音声認識の4つを1つのモデルにまとめても、GPU上のVRAM使用量は基本モデル単体とほぼ同じと説明しています。これはIBMの説明で、本記事では測定していません。
シェア: ポスト はてブ

出典・参照資料

AI時短ラボ

大きいニュースはYouTubeでも解説しています。Xでは新着記事をお知らせしています。

コメント

まだコメントはありません。最初のコメントを書いてみませんか?

AIについて聞きたいことはありますか?

質問箱で無料で受け付けています。回答は公開され、他の方の参考にもなります。

質問箱を見る →

関連記事

Meta「Muse Spark Open(ミューズ スパーク オープン)」公開──公式の表で米国製のInkling・Nemotronを上回り、Kimi K3には20項目中8項目で上回る、Mac Studio 2台で動くの記事画像動画

Meta「Muse Spark Open(ミューズ スパーク オープン)」公開 公式の表で米国製のInkling・Nemotronを上回り、Kimi K3には20項目中8項目で上回る、Mac Studio 2台で動く

モデル
Swiss AI Initiative、完全オープンの「Apertus(アペルトゥス)1.5」リリースノートと技術報告書を公開──8B・70Bが画像・音声の理解と思考モードに対応、コンテキストは262,144トークンの記事画像

Swiss AI Initiative、完全オープンの「Apertus(アペルトゥス)1.5」リリースノートと技術報告書を公開 8B・70Bが画像・音声の理解と思考モードに対応、コンテキストは262,144トークン

モデル
Liquid AI(リキッドAI)、アクティブ2Bの推論モデル「LFM2.5-24B-A2B」をオープンウェイトで公開──LiveClawは48.09でQwen3.6-35B-A3Bの38.19を上回る(同社測定)の記事画像

Liquid AI(リキッドAI)、アクティブ2Bの推論モデル「LFM2.5-24B-A2B」をオープンウェイトで公開 LiveClawは48.09でQwen3.6-35B-A3Bの38.19を上回る(同社測定)

モデル
緑の地にハチドリのマークとKolibriの文字動画

ドイツ製AI「Kolibri」を手元のMacで動かした 78Bでも1語ごとに動くのは3.46B、2bit版で毎秒約111トークン。日本語の質問には答えられなかった

モデル実機で検証
RedNoteのdots3-noteをllama.cppがサポート──280Bのマルチモーダル、動くのは16B、Apache 2.0の記事画像

RedNoteのdots3-noteをllama.cppがサポート 280Bのマルチモーダル、動くのは16B、Apache 2.0

モデル
IBMの音声認識モデル「Granite Speech 5.0 TurboCTC」──470Mでデコーダなし、1フォワードパスで文字起こしの記事画像

IBMの音声認識モデル「Granite Speech 5.0 TurboCTC」 470Mでデコーダなし、1フォワードパスで文字起こし

モデル
LoRAとは──元の重みを凍結し、小さな行列2つだけを学習する仕組み。原論文はGPT-3 175Bで「学習パラメータ1万分の1・GPUメモリ3分の1」、QLoRAは「65Bを48GB未満」。画像生成での使われ方と作り方の流れの記事画像

LoRAとは──元の重みを凍結し、小さな行列2つだけを学習する仕組み。原論文はGPT-3 175Bで「学習パラメータ1万分の1・GPUメモリ3分の1」、QLoRAは「65Bを48GB未満」。画像生成での使われ方と作り方の流れ

活用
Liquid AIの小型モデルLFM2.5を「速く・正確に」する2本──①DSparkの草稿モデル(約300M)で投機的デコード、出力は同一のままH100で最大3.18倍・M4 Max MacBookで最大2.87倍、関数呼び出しの遅延を57%削減 ②350MモデルをGRPOで100ステップ(無料枠のColab)微調整し、構造化出力の遵守率をIFStructで22.6%→29.7%の記事画像

Liquid AIの小型モデルLFM2.5を「速く・正確に」する2本 ①DSparkの草稿モデル(約300M)で投機的デコード、出力は同一のままH100で最大3.18倍・M4 Max MacBookで最大2.87倍、関数呼び出しの遅延を57%削減 ②350MモデルをGRPOで100ステップ(無料枠のColab)微調整し、構造化出力の遵守率をIFStructで22.6%→29.7%

検証(発表 8月20日)