2026年9月5日 土曜日
AI時短ラボ
研究· 約11

「Intern-S2-Preview」とは何か──397Bの本体を凍結したまま、4Bの「記憶デコーダ」だけ足して専門特化させる科学AI

科学分野の理解・推論・生成・長期タスクを支える基盤モデル「Intern-S2-Preview」は、397Bパラメータの本体に加えて時系列モデリングを組み込み、別枠の記憶拡張モジュール「Intern-MemDec-4B」を足すだけで、397B本体を一切変更せずにBiology-Instructionsの平均スコアを56.92から60.32へ改善したと報告している。海外では397Bのサイズやgguf量子化を探す検索がすでに発生している。

「Intern-S2-Preview」とは何か──397Bの本体を凍結したまま、4Bの「記憶デコーダ」だけ足して専門特化させる科学AI
執筆・編集:
目次

科学的発見には、異種混合のモダリティにまたがる証拠を推論し、科学的なツールや環境と対話し、長期にわたるタスクで進捗を維持できるAIシステムがますます必要になっている。2026年8月13日にarXivで公開された論文「Intern-S2-Preview: Scientific Agentic Foundation Model」は、この要求に応える科学エージェント向け基盤モデルのシリーズを提示している。開発元は論文の著者欄に明記されている「Intern-S2-Preview Team, Shanghai AI Laboratory」——InternLMシリーズを手がけてきた上海AI研究所だ。

3行まとめ

  • Shanghai AI Laboratoryが2026年8月13日に公開した科学AIエージェント向け基盤モデル。397B(Hugging Face実測では404Bパラメータ)の本体に加え、本体を凍結したまま追加学習できる4Bの「Memory Decoder」拡張を導入している
  • Memory Decoder拡張「Intern-MemDec-4B」は、397B本体を一切変更せずにBiology-Instructionsの平均スコアを56.92から60.32へ改善したと報告
  • Hugging Faceには「Intern-S2-Preview-397B」(404Bパラメータ)と「Intern-S2-Preview」(36Bパラメータ)という名前が紛らわしい別モデルが両方公開されており、混同に注意が必要

学習パイプラインの中身

論文によれば、学習パイプラインはまず、レンダリングされた科学文書・画像とテキストが交互に並んだデータ・多様な科学コーパスを対象にした「科学マルチモーダル事前学習」から始まる。その事前学習済みチェックポイントを起点に、教師ありファインチューニング・スケーラブルなマルチタスク強化学習・ブラックボックス/ホワイトボックスのagentic RL・オンポリシー蒸留からなる統一された事後学習パイプラインを適用する。このパイプラインは、部分ロールアウトとオフポリシー補正・適応的な長さ正則化・オンライン投機的デコーディング・頑健なマルチタスク最適化・エージェントタスク向けのトレース対応経験組み立てといった、ロールアウトと学習の安定性・効率を改善する実務的な技術によって支えられているという。

397Bの本体を凍結したまま専門特化させる「Memory Decoder」

アーキテクチャの面では、「Intern-S2-Preview-397B」が時系列モデリングを、効率的な長系列理解から数値予測(numerical forecasting)にまで拡張している。加えて「Memory Decoder」という、397Bの凍結されたバックボーンを一切変更せずに素早い科学分野特化を可能にする別枠のメモリ拡張パスが検討されている。

科学・マルチモーダル・エージェント・汎用のベンチマークにわたる評価では、Intern-S2-Preview-397Bが複数の設定で競争力のある、あるいは首位の結果を達成したとしている。時系列モジュールはSciTSでの科学信号理解と予測を改善し、独立した拡張である「Intern-MemDec-4B」は、凍結された397Bバックボーンを変更することなく、Biology-Instructionsの平均スコアを56.92から60.32に改善したと報告されている。

Hugging Face上には名前が紛らわしい2つの別モデルがある

Hugging Faceのinternlm組織ページを確認すると、「Intern-S2」を冠したモデルが複数公開されていることが分かった。紛らわしいのは、論文が扱う397B本体に対応するモデルが「Intern-S2-Preview**-397B**」という名前で、単に「Intern-S2-Preview」(397Bが付かない)という別のモデルも並んで公開されている点だ。

モデル名(Hugging Face) パラメータ数(実測) 備考
internlm/Intern-S2-Preview-397B 404B(Safetensors実測) 論文が主に扱う本体モデル。ダウンロード数は実測で290(直近1ヶ月)
internlm/Intern-S2-Preview 36B 397B版とは別の、小型のモデル
internlm/Intern-S2-Preview-397B-FP8 397B版のFP8量子化版
internlm/Intern-S2-Preview-FP8 36B版のFP8量子化版

397Bという名称は論文中の呼称で、実際にHugging Faceが表示するSafetensorsの合計パラメータ数は404Bだった(MoE構成のため、名称に使われる「アクティブパラメータ数」等と実測値がずれている可能性がある)。いずれにせよ、記事冒頭で扱っている「Memory Decoderで底上げされる397B本体」は、Intern-S2-Preview-397Bの方を指しており、Intern-S2-Previewという似た名前の36Bモデルとは別物である点は注意したい。

一般ベンチマークでは知識・QAで強く、エージェント系タスクではClaude Opus 4.8が上

論文のTable 3には、Intern-S2-Preview-397Bを、Qwen3.5-397B-A17B・DeepSeek-V4-pro・Kimi-K2.7-Code・GLM-5.2・GPT-5.5・Gemini-3.1-Pro・Claude-Opus-4.8という主要モデルと比較した結果が掲載されている。抜粋すると次の通り。

ベンチマーク 内容 Intern-S2-397B GPT-5.5 Claude-Opus-4.8 Gemini-3.1-Pro
MMLU Pro 知識・推論 89.75 88.20 90.12 91.00
SimpleQA-Verified 事実QA 69.90 64.30 43.30 75.60
SWE-Bench-Pro ソフトウェア工学 61.56 58.60 69.20 54.20
TerminalBench 2.1 ターミナル操作 67.42 79.40 84.60 73.80
WildClawBench 実世界エージェントタスク 44.68 58.20 64.72 40.80

知識・事実QA系のベンチマーク(MMLU Pro、SimpleQA-Verified)では上位に食い込む一方、TerminalBench 2.1やWildClawBenchのようなエージェント実行系のタスクでは、Claude-Opus-4.8やGPT-5.5に見劣りする結果になっている。科学分野特化モデルとして、汎用のコーディング・エージェント実行力よりも知識・推論力に強みがある、という傾向が読み取れる。

海外ではすでに量子化界隈が動いている

今回の候補選定の過程で得られたGoogleサジェストのデータでは、「intern s2 preview 397b」「intern s2 preview gguf」というパラメータ数や量子化フォーマットを具体的に探す検索がすでに発生していることが確認されている。397Bという規模のモデルをローカルで動かすにはgguf化・量子化が実務上の前提になるため、この検索傾向は「海外のローカルLLMコミュニティですでに話題化が始まっている」ことを示すシグナルだと読める。

「本体を触らずに専門特化させる」という省エネ設計

397Bという巨大なモデルを、新しい専門分野に対応させるたびに丸ごと再学習するのは、計算資源の面でもコストの面でも現実的ではない。Intern-S2-Previewが導入した「Memory Decoder」という別枠の拡張パスは、この問題への対処法の一例だと理解できる。本体(397B)は凍結したまま触らず、比較的小さな追加モジュール(4B)だけを学習させて特定分野の能力を底上げする、という設計だ。本体を毎回作り直さずに済むぶん、新しい科学分野への対応を素早く追加できる利点がある一方、本体そのものの基礎能力自体は向上しないという制約も併せ持つ。この記事の別項で紹介したMacaron-V1-Ventiの「Mixture of LoRA」も、巨大な本体に軽量な追加モジュールを載せるという発想の点で近い設計思想を採っており、2026年のモデル設計で繰り返し見られる潮流の1つだと言える。

397Bというサイズの推論コストは試算できていない

この記事はarXivの本文PDF(Table 2〜5を含む)と、Hugging Face上の公式モデルページ4件を確認して書いている。56.92から60.32という数字は論文が報告した評価結果で、本文のTable 2(Biology-Instructions全21タスクの内訳)まで遡って確認したが、この記事では代表的な数値の抜粋にとどめている。397Bというパラメータ規模のモデルを実際に動かすのに必要なGPUメモリや推論コストについては、手元では試算していない。gguf量子化版については、Hugging Face公式が配布しているのはFP8量子化版(Intern-S2-Preview-397B-FP8)までで、gguf形式の公式配布は今回確認した範囲では見当たらなかった。「intern s2 preview gguf」という検索が既に発生しているのは、コミュニティ側での非公式な量子化への関心を示すシグナルであり、公式のgguf配布があることを意味しない、という点は明確にしておきたい。

関連記事

シェア: ポスト はてブ

出典・参照資料

AIニュースの解説を動画でも

YouTubeでは注目ニュースの背景を解説し、Xでは新着記事をお知らせしています。

コメント

まだコメントはありません。最初のコメントを書いてみませんか?

AIについて聞きたいことはありますか?

質問箱で無料で受け付けています。回答は公開され、他の方の参考にもなります。

質問箱を見る →

新しい記事をメールで受け取る

AIの新しい発表を、出典付きで整理して届けます。

関連記事

LLMが書いたGPUカーネルの「正解率」は本当か──12ゲート検証器が2,638件を洗い直すと4割近くが壊れていたの記事画像
研究09.05読了11

LLMが書いたGPUカーネルの「正解率」は本当か──12ゲート検証器が2,638件を洗い直すと4割近くが壊れていた

出典 ─ A Contract-Grade Verifier for LLM-Generated GPU Kernels, and a Native Blackwell Backward for the Gated-Linear-Recurrence Family
絶対に失敗しないテストは、実は壊れている──ソフトウェアテスト理論の『Oracle Anchoring』の記事画像
研究08.27読了7

絶対に失敗しないテストは、実は壊れている──ソフトウェアテスト理論の『Oracle Anchoring』

出典 ─ Oracles That Cannot Fa
論文をAIに再現実装させると、コードは「動くのに違うもの」になる──『Semantic Alignment Units』で測る意味的ドリフトの記事画像
研究08.27読了7

論文をAIに再現実装させると、コードは「動くのに違うもの」になる──『Semantic Alignment Units』で測る意味的ドリフト

出典 ─ SA-Bench: Evaluating S
「AI4AI at Test-Time」とは何か──強いモデルが弱いモデルのためにharnessを設計する、学習不要の能力転移の記事画像
研究09.05読了11

「AI4AI at Test-Time」とは何か──強いモデルが弱いモデルのためにharnessを設計する、学習不要の能力転移

出典 ─ AI4AI at Test-Time: St
「Agentic ESOpt」とは何か──強化学習ではなく「進化戦略」でエージェントを鍛える、GPUに優しいやり方の記事画像
研究09.04読了12

「Agentic ESOpt」とは何か──強化学習ではなく「進化戦略」でエージェントを鍛える、GPUに優しいやり方

出典 ─ Agentic ESOpt: Fine-Tu
強化学習環境を「作り直さず、着せ替える」──EnvHarnessは静的な訓練環境をラップして弱点を突くの記事画像
研究09.04読了12

強化学習環境を「作り直さず、着せ替える」──EnvHarnessは静的な訓練環境をラップして弱点を突く

出典 ─ EnvHarness: Awakening
『記憶』だけを6.9Bパラメータまで太らせたら、モデル本体を大きくするより効率が良かったの記事画像
研究09.04読了12

『記憶』だけを6.9Bパラメータまで太らせたら、モデル本体を大きくするより効率が良かった

出典 ─ Memory Decoder at Scal
「VoiceMem」とは何か──音声対話AIに「左脳」と「右脳」を分けて持たせる記憶アーキテクチャの記事画像
研究09.04読了12

「VoiceMem」とは何か──音声対話AIに「左脳」と「右脳」を分けて持たせる記憶アーキテクチャ

出典 ─ VoiceMem: Streaming Du