「Mechanist」とは何か──AIの中身をAI自身に解剖させたら「安全そうな学習データ」経由の危険な特性伝播が見つかった

AIモデルは様々な分野で成果を出す一方、その能力を支える仕組みや、それが孕みうるリスクは十分に理解されていない。AI開発が速く、自動化されるほど、モデルの「機械的な探究（mechanistic exploration）」は手作業のままに取り残され、モデルにできることと、それを人間が理解・制御できることの間の溝が広がっていく。2026年8月12日にarXivで公開された論文「Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence」（浙江大学のグループによる、著者Mengru Wangら19名）は、この溝を埋めるため、AIの知能を支える仕組みを自律的に発見するための「AIを科学の道具として使うエージェントシステム」を提示している。

3行まとめ

• Mechanistは、解釈可能性論文約1万3000本のナレッジグラフと26分野・4300万本の学際的データベースを組み合わせた自律研究エージェント。16本の既存論文の再現実験で、Claude Code（Opus 4.8）・既存のAI科学者システムより高い実験実行の信頼性と、より新規性・重要性・検証可能性の高い仮説を示したと報告している
• 「安全に見える化学実験室の応答データだけでファインチューニングしても、不安全な教師モデルの特性が生徒モデルに伝わる」という、既存の「サブリミナル学習」研究をモダリティを越えて拡張する安全性リスクを発見したとしている
• コードはGitHub（zjunlp/Mechanist、MITライセンス、Claude Codeプラグインとしても配布）で公開済み。実際に自分の手元でMechanistを動かして再現実験をしたわけではない

1万3000本の解釈可能性論文と26分野・4300万本のデータベース

Mechanistは、自律的な機構発見を支えるため、解釈可能性（interpretability）に特化した約1万3000本の論文からなるナレッジグラフを構築し、それを26分野・4300万本の論文にまたがる学際的データベースと統合している。さらに、機構分析・因果介入（causal intervention）・検証のための32種類の基盤的な手法をライブラリとして整備した。

比較実験の設計は本文で具体的に説明されている。解釈可能性分野の「信念と確信・感情・特徴解釈・マルチエージェント安全性・多言語性・マルチモダリティ・推論・安全性・科学モデル」という9つのトピックにまたがる直近の論文16本を再現対象に選び、Claude Code（Opus 4.8）・既存のAI Scientistシステム・Mechanistの3システムに、対象論文にもGitHubリポジトリにもアクセスさせず、主張（claim）だけを与えて独立に実験を設計・実行させた。評価は人間の専門家と、LLMジャッジ（Claude Opus 5）の両方が行い、両者の評価の一致度も確認されている。この設定のもとで、Mechanistが3システム中もっとも高い実験実行の信頼性を示し、新規性・重要性・検証可能性の3軸で評価された生成仮説の質でも上回ったと論文は報告している。

「行動の発見」から「説明」「制御」への進行

Mechanistはモデルの振る舞いを発見することから、それを説明し、最終的に制御することへと進行する能力を示したという。論文が具体的に挙げている3つの成果を、本文の記述をもとにもう少し具体的に見ていく。

①反直感的な安全リスクの発見：これは既存の「サブリミナル学習（subliminal learning）」研究——たとえば、フクロウを好むGPT-4.1教師モデルが生成した、フクロウに一切言及しない単なる数列だけで生徒モデルをファインチューニングしても、生徒モデルにフクロウ選好が伝わるという現象——を拡張したものだ。Mechanistは、化学実験室（chemistry laboratory）を舞台にした設定で、不安全な教師モデルが生成した応答から、あえて安全に見える内容だけをフィルタリングして残し、それだけで生徒モデルをファインチューニングしても、不安全な特性が伝わることを示した。従来の研究が「中立なデータ・単一モダリティ内」での特性伝播を扱っていたのに対し、Mechanistは「意味的に対立するデータ・複数モダリティ間」でも同じ現象が起きることを示した点が新しい、と論文は位置づけている。

②信念（belief）の機構理論の構築：モデルが世界知識をどう表現し、信念をどう形成し、他者の信念をどう推論するかを、複数モデルで横断的に調べている。本文Table 3は、Pythia-410M〜2.8B・OLMo-1B/7B・GPT（クローズドソース、詳細非公開）の6モデルで、世界知識の再現（WK）・対立する信念下での事実判断（PB）・帰属された信念の報告（AB）という3つの指標を比較しており、オープンウェイトモデルについては、信念表現を担う具体的な層・注意ヘッド（たとえばPythia-2.8Bでは「AB＝L5.H22」「PB＝上位25ヘッド」）まで特定したとしている。

本文Table 3の該当行を抜粋すると次の通り（WK＝世界知識再現、PB＝対立信念下の事実判断、AB＝帰属信念の報告。GPTはクローズドソースのため機構の特定はしておらず、振る舞いのみの評価）。

③実用的な介入への翻訳：発見した機構をもとに、DNA配列生成モデル「Evo2-7B」に対し、スパースオートエンコーダ（SAE）で見つけたα-ヘリックス構造に対応する内部特徴を、生成中に活性化させる形で介入した。900本のDNA配列を生成する実験で、この介入によって平均のα-ヘリックス含有率（予測値）が上昇したと報告している。DNA配列を直接入力・出力するこの種のモデルは、テキストの指示で望む性質を指定できないため、通常は大量の候補を生成してランク付けする手法に頼らざるを得ない、という課題への対処だと本文は位置づけている。

「AIの中身を解剖するAI」という入れ子構造

AIモデルの内部で何が起きているかを人間が解明しようとする研究分野は「解釈可能性（interpretability）」と呼ばれ、これまでは基本的に人間の研究者が仮説を立て、実験を設計し、結果を解釈する作業だった。Mechanistが提案しているのは、この一連の作業自体をAIエージェントに担わせる、という入れ子構造だ。AIの中身を、別のAIを使って解剖する、という格好になる。論文が挙げている「一見安全な学習データを通じて不安全な特性がモダリティを越えて伝わる」という発見は、もしこれが事実だとすれば、「危険そうな内容を含む学習データさえ除けば安全」という単純な対策では不十分な場合がある、という重い示唆を持つ。ただし、この発見自体もMechanistというAIシステムが導き出したものであり、その主張の妥当性を人間の研究者が独立に検証したかどうかまでは、手元では確認できていない。

コードは公開済み、ナレッジグラフの中身までは覗けていない

この記事はarXivの論文本文（HTML版）を実際に開いて、要旨だけでなくTable 1〜3・Fig. 2〜5周辺の記述まで確認した上で書いている。GitHub上の公式実装（zjunlp/Mechanist）を確認すると、MITライセンスで公開されており、READMEには「Claude Code Plugin」のバッジも付いていた——ただしこれはClaude Code内でMechanistをプラグインとして使えるという意味であり、比較対象として使われた「Claude Code（Opus 4.8）」ベースラインとは役割が異なる点は注意が必要だ。データセットも別リポジトリ（mengrusun/Mechanist_data）で公開されている。

一方で、1万3000本の論文からなるナレッジグラフの具体的な中身、32種類の基盤的手法それぞれの実装詳細、16本の再現実験それぞれの個別スコア（本文はグラフ・図として提示しており、この記事では数値を1つずつ転記できる形にはなっていなかった）については、この記事の範囲では確認できていない。実際にGitHubのコードをクローンしてMechanistを動かし、DNA配列生成や信念機構の再現実験を自分の手元で試したわけでもない。「安全でない特性のモダリティ横断転移」という発見についても、論文が引用する先行研究（フクロウ選好の数列伝播など）を含めて、この記事では孫引きの範囲を出ておらず、元論文まで遡って検証してはいない。

関連記事

• AI倫理 基本ガイド──バイアス・プライバシー・透明性【2026年】
• 推論モデルとは何か──通常のLLMとの違いと使い分けの基準
• AIコーディングアシスタント比較──Copilot/Cursor/Claude Code【2026年】