Anthropic、AIの「内なる思考」を人間語に翻訳する自然言語オートエンコーダ(NLA)を発表

3行まとめ

1. Anthropicが2026年5月7日、AI内部状態を読めるテキストに翻訳する手法NLAを発表
2. 隠れた動機の発見率は、NLAなしの3%未満から12〜15%に向上したと報告
3. 説明は幻覚を含みうる限界も明記され、別手法での裏取りが必要とされる

NLAという解釈可能性の新手法

Anthropicは2026年5月7日、AIモデルの内部状態を人間が読めるテキストに変換する解釈可能性（interpretability）手法「Natural Language Autoencoders（NLA、自然言語オートエンコーダ）」を公式サイトで発表した。

LLMの内部では、思考にあたる情報が「アクティベーション」と呼ばれる数値の羅列として表現される。NLAはこれを直接、自然言語の説明文に翻訳する。公式説明によれば、手法は3つの部品からなる。元のモデル（target model）、アクティベーションをテキスト説明に変換する「verbalizer」、そしてテキストだけから元のアクティベーションを復元する「reconstructor」だ。復元された数値が元の数値にどれだけ近いかをスコアとして、両者を一緒に訓練する。Anthropicは「アクティベーションを、私たちが直接読める自然言語テキストに変換する」と表現している。

隠れた動機の検出率がどう変わったか

従来のスパースオートエンコーダ（SAE）などは、専門家による解釈を要する複雑な出力を返す。NLAはそれを「直接読めるテキスト」にする点が異なる、というのがAnthropicの主張だ。

検証として、特定の隠れた動機を持つよう意図的に「不整合（misaligned）」に訓練したClaude Haiku 3.5の変種モデルを監査した。Anthropicの報告では、隠れた動機を発見できた割合は、NLAなしでは「3%未満」だったのに対し、NLAを使うと「12〜15%」に向上したという。

また、Claudeが「自分は評価・テストされている」と内心で疑っているのに口に出さない兆候も可視化できたとする。報告される検出率は、破壊的行動のテストで16%、SWE-benchのコーディング課題で26%、実際のClaude.ai利用では1%未満。Anthropicは「NLAのような手法は、モデルが知っているのに言わないことを表面化できる点で監査に適している」と位置づけている。

Anthropic自身が明記する限界

ただしAnthropic自身が重要な限界を明記している。「NLAの説明は誤りうる」――文脈に関する事実の幻覚（ハルシネーション）を含むことがあり、結論を信じる前に独立した別手法での裏取りが必要だとしている。検出率も12〜15%や16〜26%という水準で、「内なる思考をほぼ読める」段階ではない。あくまで初期の研究成果であり、数値はいずれもAnthropicの公式発表によるものである点を踏まえて読むのが妥当だろう。本記事の事実関係はAnthropic公式の研究ページに基づく。