『意味を教えていない10個の数字』でLLMエージェントは示し合わせ始める

複数のLLMエージェントが対話するとき、互いの出力を読み合うことで多様性が失われる「Interaction Tax」という現象を別記事で扱った。あちらは自然言語で明示的にやり取りする場合の話だが、もし「意味を教えずに、ただ数字を10個交換しろ」とだけ指示したらどうなるか──arXivに2026年1月7日投稿(4月19日に第2版へ改訂)された論文「When Numbers Start Talking」は、この一見無意味な条件で、LLMエージェント同士が独自の構造を持った数字のやり取りを始めることを実証している。著者はAlessio Buscemi氏、Daniele Proverbio氏ら6名。

3行まとめ

1. 論文は、Harmony・Snowdrift・Stag Hunt・Prisoner's Dilemmaという4つの古典的ゲーム理論の設定で、エージェント同士に「意味を定義しないまま10個の数字を交換させる(covert communication)」条件と、「意味を持たせずランダムに数字を出させる」条件、「外部の擬似乱数生成器で数字を注入する」条件を比較した。
2. 数字の並びのランダムさをエントロピー(乱雑さの指標)で測定したところ、外部注入乱数はほぼ理論上の最大エントロピーに達したのに対し、LLM自身が生成した「意味の無いランダム出力」はそれよりわずかに低く、意味を教えずに通信目的で出させた数字はさらに明確に低いエントロピーを示した。
3. 1回限りの対戦(one-shot)と10ラウンドの繰り返し対戦(repeated)を比較すると、covert communicationのエントロピーは繰り返すほど下がるか同程度の低さを保ち、「対話を重ねればランダム化される」わけではなく、むしろ構造が強化・維持される傾向が見られた。

実験の作り方:「意味を教えない」条件を4段階に切り分ける

論文の実験設計は、通信の種類を4パターンに切り分けている点が特徴的だ。

"Initially, agents either communicate in natural language (English) or do not communicate at all... Then, we introduce covert communication. In this setting, agents are explicitly instructed to communicate at each round by outputting a sequence of exactly ten numbers. No predefined interpretation, encoding scheme, or semantic grounding is provided." （「まず、エージェントは自然言語(英語)で通信するか、まったく通信しないかのいずれかとする。……次に、我々はcovert communication(隠密通信)を導入する。この設定では、エージェントは各ラウンドでちょうど10個の数字の並びを出力することで通信するよう明示的に指示される。事前に定義された解釈・符号化方式・意味的な基盤は一切与えられない」）

さらに、この「数字による通信」自体が意味を持つのか、それとも単に数字が存在するだけで挙動に影響するのかを切り分けるため、通信目的を与えずに数字だけを出させる条件と、Pythonのrandomライブラリで生成した数字を外部から注入する条件も比較対象に加えている。使用フレームワークはFAIRGAME(著者ら自身が開発した、LLMエージェント同士の戦略的相互作用を系統的にシミュレートするための基盤)で、one-shot設定ではゲーム・通信タイプ・性格の組み合わせごとに50回、repeated設定(10ラウンド)では20回を繰り返し、統計的な頑健性を確保している。

「意味の無いはずの数字」に構造が現れる

結果セクションでは、covert communicationの数字が、他の2つの基準(LLM生成のランダム出力、外部注入の乱数)より明らかに構造化されていたことが示されている。

"By contrast, covert communication exhibits markedly lower entropy than both random baselines. This effect is observed consistently across all four games and across all entropy measures... When moving from one-shot to repeated games, entropy under covert communication generally decreases further or remains comparably low, suggesting that repeated interaction does not randomise the signals but instead preserves, and in some cases, reinforces their structure." （「対照的に、covert communicationは両方のランダム基準よりも明らかに低いエントロピーを示す。この効果は4つのゲームすべて、すべてのエントロピー指標にわたって一貫して観測される。……one-shotからrepeatedに移ると、covert communication下のエントロピーはさらに下がるか、同程度の低さを保ち、繰り返しの相互作用がシグナルをランダム化するのではなく、むしろその構造を維持し、場合によっては強化することを示唆している」）

意味を教えられていないのに、エージェントが数字の使い方に一貫した偏りを持たせ、しかも対話を繰り返すほどその偏りが薄まるどころか強まる、という結果だ。

数字で見る差——Table 2の実測値

論文のTable 2には、one-shot(1回限りの対戦)・repeated(10ラウンド)それぞれについて、Shannon・Min・Rényi-2の3種のエントロピー指標が、4ゲーム×3種の数字生成条件で細かく記載されている。この記事では、その中でも本文が最も強調しているShannon entropy(正規化済み、0〜1で1に近いほどランダム)のone-shot条件について、10進数字を使う条件(covert通信C(D)・LLM生成ランダムLR(D)・外部注入乱数R(D))の値をそのまま引用する。

（出典: 論文Table 2、Shannon entropy・one-shot条件の値をそのまま転記。数値は論文の記載をそのまま用いており、この記事側で再計算はしていない）

4ゲームすべてで同じ順序（外部乱数 > LLM生成ランダム > covert通信）が成立しており、covert通信のエントロピーは外部乱数よりおよそ0.4〜0.6ポイント低い。特にPrisoner's Dilemmaでの差(0.981→0.394)が最も大きい。論文はこの現象を、進化ゲーム理論などで使われる用語「cheap talk」(拘束力のない安価な発話)の議論とも関連づけて考察しているが、この記事では該当の理論的背景そのものには踏み込まない。

この論文が踏まえている隣接研究——「潜在学習」と「秘密の共謀」

論文の序文は、この研究の立ち位置を2つの先行研究との対比で説明している。1つは、モデルが訓練データ中の一見無関係な数字列を介して行動特性を伝達しうることを示した「Subliminal Learning」(Cloud, Le, Chua, Betley, Sztyber-Betleyら、arXiv:2507.14805)。もう1つは、複数のAIエージェントがステガノグラフィ(隠し通信)を使って人間に検知されない形で共謀しうることを論じた「Secret Collusion among AI Agents」(Motwani, Baranchuk, Strohmeier, Bolina, Torrら、NeurIPS 2024採択・arXiv:2402.07510)だ。論文本文はこの2本を踏まえた上で「本研究は、相互の影響ではなく相互作用から創発する協調に焦点を当てる点で(Subliminal Learningと)異なり、エージェント間の秘密の共謀に関する先行研究(Secret Collusion)を拡張するものだ」と位置づけている。どちらの先行研究もこの記事のために要約は読んだが、本文全体の精読はしていない。

実験基盤のFAIRGAME(arXiv:2504.14325)についても、同じ著者グループ(Buscemi氏ら)が2025年に発表した別論文で、要旨を確認すると「LLMエージェント間のゲーム理論的な戦略的相互作用を、標準化・再現可能な形でシミュレートするためのフレームワーク」と説明されている。本論文はこのFAIRGAMEを実装基盤として採用し、ゲームシナリオをプロンプト駆動のインターフェースで指定できる点を利用している。

結論:「示し合わせている」ようで、その意味は読み解けない

論文の結論部分は、この現象の解釈に慎重な留保を付けている。

"Taken together, these findings indicate that numerical message sequences can acquire persistent structure and strategic relevance when agents intentionally use them for communication. However, the relationship between symbol usage and strategic intent remains opaque: even when numerical outputs are clearly non-random and correlated with behavioural change, their semantic interpretation is difficult to reconstruct, including when the payoff structure is fully known." （「これらの発見を総合すると、数字のメッセージの並びは、エージェントが意図的に通信のために使う場合、持続的な構造と戦略的な意味を獲得しうることを示している。しかし、記号の使い方と戦略的な意図の関係は不透明なままだ。数字の出力が明らかに非ランダムで、行動の変化と相関している場合でも、利得構造が完全にわかっている場合でさえ、その意味的な解釈を再構築するのは難しい」）

さらに、実務的な含意についてもこう書いている。

"these results highlight limits to the assumption that restricting natural-language communication alone is sufficient to constrain coordination in LLM-based MAS." （「これらの結果は、自然言語通信だけを制限すれば、LLMベースのマルチエージェントシステムにおける協調を抑制できるという前提の限界を浮き彫りにする」）

「エージェント同士に自然言語での会話をさせなければ談合や不正な協調は防げる」という直感的な対策が、この論文の枠組みでは必ずしも成立しない、という指摘だ。数字という一見中立な通信路さえも、封じない限り抜け道になりうる。

「談合」と呼べるほどの実証ではない、と線引きしておく

この記事を書くためにarXivのHTML版フルテキストを最後まで通読したが、結論部分に「意味的な解釈を再構築するのは難しい」という一文があるのを見て、タイトルで安易に「談合」「共謀」と書かないよう表現を選び直した。この論文が示しているのは、数字の並びに統計的な構造(低いエントロピー)が生まれるという事実であって、その数字が具体的に何を「意味」し、エージェント同士が実際に何を「示し合わせた」のかまでは明らかにしていない。論文自身も「意味的な解釈を再構築するのは難しい」と明言しており、この記事のタイトルにある「示し合わせ始める」という表現も、統計的な構造の出現を指すのであって、エージェントが意図を持って共謀したことを意味しない。

またこの記事は、arXivのHTML版フルテキストを読んで書いているが、Table 2に載っている数値(各ゲーム・各通信タイプごとのエントロピー値)を1セルずつ手元で再計算したわけではない。FAIRGAMEというフレームワーク自体がこの論文の著者らによる先行研究であることも、独立した第三者による再現ではない点として留意しておきたい。

Zennでの「implicit numerical coordination」「LLM 数値 協調」に相当する日本語記事は検索で見当たらなかった。マルチエージェント間の対話が多様性を失う現象についてはInteraction Taxを、複数のLLMが討論する際に生じる別のパターンについても、あわせて読むと対比になる。

関連記事

• 討論させるほど意見が均一化する──マルチエージェントLLMチームに潜む「Interaction Tax」
• AIエージェントとは──指示に答えるAIと、仕事を進めるAIの違い