『必須』が引き継ぎの過程で『できれば』に変わる──マルチエージェントワークフローの『Constraint Weakening』

複数の役割・複数の段階にまたがるLLMエージェントのワークフローでは、要約・計画・チケット・メモリ・引き継ぎメモといった中間的な言語成果物を通じて、上流の状態が下流に伝わっていく。人間の組織でも、現場の詳細な報告が、上司への報告・さらにその上への報告と重なるたびに要約され、細部が削ぎ落とされていくのと同じ構造の問題が、AIエージェント同士の引き継ぎでも起きうる。この伝言ゲームの過程で、「絶対に守るべき制約」が静かに「参考程度の情報」へと格下げされてしまう現象を実証した論文が、2026年8月25日にarXivで公開された。

トピックは残るが、強制力が消える

論文はこの現象の核心をこう説明する。

"an artifact may mention an unresolved condition while changing it from a requirement that must be resolved before execution into information that may merely inform the next action."

ある成果物は、未解決の条件について言及し続けながらも、それを「実行前に解決しなければならない要件」から「次の行動を単に参考程度に伝える情報」へと変質させてしまうことがある。トピック自体(何について話しているか)は残っているのに、行動を縛る強制力だけが失われる、という点がこの現象の厄介さだ。

論文は「安全ブロッカー(safety blockers)」——前提条件・権限・フォールバック・実行結果が明示的に定められている状態——を統制された実験対象として使っている。安全ブロッカーを題材に選んだのは、「守られるべきかどうか」を客観的に判定しやすいためだと考えられる。抽象的な要件の劣化は測定が難しいが、安全上のブロッカーであれば、実行時に禁止されている行動が実際に起きたかどうかという明確な観測点で検証できる。上流での状態の識別が正しいことを条件づけたうえで、引き継ぎの変換方法を変え、その結果として生じる成果物だけに制限されたエグゼキューター(実行役)の振る舞いを評価する、という設計だ。

数字:通常の圧縮は54.2%が禁止行動に至る

"Normal handoff compression produces 100.0% deactivation and 54.2% forbidden action."

通常の引き継ぎ圧縮(要約してから次の担当に渡す)は、100.0%の確率で状態を「非活性化」させ(つまり強制力を失わせ)、54.2%の確率で禁止されているはずの行動が実際に行われてしまう。1,296件の統制された合成エピソードを通じて、直接的な引き継ぎ(コントロール条件)ではすべてのブロッカーが保持される一方、圧縮・計画への同化・収束・所有権の委譲・先例への置き換えといった変換は、繰り返し拘束力のある状態をあいまいな考慮事項へと変えてしまうことが確認された。

対策となる数字も示されている。

"Restoring all four state fields raises preservation to 100.0% and reduces forbidden action to 0.0%."

4つの状態フィールド(前提条件・権限・フォールバック・実行結果)をすべて復元すると、保持率は100.0%に、禁止行動の発生率は0.0%にまで改善する。裏を返せば、この4つのうちどれか1つでも欠落したまま引き継がれると、制約は「トピックとしては残っているが強制力は失われた」状態に劣化しうる、ということでもある。要約や圧縮という一見無害な処理そのものが、安全に関わる制約を骨抜きにする経路になりうる点は、実装の便宜のためについ省略しがちな部分だけに見落とされやすい。さらに、固定された成果物に対する介入によって、保持(preservation)と封じ込め(containment)を切り分けられることも分かった。下流での検証を挟むと、状態の非活性化自体は95.3%残ったままでも、禁止行動は排除できるという。つまり「情報が格下げされること」と「実際に危険な行動が実行されること」は、別々に対処できる問題だということだ。

引き継ぎメモの圧縮で失われるもの

複数のAIエージェントに役割を分担させ、要約・引き継ぎメモを介して情報を伝達するワークフローを組んでいる場合、この論文は「必須の制約」が引き継ぎの過程で静かに格下げされるリスクを、具体的な数字とともに示している。特に、要約・圧縮のステップを挟むたびに、元々あった「must(必須)」という強制力が失われていないかを個別に確認する必要がある。対策として、前提条件・権限・フォールバック・実行結果という4つの要素を圧縮時にも欠落させない設計、あるいは下流での検証ステップを追加するという2つのアプローチが、この論文のデータから裏付けられている。エージェントへの情報の持たせ方全般はコンテキストエンジニアリングとはを、成果へのプレッシャーがエージェントの振る舞いに与える影響については『成果を出せ』と言われたAIエージェントはどれだけルールを破るかも参照してほしい。

1,296エピソードの生成方法までは追えていない

本記事は、当サイトが論文の要旨を読んで書いている。1,296件の統制された合成エピソードの具体的な生成方法、「圧縮・計画への同化・収束・所有権の委譲・先例への置き換え」という各変換の詳細な定義、実験に使用したモデル名は、要旨には詳細が記載されておらず、本文PDF(21ページ・図4点)を読み込んでいないため確認できていない。Zenn記事検索(2026年8月27日実施)では「Constraint Weakening」に該当する日本語記事は見つからなかった。