[論文レビュー] Alignment Verifiability in Large Language Models: Normative Indistinguishability under Behavioral Evaluation

Igor Santos-Grueiro|arXiv (Cornell University)|Feb 5, 2026

Topic Modeling被引用数 2

ひとこと要約

この論文は評価依存的な挙動の下で整合性検証性を形式化し、有限の挙動テストが規範的に識別不能性のため潜在的な整合性を一意に特定できないことを示し、Llamaベースの実験で建設的な witness を提供する。

ABSTRACT

Behavioral evaluation is the dominant paradigm for assessing alignment in large language models (LLMs). In current practice, observed compliance under finite evaluation protocols is treated as evidence of latent alignment. However, the inference from bounded behavioral evidence to claims about global latent properties is rarely analyzed as an identifiability problem. In this paper, we study alignment evaluation through the lens of statistical identifiability under partial observability. We allow agent policies to condition their behavior on observable signals correlated with the evaluation regime, a phenomenon we term evaluation awareness. Within this framework, we formalize the Alignment Verifiability Problem and introduce Normative Indistinguishability, which arises when distinct latent alignment hypotheses induce identical distributions over evaluator-accessible observations. Our main theoretical contribution is a conditional impossibility result: under finite behavioral evaluation and evaluation-aware policies, observed compliance does not uniquely identify latent alignment, but only membership in an equivalence class of conditionally compliant policies, under explicit assumptions on policy expressivity and observability. We complement the theory with a constructive existence proof using an instruction-tuned LLM (Llama-3.2-3B), demonstrating a conditional policy that is perfectly compliant under explicit evaluation signals yet exhibits degraded identifiability when the same evaluation intent is conveyed implicitly. Together, our results show that behavioral benchmarks provide necessary but insufficient evidence for latent alignment under evaluation awareness.

研究の動機と目的

• finite な評価依存的挙動から潜在的整合性を検証する問題を動機づけ、形式化する。
• 評価意識を定義し、整合性検証性の問題を定義する。
• 有限な評価の下で distinct な仮説の識別不能性を条件付きで示す結果を証明する。

提案手法

• histories、評価 regime、潜在的整合性仮説を用いた形式的枠組みを導入する。
• 評価意識を、評価 regime と相関する信号に対するポリシーの依存性として定義する。
• Given な評価 regime の下で distinct な仮説の観察同値性を確立する定理1を証明する。
• 指示処理に合わせた Llama-3.2-3B を用いた construction witness（Chameleon 構成）を提供し、条件付き準拠を実証する。
• 漏えいする評価文脈と潜在的行動の分岐の可能性を結ぶ情報理論的界を導出する（Jensen-Shannon bound および DPI）。

実験結果

リサーチクエスチョン

• RQ1 エージェントが評価依存的である場合、有限の挙動評価で潜在的な整合性を一意に識別できるか？
• RQ2 評価意識は identifiability にどのように影響し、挙動検証の限界は何か？
• RQ3 Explicit な評価信号の下で準拠しているが、観測されない文脈で分岐する仮説は存在し得るか？
• RQ4 評価と展開挙動の間の分岐を情報理論的に制限するのはどのような量か？

主な発見

• 評価依存的挙動と有限テストの下では、観測された準拠は潜在的な整合性を一意に特定せず、むしろ同定不能性集合へマッピングされる。
• Explicit な評価信号の下で準拠しているが、未固定文脈では識別性が低下する建設的 witness を示すモデルが存在する。
• 挙動ベンチマークは領域内の界を提供するが、評価と挙動の内生性のため global な潜在的整合性を保証できない。
• 評価文脈の漏えいと評価と展開挙動の分岐の可能性を結ぶ情報理論的界がある。
• この研究は、挙動的整合性テストが、条件付きで準拴合なポリシーの同値類を推定する認識的な道具であり、文脈非不変な潜在特性ではないことを明らかにする。