[論文レビュー] Theoretical Foundations of Latent Posterior Factors: Formal Guarantees for Multi-Evidence Reasoning

Aliyu Agboola Alege|arXiv (Cornell University)|Mar 13, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

この研究は、Latent Posterior Factors (LPF) による多証拠予測に対して、SPNと学習型アグリゲータを用いた7つの正式保証を提供し、さまざまな領域での広範な実証検証を行う。

ABSTRACT

We present a complete theoretical characterization of Latent Posterior Factors (LPF), a principled framework for aggregating multiple heterogeneous evidence items in probabilistic prediction tasks. Multi-evidence reasoning arises pervasively in high-stakes domains including healthcare diagnosis, financial risk assessment, legal case analysis, and regulatory compliance, yet existing approaches either lack formal guarantees or fail to handle multi-evidence scenarios architecturally. LPF encodes each evidence item into a Gaussian latent posterior via a variational autoencoder, converting posteriors to soft factors through Monte Carlo marginalization, and aggregating factors via exact Sum-Product Network inference (LPF-SPN) or a learned neural aggregator (LPF-Learned). We prove seven formal guarantees spanning the key desiderata for trustworthy AI: Calibration Preservation (ECE <= epsilon + C/sqrt(K_eff)); Monte Carlo Error decaying as O(1/sqrt(M)); a non-vacuous PAC-Bayes bound with train-test gap of 0.0085 at N=4200; operation within 1.12x of the information-theoretic lower bound; graceful degradation as O(epsilon*delta*sqrt(K)) under corruption, maintaining 88% performance with half of evidence adversarially replaced; O(1/sqrt(K)) calibration decay with R^2=0.849; and exact epistemic-aleatoric uncertainty decomposition with error below 0.002%. All theorems are empirically validated on controlled datasets spanning up to 4,200 training examples. Our theoretical framework establishes LPF as a foundation for trustworthy multi-evidence AI in safety-critical applications.

研究の動機と目的

• 複数のノイズ源を集約してラベルを予測する多証拠予測の動機づけ。
• 各証拠アイテムをVAEを用いてガウス隠れ事後としてエンコード。
• 厳密なSPNベースと学習型アグリゲーション手法を正式保証とともに提供。
• データ効率の高い較正、頑健性、不確かさ分解の保証を確立。
• 8つの異なる領域で理論結果を実証的に検証し、高精度と低較正誤差を報告。

提案手法

• 各証拠アイテムをVariational Autoencoderを用いてガウス事後としてエンコード。
• 潜在変数のモンテカルロ周辺化によって事後をソフトファクターに変換。
• 因子を正確なSPN推論（LPF-SPN）または学習型ニューラルアグリゲータ（LPF-Learned）で集約。
• 較正、モンテカルロ誤差、一般化、情報理論的最適性、頑健性、サンプル複雑度、不確かさ分解を涵盖する7つの正式保証を証明。
• 4,200件の訓練例までの制御実験を8領域で実施し、精度と較正指標を報告して保証を検証。

実験結果

リサーチクエスチョン

• RQ1 複数の異種証拠アイテムを、正式保証付きの較正された予測分布へ統合することは可能か。
• RQ2 LPF-SPNとLPF-Learnedは多証拠設定で信頼できる較正、頑健性、不確かさ分解を達成するか。
• RQ3 証拠数が変動する場合、LPFアグリゲータのデータ効率と一般化特性はどうなるか。

主な発見

• LPFは8領域で平均精度99.3%と期待不確かさ誤差ECE 1.5%を達成。
• LPF-SPNは較正を保持し、ECEはepsilonに加えてC/sqrt(K_eff)にスケールする項で境界づけられる。
• モンテカルロ因子近似誤差はO(1/sqrt(M))に減衰。
• 学習型アグリゲータは非自明なPAC-Bayes一般化境界を達成し、訓練データと検証データのギャップはN=4200で0.0085。
• LPFは較正誤差の情報理論的下界の約1.12倍の範囲内であり、証拠の汚染下でも穏やかな劣化を示す頑健な性能を示す。
• 不確かさはエピステミックとアレتاロックの成分に正確に分解される（分解誤差 < 0.002%）。