[論文レビュー] Modeling and Estimation of Discrete-Time Reciprocal Processes via Probabilistic Graphical Models

Francesca Carli|arXiv (Cornell University)|Mar 14, 2016

Bayesian Modeling and Causal Inference参考文献 24被引用数 6

ひとこと要約

本稿では、単一ループの無向グラフを用いた離散時間相互作用過程のための確率的グラフィカルモデルを提案し、ループ付き信念伝播を用いた整合的平滑化を可能にする。有限状態の相互作用過程におけるメッセージ渡しアルゴリズムの収束を、ヒルベルト距離に基づく収縮解析を用いて確立し、特定のケースに限らない統一的な幾何的枠組みを提供する。

ABSTRACT

Reciprocal processes are acausal generalizations of Markov processes introduced by Bernstein in 1932. In the literature, a significant amount of attention has been focused on developing dynamical models for reciprocal processes. In this paper, we provide a probabilistic graphical model for reciprocal processes. This leads to a principled solution of the smoothing problem via message passing algorithms. For the finite state space case, convergence analysis is revisited via the Hilbert metric.

研究の動機と目的

• 周期的境界条件を有する離散時間相互作用過程のための分布に依存しない確率的グラフィカルモデルの構築を目的とする。
• グラフィカルモデル上のメッセージ渡しアルゴリズムを用いた、整合的解法としての平滑化問題の解決を目的とする。
• 有限状態の相互作用過程におけるループ付き信念伝播の収束解析を、ヒルベルト距離を用いて再考・統合することを目的とする。
• 正の作用素と収縮写像に基づく幾何的枠組みを確立し、現在の臨戦的アプローチを超えて一般化可能であることを目的とする。

提案手法

• 周期的境界条件を満たすように、相互作用過程を単一ループの無向グラフィカルモデルとしてモデル化し、完全なマッピングを実現する。
• 局所的メッセージ更新を活用して、周辺後験分布の推定にループ付き信念伝播（和積アルゴリズム）を適用する。
• 収束解析にヒルベルト距離を用い、錐上での正の線形作用素の収縮性を活用する。
• メッセージ遷移行列の固有値に基づく誤差境界を導出し、近似精度とサブドミナント固有値とドミナント固有値の比との関係を明らかにする。
• メッセージ遷移行列の固有値分解を用いて、信念の近似を表現し、バイアスを補正する。
• 固有値比を用いた局所的補正公式を導入し、近似信念から真の後験分布を回復する。

実験結果

リサーチクエスチョン

• RQ1 周期的境界を持つ離散時間相互作用過程のための確率的グラフィカルモデルを構築可能か？
• RQ2 ループ付きグラフにおけるメッセージ渡しを用いて、相互作用過程の平滑化問題をどのように解決できるか？
• RQ3 有限状態の相互作用過程におけるループ付き信念伝播の収束を保証する条件は何か？
• RQ4 ヒルベルト距離は、このようなシステムにおけるメッセージ渡しの収束解析を統一的・幾何的に可能にするか？
• RQ5 メッセージ遷移行列の固有値構造は、信念近似の精度にどのように影響するか？

主な発見

• 周期的境界条件を有する相互作用過程は、単一ループの無向グラフィカルモデルとして表現可能であり、完全なマッピングを実現する。
• ループ付き信念伝播は、単一ループグラフ上で反復的メッセージ渡しを用いることで、平滑化問題に対する整合的解法を提供する。
• ヒルベルト距離と収縮写像理論を用いることで、有限状態の相互作用過程における信念伝播アルゴリズムの収束が保証される。
• 信念における近似誤差は有界であり、メッセージ遷移行列の2番目に大きな固有値と最大固有値の比が小さい場合に減少する。
• 固有値比を含む線形補正公式を用いることで、近似信念から真の後験マージナルを回復可能である。
• ヒルベルト距離に基づく幾何的アプローチは、有限状態や単一ループのケースを超えて一般化可能な収束解析の枠組みを提供する。これは後続の研究で拡張されている。