[论文解读] Modeling and Estimation of Discrete-Time Reciprocal Processes via Probabilistic Graphical Models

Francesca Carli|arXiv (Cornell University)|Mar 14, 2016

Bayesian Modeling and Causal Inference参考文献 24被引用 6

一句话总结

本文提出一种基于单环无向图的离散时间互惠过程的贝叶斯图模型，通过环状信念传播实现有原则的平滑化。基于希尔伯特度量的压缩分析，建立了有限状态互惠过程消息传递算法的收敛性，提供了一个统一的几何框架，可推广至当前研究案例之外的场景。

ABSTRACT

Reciprocal processes are acausal generalizations of Markov processes introduced by Bernstein in 1932. In the literature, a significant amount of attention has been focused on developing dynamical models for reciprocal processes. In this paper, we provide a probabilistic graphical model for reciprocal processes. This leads to a principled solution of the smoothing problem via message passing algorithms. For the finite state space case, convergence analysis is revisited via the Hilbert metric.

研究动机与目标

• 开发一种与分布无关的离散时间互惠过程图模型，适用于循环边界条件。
• 通过图模型上的消息传递算法，为平滑化问题提供有原则的解决方案。
• 通过希尔伯特度量重新审视并统一分析环状信念传播在有限状态互惠过程中的收敛性。
• 建立基于正算子与压缩映射的几何框架，推广至当前临时性方法之外的更广泛场景。

提出的方法

• 将互惠过程建模为单环无向图模型，作为循环边界条件下的完美映射。
• 应用环状信念传播（求和-乘积算法）进行后验边缘概率估计，利用局部消息更新机制。
• 采用希尔伯特度量分析收敛性，利用锥上正线性算子的压缩性质。
• 推导基于特征值的误差界，将近似精度与消息转移矩阵的次主导特征值与主导特征值之比关联。
• 通过消息转移矩阵的特征分解，表达信念近似并校正偏差。
• 引入局部校正公式，利用特征值比从近似信念中恢复真实后验分布。

实验结果

研究问题

• RQ1 能否为具有循环边界的离散时间互惠过程构建一个概率图模型？
• RQ2 如何在环状图中利用消息传递方法求解互惠过程的平滑化问题？
• RQ3 在有限状态互惠过程中，环状信念传播的收敛性需满足何种条件？
• RQ4 希尔伯特度量能否为该类系统中消息传递收敛性的分析提供统一的几何框架？
• RQ5 消息转移矩阵的谱结构如何影响信念近似的精度？

主要发现

• 具有循环边界条件的互惠过程可表示为单环无向图模型，且该模型为完美映射。
• 环状信念传播通过在单环图上迭代消息传递，为平滑化问题提供了有原则的解决方案。
• 基于希尔伯特度量与压缩映射理论，可保证有限状态互惠过程信念传播算法的收敛性。
• 信念近似误差有界，且当消息转移矩阵的第二大特征值与最大特征值之比越小时，误差越小。
• 可通过包含特征值比的线性校正公式，从近似信念中恢复真实后验边缘分布。
• 基于希尔伯特度量的几何方法为收敛性分析提供了可推广的框架，超越有限状态与单环情形，已在后续工作中进一步拓展。