[论文解读] Sequential Monte Carlo for Graphical Models

Christian A. Naesseth, Fredrik Lindsten+1 more|arXiv (Cornell University)|Feb 3, 2014

Bayesian Methods and Mixture Models参考文献 34被引用 23

一句话总结

本文通过利用因子图的顺序分解来定义一系列辅助分布，提出了一种新颖的序列蒙特卡洛（SMC）框架，用于概率图模型（PGMs）。该方法实现了分区函数的无偏估计，并通过粒子马尔可夫链蒙特卡洛实现了高效、高维的分块采样MCMC推理，在一致性和通用性方面优于现有的近似SMC和消息传递方法。

ABSTRACT

We propose a new framework for how to use sequential Monte Carlo (SMC) algorithms for inference in probabilistic graphical models (PGM). Via a sequential decomposition of the PGM we find a sequence of auxiliary distributions defined on a monotonically increasing sequence of probability spaces. By targeting these auxiliary distributions using SMC we are able to approximate the full joint distribution defined by the PGM. One of the key merits of the SMC sampler is that it provides an unbiased estimate of the partition function of the model. We also show how it can be used within a particle Markov chain Monte Carlo framework in order to construct high-dimensional block-sampling algorithms for general PGMs.

研究动机与目标

• 开发一种适用于通用概率图模型的一致性SMC推理方法，避免消息传递方法固有的近似误差。
• 利用SMC实现模型分区函数的无偏估计——这是贝叶斯模型比较中的关键量。
• 通过粒子MCMC构建高维、分块式的潜变量和模型参数MCMC核。
• 克服先前SMC方法在PGMs中的局限性，例如依赖SMC迭代中的MCMC步骤，或仅限于高斯/离散模型。
• 提供一种灵活、通用的推理框架，适用于非高斯和非离散的PGMs，无需均场近似或环状信念传播。

提出的方法

• 该方法对PGM的因子图进行顺序分解，定义一系列维度递增的概率空间及相应的辅助目标分布。
• 应用序列蒙特卡洛采样器来针对这些辅助分布，通过由模型结构定义的一系列条件分布传播粒子和权重。
• 算法使用祖先重采样以保留粒子历史，并确保生成的马尔可夫链满足细致平衡，这对粒子MCMC应用至关重要。
• 祖先采样通过一个与粒子权重和全目标密度与当前目标密度之比的乘积成比例的加权选择规则实现，利用了条件依赖关系。
• 该框架自然地产生分区函数 $ Z $ 的无偏估计，其来源于SMC算法中最终归一化权重之和。
• 将SMC采样器嵌入粒子MCMC方案中，以实现潜变量和未知模型参数的联合推理，使用SMC输出作为高维提议核。

实验结果

研究问题

• RQ1 PGM因子图的顺序分解是否能够支持构建用于完整联合分布近似的无偏SMC算法？
• RQ2 所提出的SMC框架是否能提供分区函数的无偏估计，其与冷凝重要性采样（AIS）相比表现如何？
• RQ3 SMC采样器能否作为粒子MCMC框架中潜变量和参数推理的高维、分块式MCMC核？
• RQ4 祖先采样的计算复杂度如何随模型结构变化，特别是在依赖于当前状态变量的因子数量方面？
• RQ5 该方法在多大程度上推广了现有基于SMC的PGM推理技术，这些技术依赖于均场近似或中间MCMC步骤？

主要发现

• SMC算法提供了分区函数 $ Z $ 的无偏估计，这相较于近似消息传递或均场SMC方法具有关键优势。
• 该方法在推理中实现了无偏一致性，而先前基于SMC的方法依赖于环状信念传播的粒子近似，本质上是近似的。
• 祖先采样步骤确保了生成马尔可夫链的细致平衡，从而在粒子MCMC框架中实现有效推理。
• 祖先采样的计算成本取决于同时依赖于当前状态和未来变量的因子数量，该数量通常远小于总变量数。
• 该框架适用于具有非高斯和非离散势函数的一般PGMs，无需均场近似或SMC迭代中的中间MCMC步骤。
• 该方法可被视为粒子学习的推广，并将SMC的适用范围扩展到比以往方法更广泛的模型类别。