[论文解读] Variational Particle Approximations

Ardavan Saeedi, Tejas D. Kulkarni+2 more|arXiv (Cornell University)|Feb 24, 2014

Bayesian Methods and Mixture Models参考文献 20被引用 11

一句话总结

本文提出离散粒子变分推断（DPVI），一种确定性、基于粒子的变分推断方法，通过最优选择粒子以最小化KL散度，结合了蒙特卡洛方法、变分推断和基于搜索方法的优势。DPVI在较少粒子下实现更优的准确性，避免退化问题，并在多模态和结构化模型（包括伊辛模型和隐马尔可夫模型）上优于粒子滤波、MCMC和均场方法。

ABSTRACT

Approximate inference in high-dimensional, discrete probabilistic models is a central problem in computational statistics and machine learning. This paper describes discrete particle variational inference (DPVI), a new approach that combines key strengths of Monte Carlo, variational and search-based techniques. DPVI is based on a novel family of particle-based variational approximations that can be fit using simple, fast, deterministic search techniques. Like Monte Carlo, DPVI can handle multiple modes, and yields exact results in a well-defined limit. Like unstructured mean-field, DPVI is based on optimizing a lower bound on the partition function; when this quantity is not of intrinsic interest, it facilitates convergence assessment and debugging. Like both Monte Carlo and combinatorial search, DPVI can take advantage of factorization, sequential structure, and custom search operators. This paper defines DPVI particle-based approximation family and partition function lower bounds, along with the sequential DPVI and local DPVI algorithm templates for optimizing them. DPVI is illustrated and evaluated via experiments on lattice Markov Random Fields, nonparametric Bayesian mixtures and block-models, and parametric as well as non-parametric hidden Markov models. Results include applications to real-world spike-sorting and relational modeling problems, and show that DPVI can offer appealing time/accuracy trade-offs as compared to multiple alternatives.

研究动机与目标

• 解决蒙特卡洛方法和变分方法在高维、多模态离散模型中的局限性。
• 开发一种基于粒子的变分近似方法，避免粒子退化和蒙特卡洛方差。
• 结合蒙特卡洛方法的灵活性与变分推断的收敛保证和高效性。
• 在具有复杂结构的模型（如马尔可夫随机场和隐马尔可夫模型）中实现有效推断。
• 为粒子滤波中的随机重采样提供一种确定性替代方案，同时保持粒子多样性与高概率状态。

提出的方法

• DPVI将一组基于粒子的变分近似形式化为最小化近似后验与真实后验之间KL散度的家族。
• 采用坐标上升更新，通过优化对数分区函数的下界，迭代改进粒子位置。
• 该方法采用确定性搜索选择覆盖高概率区域的粒子，避免坍缩至单一模式。
• 利用图形模型中的因子分解和顺序结构，实现对大规模模型的高效扩展。
• 支持自定义搜索算子，并可通过顺序或局部优化模板应用。
• 与标准粒子滤波不同，DPVI无需重加权或重采样，消除了对提议密度的依赖，降低方差。

实验结果

研究问题

• RQ1 在多模态离散分布中，确定性粒子选择策略是否能优于随机采样？
• RQ2 在结构化模型上，DPVI与均场变分推断和粒子滤波在准确性和收敛性方面相比如何？
• RQ3 DPVI是否能在不重采样的情况下维持粒子多样性并避免退化，而标准粒子滤波则不能？
• RQ4 DPVI在粒子数量少于蒙特卡洛方法的情况下，能否实现更高的准确性？
• RQ5 DPVI在复杂模型（如非参数贝叶斯混合模型和隐马尔可夫模型）上的可扩展性如何？

主要发现

• 在粒子数量趋于无穷的极限下，DPVI达到精确结果，与蒙特卡洛方法的理论收敛性一致。
• 在伊辛模型中，仅使用两个粒子时，DPVI便完美捕捉到两个模式，而均场方法和环路信念传播则失败。
• 在伊辛模型中，DPVI在对数分区函数下界方面始终以正向优势优于均场方法，尤其在强耦合强度下表现更优。
• 在尖峰分离和关系建模任务中，DPVI相比多种替代方法提供了更有利的时间/准确性权衡。
• DPVI避免了粒子退化，无需微调重采样阈值即可保持高概率且多样化的粒子。
• 该方法在参数和非参数模型（包括格点马尔可夫随机场和块模型）中表现出稳健性能，具有稳定的收敛性和低方差。