[论文解读] Stein Point Markov Chain Monte Carlo

Wilson Ye Chen, Alessandro Barp+5 more|arXiv (Cornell University)|May 9, 2019

Markov Chains and Monte Carlo Methods被引用 24

一句话总结

本文提出了一种新型方法——Stein Point 马尔可夫链蒙特卡洛（SP-MCMC），通过用马尔可夫链采样替代 Stein Points 中的迭代优化，降低了计算成本，同时保持了理论一致性。通过利用 MCMC 路径按顺序选择点，SP-MCMC 实现了在贝叶斯推断中对复杂后验分布的高效、可扩展近似，并具备严格的收敛保证。

ABSTRACT

An important task in machine learning and statistics is the approximation of a probability measure by an empirical measure supported on a discrete point set. Stein Points are a class of algorithms for this task, which proceed by sequentially minimising a Stein discrepancy between the empirical measure and the target and, hence, require the solution of a non-convex optimisation problem to obtain each new point. This paper removes the need to solve this optimisation problem by, instead, selecting each new point based on a Markov chain sample path. This significantly reduces the computational cost of Stein Points and leads to a suite of algorithms that are straightforward to implement. The new algorithms are illustrated on a set of challenging Bayesian inference problems, and rigorous theoretical guarantees of consistency are established.

研究动机与目标

• 为解决在 Stein Points 中用于点集选择的非凸优化问题带来的高计算成本。
• 开发一种可扩展、可实现的现有贝叶斯推断量化方法的替代方案，同时保持理论一致性。
• 通过使用马尔可夫链样本而非迭代优化，实现对不可解析后验分布的高效近似。
• 在一般条件下，为所提方法提供严格的理论一致性保证。
• 为有限计算预算下的贝叶斯不确定性量化提供一种实用且可扩展的框架。

提出的方法

• SP-MCMC 用针对目标后验分布的马尔可夫链采样过程替代了 Stein Points 中的非凸优化步骤，以选择每个新点。
• 每个新点均从一个针对目标后验分布的马尔可夫链路径中选取，避免了重复优化。
• 该方法使用核 Stein 散度来度量经验测度与目标分布之间的距离。
• 采用预条件 MCMC 核心，其中预条件矩阵 Λ 根据问题维度自适应选择。
• 该算法按顺序进行，每次利用当前链状态引导下一个点的选择。
• 在目标密度的弱正则性条件及马尔可夫链的遍历性条件下，建立了理论一致性。

实验结果

研究问题

• RQ1 是否可以在不牺牲收敛性或准确性的前提下，减轻优化 Stein Points 所带来的计算负担？
• RQ2 用马尔可夫链采样替代优化是否能保持 Stein Points 的理论一致性？
• RQ3 在具有挑战性的贝叶斯推断问题中，SP-MCMC 与 SVGD、MED 和 Support Points 等现有方法相比，在性能和效率上表现如何？
• RQ4 SP-MCMC 是否可应用于高维、不可解析的后验分布，且仅需对数归一化密度评估？
• RQ5 预条件矩阵与核函数的选择对 SP-MCMC 的收敛性和稳定性有何影响？

主要发现

• 在弱正则性条件下，SP-MCMC 实现了对目标后验分布的一致近似，并具备收敛性的理论保证。
• 通过消除重复的非凸优化步骤，SP-MCMC 相较于标准 Stein Points 显著降低了计算成本。
• 在 d=4 和 d=10 的 Goodwin 振荡器示例中，SP-MCMC 在核 Stein 散度和有效样本量方面优于 MED 和 SVGD。
• 在 d=10 的情况下，SP-MCMC 在使用 300 个点后，核 Stein 散度约为 0.015，在相同计算预算下优于 SVGD 和 MED。
• 使用固定预条件矩阵（d=10 时为 Λ=0.15I）实现了稳定且高效的采样，无需昂贵的 Hessian 近似。
• SP-MCMC 在高维设置中表现出鲁棒性与可扩展性，即使目标密度仅以归一化常数形式已知，也能保持较低的散度。