[论文解读] Optimization assisted MCMC

Ricky Fok, Aijun An+1 more|arXiv (Cornell University)|Sep 9, 2017

Markov Chains and Monte Carlo Methods参考文献 13被引用 3

一句话总结

本文提出优化辅助MCMC（Optimization-Assisted MCMC），一种将共形测地线的全局优化与局部搜索（如BFGS）相结合的框架，以加速高维多模态分布中的模式发现。通过先在共形变换的流形上沿测地线路径定位模式，再利用局部优化进行精炼，该方法显著提升了MCMC采样中的收敛速度并大幅降低了偏差，相较于WHMC在均值估计的相对误差上最高可提升一个数量级。

ABSTRACT

Markov Chain Monte Carlo (MCMC) sampling methods are widely used but often encounter either slow convergence or biased sampling when applied to multimodal high dimensional distributions. In this paper, we present a general framework of improving classical MCMC samplers by employing a global optimization method. The global optimization method first reduces a high dimensional search to an one dimensional geodesic to find a starting point close to a local mode. The search is accelerated and completed by using a local search method such as BFGS. We modify the target distribution by extracting a local Gaussian distribution aound the found mode. The process is repeated to find all the modes during sampling on the fly. We integrate the optimization algorithm into the Wormhole Hamiltonian Monte Carlo (WHMC) method. Experimental results show that, when applied to high dimensional, multimodal Gaussian mixture models and the network sensor localization problem, the proposed method achieves much faster convergence, with relative error from the mean improved by about an order of magnitude than WHMC in some cases.

研究动机与目标

• 解决高维多模态后验分布中MCMC采样收敛缓慢和模式搜寻偏差的问题。
• 克服WHMC的局限性，如对随机起始点的依赖以及通过残差势能减法产生虚构模式的问题。
• 在采样开始前提升模式发现的效率与准确性，从而减少采样过程中的在线偏差。
• 开发一种方法，从一开始就引导优化过程寻找尚未发现的模式，确保对所有主要模式的更好探索。
• 以保持细致平衡的方式将全局优化整合到MCMC中，实现更快、更可靠的收敛。

提出的方法

• 该方法在由残差对数似然构建的黎曼流形上构造共形测地线，形成可穿越多个局部极大值的一维路径。
• 在该测地线上采用全局优化策略，以在采样前定位主要模式，降低遗漏显著模式的风险。
• 通过BFGS实施局部优化，以精炼测地线上发现的模式估计，提升准确性和收敛速度。
• 通过在每个发现的模式周围提取局部高斯近似来修改目标分布，从而实现高效采样与模式分离。
• 将该框架集成到虫洞哈密顿蒙特卡洛（WHMC）中，利用发现的模式引导再生与提议分布。
• 使用改进的蛙跳积分器，引入向量场通过虫洞度量引导模式间的转换，缩短模态间距离。

实验结果

研究问题

• RQ1 基于测地线的全局优化路径是否能可靠地在高维多模态分布中定位多个模式？
• RQ2 通过优化预发现模式是否能降低MCMC采样中的偏差并提升收敛速度？
• RQ3 在均值与协方差估计方面，该方法相较于WHMC的相对误差表现如何？
• RQ4 使用共形几何与测地线路径是否能避免残差势能方法中常见的梯度消失问题？
• RQ5 将优化整合到MCMC中是否能减少随机重启需求并提升再生效率？

主要发现

• 在高维多模态高斯混合模型中，所提方法相较于WHMC实现了显著更快的收敛速度。
• 在测试案例中，均值估计的相对误差相比WHMC降低了约一个数量级。
• 该方法成功避免了残差势能方法中常见的虚构模式。
• 通过在采样前发现所有主要模式，该方法减少了在线偏差，提升了后验估计的准确性。
• 共形测地线的使用实现了对多个吸引盆的高效遍历，显著提升了模式发现效率。
• 通过虫洞度量与改进的蛙跳积分器与WHMC集成，在保持哈密顿动力学的同时加速了模态间转换。