[论文解读] Proximal Markov chain Monte Carlo algorithms

Marcelo Pereyra|arXiv (Cornell University)|Jun 2, 2013

Markov Chains and Monte Carlo Methods参考文献 29被引用 9

一句话总结

本文提出了一种新型的MCMC方法——近端马尔可夫链蒙特卡洛算法（P-MALA），该方法利用凸分析与邻近映射技术，高效地从高维、对数凹且不可微的后验分布中进行采样。通过使用源自Moreau–Yoshida正则化的近端算子替代基于梯度的更新，P-MALA即使在标准MALA失效的非光滑目标分布下，也能实现几何遍历性和鲁棒稳定性。

ABSTRACT

This paper presents a new Metropolis-adjusted Langevin algorithm (MALA) that uses convex analysis to simulate efficiently from high-dimensional densities that are log-concave, a class of probability distributions that is widely used in modern high-dimensional statistics and data analysis. The method is based on a new first-order approximation for Langevin diffusions that exploits log-concavity to construct Markov chains with favourable convergence properties. This approximation is closely related to Moreau-Yoshida regularisations for convex functions and uses proximity mappings instead of gradient mappings to approximate the continuous-time process. The proposed method complements existing MALA methods in two ways. First, the method is shown to have very robust stability properties and to converge geometrically for many target densities for which other MALA are not geometric, or only if the step size is sufficiently small. Second, the method can be applied to high-dimensional target densities that are not continuously differentiable, a class of distributions that is increasingly used in image processing and machine learning and that is beyond the scope of existing MALA and HMC algorithms. To use this method it is necessary to compute or to approximate efficiently the proximity mappings of the logarithm of the target density. For several popular models, including many Bayesian models used in modern signal and image processing and machine learning, this can be achieved with convex optimisation algorithms and with approximations based on proximal splitting techniques, which can be implemented in parallel. The proposed method is demonstrated on two challenging high-dimensional and non-differentiable models related to image resolution enhancement and low-rank matrix estimation that are not well addressed by existing MCMC methodology.

研究动机与目标

• 解决在信号与图像处理中常见的高维、不可微模型中的贝叶斯推断挑战。
• 克服标准MALA与HMC方法对目标密度连续可微性的依赖限制。
• 开发一种鲁棒的MCMC算法，即使在梯度不可用或不稳定的条件下，也能对对数凹目标保持几何收敛性。
• 为具有非光滑先验（如总变差、核范数和拉普拉斯先验）的模型实现高效采样。
• 提供一种通用框架，用于凸、高维统计模型中的MCMC采样，超越现有基于梯度方法的适用范围。

提出的方法

• 提出一种近端无调整Langevin算法（P-ULA），使用邻近映射替代梯度，以近似Langevin扩散的SDE动力学。
• 利用Moreau–Yoshida正则化，基于共轭对偶性构建连续时间扩散过程的一阶近似。
• 引入一种马尔可夫链蒙特卡洛修正版本（P-MALA），通过Metropolis-Hastings接受-拒绝步骤校正近端提议，确保对目标分布的精确平稳性。
• 依赖对数密度的高效邻近算子计算（例如L1、核范数或凸集指示函数），实现高维可扩展性。
• 使用邻近分裂技术（如前向-后向、ADMM类算法）并行计算邻近映射，适用于大规模问题。
• 将该方法应用于非光滑、高维模型，如图像超分辨率与低秩矩阵估计，这些场景中标准MCMC方法表现不佳。

实验结果

研究问题

• RQ1 能否利用近端算子构建针对不可微、高维、对数凹后验分布的稳定且几何遍历的MCMC采样器？
• RQ2 在非光滑目标下，P-MALA与标准MALA和HMC在收敛性与混合时间方面的性能如何比较？
• RQ3 P-MALA能否有效对具有不可微先验（如总变差或核范数正则化）的模型进行采样？
• RQ4 在高维MCMC中，使用邻近映射相较于梯度映射在计算与理论层面有何优势？
• RQ5 P-MALA在何种程度上可扩展至具有复杂约束（如半正定锥、范数球）或层次化超参数的模型？

主要发现

• P-MALA在标准MALA失效或需极小步长才能收敛的广泛非可微、对数凹目标密度类中，实现了几何遍历性。
• 该方法在具有非光滑先验（如拉普拉斯、总变差、核范数惩罚）的高维模型中表现出鲁棒的稳定性与收敛性。
• P-MALA成功对两个具有挑战性的应用进行了采样：图像分辨率增强与低秩矩阵估计，这些任务在现有MCMC方法中处理效果不佳。
• 邻近映射框架可通过凸优化算法（包括邻近分裂）高效计算提议，且可并行化处理。
• P-MALA的混合时间依赖于目标密度的尾部行为，与标准MALA或随机游走不同，表明其对目标分布形状较为敏感。
• 该方法兼容层次化模型，可扩展用于高维反问题中的经验贝叶斯估计与可信区域计算。