[论文解读] Metropolized Randomized Maximum Likelihood for sampling from multimodal distributions

Dean S. Oliver|arXiv (Cornell University)|Jul 30, 2015

Markov Chains and Monte Carlo Methods参考文献 29被引用 14

一句话总结

本文提出了一种马尔可夫链蒙特卡洛（MCMC）方法——Metropolized 随机最大似然（RML）方法，通过优化和辅助变量生成高效、独立的提议，用于从多模态后验分布中抽样。通过最小化带有随机数据的随机目标函数，该方法生成的提议密度接近目标分布，从而在复杂多模态后验分布中实现高接受率和快速混合。

ABSTRACT

This article describes a method for using optimization to derive efficient independent transition functions for Markov chain Monte Carlo simulations. Our interest is in sampling from a posterior density $π(x)$ for problems in which the dimension of the model space is large, $π(x)$ is multimodal with regions of low probability separating the modes, and evaluation of the likelihood is expensive. We restrict our attention to the special case for which the target density is the product of a multivariate Gaussian prior and a likelihood function for which the errors in observations are additive and Gaussian.

研究动机与目标

• 解决在地球科学反演问题中，标准 MCMC 方法在抽样多模态后验分布时混合效率差的问题。
• 克服随机游走 Metropolis 采样器因小而局部的转移而被困于局部模式的低效问题。
• 开发一种提议机制，将样本置于高概率区域，且不依赖于局部梯度信息或随机游走的缩放参数。
• 通过引入扩展变量构建接近目标后验分布的提议密度，实现高效独立抽样。
• 通过仔细调节参数 ρ 和 γ，确保马尔可夫链在多模态后验分布下的收敛性和有效性。

提出的方法

• 引入辅助变量（模型变量和数据变量），以简化提议密度的计算，并实现高效 Metropolis-Hastings 接受率评估。
• 采用两步过程：首先从模型和数据变量的联合先验中抽取随机样本，然后通过最小化一个随机目标函数生成提议。
• 随机目标函数结合了负对数先验和一个随机化的似然项，其中正则化参数 ρ 控制数据不确定性的影响力。
• 应用带有独立提议的 Metropolis-Hastings 算法，其中提议密度 q(x) 通过在辅助数据变量上进行边缘化得到。
• 调节参数 ρ（正则化）和 γ（数据加权）以在提议质量与采样有效性之间取得平衡，尤其在多模态场景下。
• 对于非高斯先验，应用反变换（anamorphosis transformation）将变量映射到高斯空间，使该方法可直接适用。

实验结果

研究问题

• RQ1 基于优化的提议生成是否能提升多模态后验分布中 MCMC 抽样的混合效率？
• RQ2 如何利用辅助变量简化独立 Metropolis 采样器中提议密度和接受率的计算？
• RQ3 哪些参数选择（ρ 和 γ）能同时保证高接受率和多模态后验抽样中的正确收敛性？
• RQ4 与标准随机游走 Metropolis 算法相比，RML 方法在多模态后验抽样中能在多大程度上减少预 burn-in 时间和混合时间？
• RQ5 当先验分布为非高斯分布时，该方法的效率如何？变量变换在多大程度上可扩展其适用范围？

主要发现

• 在示例 3 中，所提出的 Metropolized RML 采样器实现了 74% 的接受率，表明提议效率高且拒绝率极低。
• 数值示例中的蒙特卡洛样本分布与目标后验分布无显著差异，经由可视化和统计比较验证。
• 马尔可夫链在前 2000 次迭代中未表现出烧尽或非平稳行为，表明收敛速度快且混合良好。
• 该方法能有效避免陷入局部模式，因为通过优化系统性地将提议置于高概率区域。
• 对于具有高斯先验和误差的线性观测模型，当 ρ 和 γ 较小时，提议密度 q(x) 与目标后验 π(x) 完全匹配，实现 100% 接受率。
• 即使先验为非高斯分布，只要施加适当的 anamorphosis 变换将模型变量映射到高斯空间，该方法依然有效。