[论文解读] Vertical-likelihood Monte Carlo

Nicholas G. Polson, James G. Scott|arXiv (Cornell University)|Sep 11, 2014

Markov Chains and Monte Carlo Methods参考文献 31被引用 4

一句话总结

本文提出垂直似然度蒙特卡洛方法，这是一种统一框架，通过指定似然度纵坐标（likelihood ordinate）的分布而非直接指定提议密度，来设计重要性抽样提议。该方法将七种主要蒙特卡洛方法——嵌套采样、切片采样、模拟退火等——统一于同一视角下，通过重加权切片采样展示了改进的收敛性，并通过似然度纵坐标的分布为嵌套采样提供了新解释。

ABSTRACT

In this review, we address the use of Monte Carlo methods for approximating definite integrals of the form $Z = \int L(x) d P(x)$, where $L$ is a target function (often a likelihood) and $P$ a finite measure. We present vertical-likelihood Monte Carlo, which is an approach for designing the importance function $g(x)$ used in importance sampling. Our approach exploits a duality between two random variables: the random draw $X \sim g$, and the corresponding random likelihood ordinate $Y\equiv L(X)$ of the draw. It is natural to specify $g(x)$ and ask: what is the the implied distribution of $Y$? In this paper, we take up the opposite question: what should the distribution of $Y$ be so that the implied importance function $g(x)$ is good for approximating $Z$? Our answer turns out to unite seven seemingly disparate classes of algorithms under the vertical-likelihood perspective: importance sampling, slice sampling, simulated annealing/tempering, the harmonic-mean estimator, the vertical-density sampler, nested sampling, and energy-level sampling (a suite of related methods from statistical physics). In particular, we give an alterate presentation of nested sampling, paying special attention to the connection between this method and the vertical-likelihood perspective articulated here. As an alternative to nested sampling, we describe an MCMC method based on re-weighted slice sampling. This method's convergence properties are studied, and two examples demonstrate the promise of the overall approach.

研究动机与目标

• 将多种蒙特卡洛方法——如重要性采样、切片采样与嵌套采样——统一于基于似然度纵坐标分布的单一概念框架下。
• 解决在贝叶斯模型选择中为边缘似然估计设计高效重要性采样提议的挑战。
• 提供一种系统性方法，用于选择似然度纵坐标值的分布，以实现最优或近似最优的抽样效率。
• 将嵌套采样重新表述为垂直似然度蒙特卡洛的一个特例，为其中的理论基础与实际实现提供新见解。
• 开发一种具有可证明收敛性质的重加权切片采样MCMC方法，适用于高维问题的实际应用。

提出的方法

• 该方法通过一个控制似然度纵坐标 $ Y = L(X) $ 分布的权重函数 $ w(u) $ 隐式定义重要性抽样提议，而非直接指定 $ g(x) $。
• 建立了随机抽样 $ X \sim g $ 与似然度纵坐标 $ Y = L(X) $ 之间的对偶关系，使得 $ Y $ 的分布选择可隐式定义 $ g(x) $。
• 采用得分函数启发式方法指导权重函数 $ w(u) $ 的选择，确保所诱导的提议 $ g(x) $ 适用于估计 $ Z = \int L(x)\, dP(x) $。
• 提出一种重加权切片采样算法，其中样本从似然度的切片中抽取，并根据 $ w(u) $ 进行重加权，从而实现具有正确目标分布的MCMC抽样。
• 通过将嵌套采样的序列抽样机制重新解释为垂直似然度构造，将该方法应用于嵌套采样，揭示其与似然度纵坐标分布的内在联系。
• 分析了MCMC方法的理论收敛性质，并通过数值例子展示了其在低维与高维设置下的有效性。

实验结果

研究问题

• RQ1 如何利用似然度纵坐标的分布来设计用于边缘似然估计的高效重要性采样提议？
• RQ2 嵌套采样与垂直似然度视角之间存在何种理论联系？该联系如何用于提升抽样效率？
• RQ3 是否可以构建一个统一框架，解释看似不同的蒙特卡洛方法（如切片采样、模拟退火与调和平均估计器）之间的关系？
• RQ4 在垂直似然度框架中，何种权重函数 $ w(u) $ 能够实现最优或近似最优的抽样效率？
• RQ5 基于该框架的重加权切片采样MCMC方法在高维问题中的表现如何，相较于标准方法有何优势？

主要发现

• 垂直似然度视角将七种主要蒙特卡洛方法——重要性采样、切片采样、模拟退火、调和平均估计器、垂直密度采样、能级采样与嵌套采样——统一于单一概念框架下。
• 嵌套采样被重新解释为垂直似然度蒙特卡洛的一个特例，其序列抽样机制被证明对应于特定的似然度纵坐标分布选择。
• 所提出的重加权切片采样MCMC方法表现出良好的收敛性，并成功估计了标准方法失效的50维问题中的边缘似然。
• 该方法在使用基莫尔的合流超几何函数作为解析基准的高维多元t分布示例中，实现了边缘似然的精确估计。
• 理论分析表明，该方法在弱正则性条件下收敛性可保证，且得分函数启发式方法为选择权重函数 $ w(u) $ 提供了系统性依据。
• 理论分析确认，所提方法在弱正则性条件下具有收敛性保证，且得分函数启发式方法为选择权重函数 $ w(u) $ 提供了系统性依据。