[论文解读] MCMC for doubly-intractable distributions

Iain Murray, Zoubin Ghahramani+1 more|arXiv (Cornell University)|Jun 27, 2012

Model Reduction and Neural Networks参考文献 15被引用 260

一句话总结

本文提出了一种针对双重不可行分布的新型MCMC算法——其中似然和后验均涉及不可行的归一化常数——通过扩展Møller等人（2004年）的辅助变量方法实现。该方法通过更高效的采样方案提升接受概率，避免了对模型参数的预估计，从而在未归一化的指数族模型中实现精确推断。

ABSTRACT

Markov Chain Monte Carlo (MCMC) algorithms are routinely used to draw samples from distributions with intractable normalization constants. However, standard MCMC algorithms do not apply to doubly-intractable distributions in which there are additional parameter-dependent normalization terms; for example, the posterior over parameters of an undirected graphical model. An ingenious auxiliary-variable scheme (Moeller et al., 2004) offers a solution: exact sampling (Propp and Wilson, 1996) is used to sample from a Metropolis-Hastings proposal for which the acceptance probability is tractable. Unfortunately the acceptance probability of these expensive updates can be low. This paper provides a generalization of Moeller et al. (2004) and a new MCMC algorithm, which obtains better acceptance probabilities for the same amount of exact sampling, and removes the need to estimate model parameters before sampling begins.

研究动机与目标

• 解决在似然和后验中均存在不可行归一化常数的模型中的贝叶斯推断挑战。
• 克服现有辅助变量MCMC方法在处理双重不可行目标时固有的低接受概率问题。
• 消除在先前方法中需在采样前预估模型参数的限制。
• 开发一种适用于马尔可夫随机场和未归一化密度指数族分布的一般性MCMC算法。
• 通过提升Metropolis-Hastings更新中精确采样步骤的接受概率，提高计算效率。

提出的方法

• 将Møller等人（2004年）的辅助变量方案扩展，以支持依赖于参数的提议分布。
• 使用精确采样（从过去耦合）从提议分布中生成完美样本，确保接受概率可计算。
• 提出一种新型提议机制，基于当前参数值进行条件化，并利用辅助变量消除不可行的归一化常数。
• 在Metropolis-Hastings接受步骤中，由于辅助构造的存在，归一化常数的比值被抵消。
• 设计算法以避免需要预先估计参数，从而实现对后验分布的直接采样。
• 通过马尔可夫核的正确构造，保持细致平衡并确保收敛到真实后验分布。

实验结果

研究问题

• RQ1 我们能否设计一种针对双重不可行后验的MCMC算法，使其接受概率显著高于现有辅助变量方法？
• RQ2 在未归一化指数族模型中，是否可能消除在启动MCMC采样前预估模型参数的需求？
• RQ3 如何将精确采样整合到Metropolis-Hastings框架中，以处理似然和后验中均存在的不可行归一化常数？
• RQ4 对辅助变量构造的哪些修改能够改善双重不可行推断问题中的混合性和收敛性？
• RQ5 所提出的方法能否推广到一类广泛的具有未归一化密度的马尔可夫随机场？

主要发现

• 所提算法在相同精确采样量下，接受概率显著高于Møller等人（2004年）原始的辅助变量方法。
• 该方法消除了在采样前估计模型参数的需求，从而可在指数族模型中实现对后验的直接推断。
• 该算法保持了细致平衡，并确保以概率1收敛到真实后验分布。
• 实证结果表明，在Ising模型和Potts模型等基准模型中，混合性得到改善且收敛速度更快。
• 该方法具有通用性，适用于具有不可行归一化常数的一类广泛马尔可夫随机场。
• 该方法使在标准MCMC因不可行归一化项而失效的模型中实现精确贝叶斯推断成为可能。