[论文解读] Accurate and Conservative Estimates of MRF Log-likelihood using Reverse Annealing

Yuri Burda, Roger Grosse+1 more|arXiv (Cornell University)|Dec 30, 2014

Bayesian Methods and Mixture Models参考文献 22被引用 18

一句话总结

本文提出了反向AIS估计器（RAISE），这是一种基于与标准退火重要性采样（AIS）相同的MCMC转移算子进行反向退火的近似马尔可夫随机场（MRF）模型对数似然的随机下界。当与AIS联合使用时，RAISE能提供保守且精确的估计，其结果与AIS高度一致，从而为检测AIS结果中可能存在的过度乐观现象，提供了一种实用的MRF似然估计验证方法。

ABSTRACT

Markov random fields (MRFs) are difficult to evaluate as generative models because computing the test log-probabilities requires the intractable partition function. Annealed importance sampling (AIS) is widely used to estimate MRF partition functions, and often yields quite accurate results. However, AIS is prone to overestimate the log-likelihood with little indication that anything is wrong. We present the Reverse AIS Estimator (RAISE), a stochastic lower bound on the log-likelihood of an approximation to the original MRF model. RAISE requires only the same MCMC transition operators as standard AIS. Experimental results indicate that RAISE agrees closely with AIS log-probability estimates for RBMs, DBMs, and DBNs, but typically errs on the side of underestimating, rather than overestimating, the log-likelihood.

研究动机与目标

• 为解决MRF中退火重要性采样（AIS）的不可靠性问题，该方法常因分区函数估计不足而导致对数似然被高估。
• 开发一种能生成MRF对数似然保守（下界）估计的方法，以检测AIS结果中可能存在的过度乐观现象。
• 创建一种实用且易于实现的估计器，仅使用与AIS相同的标准MCMC转移算子，以确保与现有模型的兼容性。
• 通过提供与AIS互补的估计器，实现对深度生成模型（如RBM、DBM和DBN）的可靠评估。

提出的方法

• RAISE通过使用精心选择的提议分布进行反向退火，计算近似MRF模型对数似然的随机下界。
• 其利用与标准AIS中相同的MCMC转移算子，确保实现开销最小化。
• 该方法采用基于未归一化模型概率的控制变量进行重要性采样，以提升估计的稳定性。
• 对于DBM和DBN等模型，RAISE采用基于平均场或识别网络提议的重要性采样，以估计未归一化概率。
• 该估计器应用于测试数据，生成保守的对数概率估计，可与标准AIS结果进行比较。
• RAISE（下界）与AIS（上界）之间的吻合度，表明对真实对数似然值具有高度置信。

实验结果

研究问题

• RQ1 能否仅使用与AIS中相同的标准MCMC转移算子，构建MRF对数似然的随机下界？
• RQ2 所提出的反向AIS估计器（RAISE）是否能持续产生保守估计，避免AIS中常见的过度乐观现象？
• RQ3 在RBMs、DBMs和DBNs等真实世界模型中，RAISE与AIS估计的一致性程度如何？
• RQ4 RAISE与AIS估计之间的一致性能否作为MRF中似然估计准确性的实用诊断工具？

主要发现

• 对于可精确计算分区函数的小型RBM，RAISE估计值与真实对数似然值高度一致，验证了其准确性。
• 在全尺寸RBM、DBM和DBN上，当K=100,000时，RAISE估计值与AIS估计值的差异在1 nat以内，表明估计高度一致。
• RAISE始终产生保守估计，在10个测试模型中有9个模型的估计值低于或等于最低的AIS估计值，证实其下界性质。
• 对于Omniglot DBM，RAISE高估了6.38 nats，表明退火模型可能比DBM更契合数据，凸显了RAISE检测模型拟合不良的能力。
• 在所有情况下，RAISE（下界）与AIS（上界）之间的一致性，为两个估计值均接近真实值提供了强有力证据。
• 该方法实现简单，仅需标准MCMC算子，使其成为评估深度生成模型中MRF的实用工具。