[论文解读] Posterior inference unchained with EL_2O

Uroš Seljak, Byeonghee Yu|arXiv (Cornell University)|Jan 14, 2019

Image and Object Detection Techniques参考文献 26被引用 10

一句话总结

该论文提出EL₂O，一种基于优化的新型近似贝叶斯推断方法，通过最小化一种新型的$t(\ln t)^2$ f-散度，直接最小化在采样点处近似后验$ q $与未归一化后验$ p $之间的L²距离。与基于随机KL散度的方法不同，EL₂O完全避免了采样噪声，从而实现更快的收敛速度和更高的精度——即使在非高斯、高维后验分布的情况下，也仅需比MCMC少三个数量级的似然评估次数即可达到MCMC级别的结果。

ABSTRACT

Statistical inference of analytically non-tractable posteriors is a difficult problem because of marginalization of correlated variables and stochastic methods such as MCMC and VI are commonly used. We argue that stochastic KL divergence minimization used by MCMC and VI is noisy, and we propose instead EL_2O, expectation optimization of L_2 distance squared between the approximate log posterior q and the un-normalized log posterior of p. When sampling from q the solutions agree with stochastic KL divergence minimization based VI in the large sample limit, however EL_2O method is free of sampling noise, has better optimization properties, and requires only as many sample evaluations as the number of parameters we are optimizing if q covers p. As a consequence, increasing the expressivity of q improves both the quality of results and the convergence rate, allowing EL_2O to approach exact inference. Use of automatic differentiation methods enables us to develop Hessian, gradient and gradient free versions of the method, which can determine M(M+2)/2+1, M+1 and 1 parameter(s) of q with a single sample, respectively. EL_2O provides a reliable estimate of the quality of the approximating posterior, and converges rapidly on full rank gaussian approximation for q and extensions beyond it, such as nonlinear transformations and gaussian mixtures. These can handle general posteriors, while still allowing fast analytic marginalizations. We test it on several examples, including a realistic 13 dimensional galaxy clustering analysis, showing that it is several orders of magnitude faster than MCMC, while giving smooth and accurate non-gaussian posteriors, often requiring a few to a few dozen of iterations only.

研究动机与目标

• 开发一种可扩展、无采样噪声的替代方法，用于高维、不可解析的后验分布，以替代随机变分推断和MCMC。
• 克服MCMC和变分推断中KL散度最小化固有的采样噪声问题。
• 在计算成本高昂的科学应用中，实现仅用极少似然评估次数即可获得准确的后验近似。
• 通过EL₂O值提供一种可靠、解析的后验质量估计。
• 支持基于梯度和基于Hessian的优化，以实现对高斯混合模型和非线性变换等表达能力强的模型的快速收敛。

提出的方法

• 提出一种新的f-散度$t(\ln t)^2$，在相同采样点处评估$ q $与$ p $之间L²距离的平方，从而在优化过程中消除采样噪声。
• 通过使用单一样本更新$ q $参数，最小化在采样点处$\ln q$与$\ln p$之间期望的L²距离，从而优化近似后验$ q $。
• 提出EL₂O的无梯度、基于梯度和基于Hessian的三种版本，其中Hessian版本每一样本提供$ M(M+3)/2+1 $个约束，用于无需迭代优化即可拟合满秩高斯分量。
• 采用逐点非线性变换和高斯混合模型以增强$ q $的表达能力，从而实现对非高斯后验的精确近似。
• 对任意参数子集实现解析边缘化，同时保持计算效率。
• 利用可用的解析梯度和Hessian（例如通过反向传播）加速收敛，尤其在高维问题中效果显著。

实验结果

研究问题

• RQ1 基于后验对数密度之间L²距离的散度是否在优化稳定性与收敛速度方面优于KL散度？
• RQ2 在后验近似中消除采样噪声是否能带来更快、更准确的推断，特别是在高维或非高斯设置下？
• RQ3 在真实的科学应用中，EL₂O是否能以比MCMC少三个数量级的似然评估次数，实现MCMC级别的精度？
• RQ4 当与高斯混合模型和非线性变换等表达能力强的模型结合时，EL₂O在捕捉复杂后验结构方面的有效性如何？
• RQ5 EL₂O是否能可靠估计模型证据$ p(x) $，从而在无需完整MCMC采样的情况下实现模型比较？

主要发现

• 在13维星系聚类分析中，EL₂O仅用25次迭代和约125次似然评估即实现了准确的非高斯后验近似，而MCMC则需要$10^5$次迭代。
• 该方法比MCMC快三个数量级，比ADVI快两个数量级，同时生成的后验分布更平滑、更精确。
• 在同一宇宙学示例中，ADVI需要200倍更高的计算成本（$2\times10^4$次调用），但因KL散度最小化中的噪声而产生更差的结果。
• EL₂O的Hessian版本收敛迅速，每一样本使用$ M(M+3)/2+1 $个约束即可拟合满秩高斯分量，无需迭代优化。
• EL₂O值本身提供了后验近似质量的可靠、无噪声估计，使优化过程中的置信度监控成为可能。
• 对于非高斯后验，将满秩高斯混合模型与一维非线性变换结合，即使在具有挑战性的高维设置下，也能与MCMC结果达到极佳的一致性。