[论文解读] Likelihood-free MCMC with Amortized Approximate Likelihood Ratios

Joeri Hermans, Volodimir Begy+1 more|arXiv (Cornell University)|Mar 10, 2019

Markov Chains and Monte Carlo Methods参考文献 32被引用 3

一句话总结

本文提出了一种无需似然函数的MCMC方法，利用可迁移的神经网络估计器近似似然比（likelihood-to-evidence ratio），从而在似然函数不可计算的模型中实现高效的后验抽样。通过将该比率估计器集成到Metropolis-Hastings和Hamiltonian Monte Carlo算法中，该方法在具有高维观测值的复杂科学模型中实现了稳定且精确的推断。

ABSTRACT

Posterior inference with an intractable likelihood is becoming an increasingly common task in scientific domains which rely on sophisticated computer simulations. Typically, these mechanistic models do not admit tractable densities forcing practitioners to rely on approximations during inference. This work proposes a novel approach to address the intractability of the likelihood and the marginal model. We achieve this by learning a flexible estimator which approximates the likelihood-to-evidence ratio. The resulting amortized ratio estimator is embedded in MCMC samplers such as Metropolis-Hastings and Hamiltonian Monte Carlo to approximate the likelihood-ratio between consecutive states in the Markov chain, allowing us to draw samples from the intractable posterior. Techniques are presented to improve the numerical stability. We demonstrate our approach on a variety of benchmarks and compare against well-established approximate inference techniques. Scientific applications in high energy and astrophysics with high-dimensional observations show its applicability.

研究动机与目标

• 解决由于复杂计算机模拟导致似然函数不可计算的科学模型中的后验推断挑战。
• 通过学习一种灵活且可迁移的似然比估计器，克服传统近似推断方法的局限性。
• 在似然函数不可计算但可生成模拟数据的模型中，实现稳定且高效的MCMC抽样。
• 提升在天体物理学和高能物理中常见的高维观测空间中似然比估计的数值稳定性。

提出的方法

• 使用模拟数据训练神经网络以近似似然比，从而实现在不同参数值上的可迁移推断。
• 将学习到的比率估计器集成到Metropolis-Hastings和Hamiltonian Monte Carlo采样器中，以计算近似的接受比率。
• 利用估计的比率执行MCMC更新，而无需显式计算似然函数。
• 通过归一化和正则化技术提升比率估计过程中的数值稳定性。
• 利用基于模拟的训练方法，使比率估计器在参数空间中具有良好的泛化能力。
• 通过使用具备合适归纳偏置的深度神经网络，确保方法在高维观测空间中的兼容性。

实验结果

研究问题

• RQ1 学习得到的、可迁移的比率估计器是否能够在似然函数不可计算的模型中实现准确的后验抽样？
• RQ2 与现有成熟的近似推断技术相比，所提出的MCMC方法在准确性和效率方面表现如何？
• RQ3 该方法在典型天体物理和高能物理应用中常见的高维观测空间中，其可扩展性如何？
• RQ4 数值稳定性技术对使用近似比率的MCMC采样器可靠性有何影响？

主要发现

• 通过学习灵活且可迁移的似然比近似，所提出的方法在似然函数不可计算的模型中实现了准确的后验推断。
• 该方法在基准模型上表现出色，其抽样准确性优于现有的近似推断技术。
• 该方法在高维观测空间中表现出良好的可扩展性，已在高能物理和天体物理的科学应用中得到验证。
• 数值稳定性技术显著提升了使用近似似然比时MCMC采样器的可靠性。
• 可迁移的比率估计器降低了重复计算似然函数的计算成本，从而在多个MCMC迭代中实现了高效的推断。