[论文解读] Fast $ε$-free Inference of Simulation Models with Bayesian Conditional Density Estimation

George Papamakarios, Iain Murray|arXiv (Cornell University)|May 20, 2016

Markov Chains and Monte Carlo Methods被引用 151

一句话总结

本论文提出一种无似然推断方法，学习给定数据的参数的参数化贝叶斯条件密度，使用一个提议先验引导仿真，并借助贝叶斯 MDN 来近似后验，从而实现不依赖 ε 的推断，超越传统 ABC 方法。

ABSTRACT

Many statistical models can be simulated forwards but have intractable likelihoods. Approximate Bayesian Computation (ABC) methods are used to infer properties of these models from data. Traditionally these methods approximate the posterior over parameters by conditioning on data being inside an $ε$-ball around the observed data, which is only correct in the limit $ε\! ightarrow\!0$. Monte Carlo methods can then draw samples from the approximate posterior to approximate predictions or error bars on parameters. These algorithms critically slow down as $ε\! ightarrow\!0$, and in practice draw samples from a broader distribution than the posterior. We propose a new approach to likelihood-free inference based on Bayesian conditional density estimation. Preliminary inferences based on limited simulation data are used to guide later simulations. In some cases, learning an accurate parametric representation of the entire true posterior distribution requires fewer model simulations than Monte Carlo ABC methods need to produce a single sample from an approximate posterior.

研究动机与目标

• 为具有不可处理似然的仿真器模型提供推理动机，并强调对准确后验不确定性的需求。
• 引入避免 ε-近似并能够直接评估后验的参数化后验估计器。
• 开发一个实用的训练循环，使用提议先验将仿真聚焦在合理的参数区域。
• 利用贝叶斯神经密度估计器以提升鲁棒性并减少所需的仿真次数。
• 在多项实验中展示相对于传统 ABC 基线的效率和准确性提升。

提出的方法

• 使用条件密度估计直接建模 p(θ|x)，其输出由数据 x 条件化，采用 Mixture Density Network (MDN)。
• 采用提议先验 ṗ(θ) 引导仿真并迭代更新以逼近真实后验，从而实现高效数据收集。
• 通过 p̂(θ|x_o) ∝ [p(θ)/ṗ(θ)] qφ(θ|x_o) 来估计后验，其中 qφ 通过对模拟对 (θ_n, x_n) 进行最大似然训练得到。
• 将 qφ 训练为具有 K 个高斯分量且协方差完全参数化的 MDN，输入为 x，输出为 θ。
• 使用贝叶斯 MDN (MDN-SVI) 以在每次迭代数据有限时提高训练鲁棒性。
• 可选地用早期迭代中学习到的分量对 qφ 进行初始化，以对 Algorithm 2 进行自举。

实验结果

研究问题

• RQ1 在无似然设置中，参数化条件密度估计器是否能够在不依赖 ε-近似的前提下恢复精确后验 p(θ|x)？
• RQ2 集中在合理 θ 区域的学习型提议先验是否能降低实现准确后验学习所需的仿真次数？
• RQ3 在准确性和仿真效率方面，MDN 与 MDN-SVI 配置相比传统 ABC 基线表现如何？
• RQ4 在 ε-free 推断中，使用贝叶斯神经密度估计器来实现稳定性和鲁棒性的实际好处有哪些？
• RQ5 所提框架是否可扩展至不同模型类型和维数，并由 Lotka–Volterra、M/G/1 和线性回归实验所证明？

主要发现

• 基于 MDN 的后验能够更准确地还原非高斯且长尾的后验，优于拒绝 ABC，并在基线中具有竞争力。
• 使用由先前后验引导的提议先验，与仅使用先验训练和 ABC 方法相比，显著减少所需的仿真次数。
• MDN-SVI 提供对过拟合的鲁棒性并消除了对验证集的需求，从而实现高效的小样本训练。
• 提议先验的序贯细化使仿真集中在合理区域，从而提升效率，有时将所需的模型评估减少一个数量级。
• 在各项实验中，MDN 和 MDN-SVI 配置在后验准确性和仿真效率方面均优于 ABC 基线。