[论文解读] Variational methods for simulation-based inference

Manuel Glöckler, Michael Deistler+1 more|arXiv (Cornell University)|Mar 8, 2022

Neural Networks and Applications被引用 10

一句话总结

该论文提出顺序神经变分推断（SNVI），一种可扩展的基于模拟的推断方法，结合了似然比估计与使用归一化流和重要性重加权（SIR）的变分推断。SNVI 在无需马尔可夫链蒙特卡洛（MCMC）采样的情况下实现贝叶斯后验近似，在神经科学模型中将计算成本降低一个数量级，同时保持精度，并通过校准的似然估计器处理无效模拟输出。

ABSTRACT

We present Sequential Neural Variational Inference (SNVI), an approach to perform Bayesian inference in models with intractable likelihoods. SNVI combines likelihood-estimation (or likelihood-ratio-estimation) with variational inference to achieve a scalable simulation-based inference approach. SNVI maintains the flexibility of likelihood(-ratio) estimation to allow arbitrary proposals for simulations, while simultaneously providing a functional estimate of the posterior distribution without requiring MCMC sampling. We present several variants of SNVI and demonstrate that they are substantially more computationally efficient than previous algorithms, without loss of accuracy on benchmark tasks. We apply SNVI to a neuroscience model of the pyloric network in the crab and demonstrate that it can infer the posterior distribution with one order of magnitude fewer simulations than previously reported. SNVI vastly reduces the computational cost of simulation-based inference while maintaining accuracy and flexibility, making it possible to tackle problems that were previously inaccessible.

研究动机与目标

• 开发一种适用于似然函数不可计算模型的可扩展、高效贝叶斯推断方法。
• 克服基于似然比的SBI方法中MCMC采样的计算瓶颈。
• 保持提案分布和先验更新的灵活性，不同于后验导向方法。
• 在真实模拟器中处理无效模拟输出（如NaN值）而不丢弃数据。
• 在显著减少模拟次数的前提下，实现与先前SBI方法相当的高精度。

提出的方法

• SNVI 使用归一化流训练神经似然比估计器，以建模似然 $p({\bm{x}}|{m{ heta}})$。
• 采用一般散度（如f-散度）的变分推断，学习后验近似 $q_\phi({\bm{\theta}}|{m{x}})$。
• 该方法使用重要性重加权（SIR）来优化后验估计，并在多轮顺序推断中引导主动学习。
• 通过独立的深度逻辑回归分类器估计有效性概率 $P(\text{valid}|{\bm{\theta}})$，以校正无效模拟的似然估计。
• 在每轮中，仅使用有效模拟重新训练似然模型，同时使用加权二元交叉熵更新分类器。
• 该方法采用顺序训练策略，根据后验不确定性自适应采样新模拟，从而提高效率。

实验结果

研究问题

• RQ1 变分推断能否与似然比估计有效结合，以实现快速、可扩展的基于模拟的推断？
• RQ2 如何在不丢弃数据或损害似然估计的前提下处理无效模拟输出？
• RQ3 SNVI 是否在显著降低模拟成本的同时，实现与最先进SBI方法相当的精度？
• RQ4 SNVI 能否保持与后验导向方法不同的提案分布和先验更新灵活性？
• RQ5 与基于rKL的变分推断相比，SIR和一般散度的使用如何改善后验近似？

主要发现

• 在蟹类腹神经节网络的复杂神经科学模型中，SNVI 将所需模拟次数减少了整整一个数量级（从约10万次降至约1万次）。
• 该方法实现了与SNLE和SNRE相当的后验推断精度，且在测试阶段无需MCMC采样。
• 有效性估计分类器的训练成本约为似然模型的三分之一，显著降低了额外计算开销。
• 似然模型与有效性模型的联合运行时间显著低于对所有模拟（包括无效模拟）进行训练的时间，即使将无效模拟替换为虚拟值也是如此。
• 该方法对高比例无效模拟（高达90%）保持鲁棒性，通过有效性概率估计器实现正确校正。
• 通过额外的后处理（如使用α-散度，α=0.5）将有效率提升至94%，尽管这并非核心方法的一部分，且可能引入模式搜索偏差。