[论文解读] Sequential Neural Posterior and Likelihood Approximation

Samuel Wiqvist, Jes Frellsen+1 more|arXiv (Cornell University)|Feb 12, 2021

Model Reduction and Neural Networks参考文献 35被引用 6

一句话总结

该论文提出顺序神经后验与似然近似（SNPLA），一种基于模拟的推断方法，通过归一化流联合学习近似后验和似然分布，避免了MCMC采样和校正步骤。SNPLA相比基于MCMC的方法（如SNL）实现高达12,000倍的后验采样速度提升，同时在相同模拟次数下保持了与之相当的推断精度。

ABSTRACT

We introduce the sequential neural posterior and likelihood approximation (SNPLA) algorithm. SNPLA is a normalizing flows-based algorithm for inference in implicit models, and therefore is a simulation-based inference method that only requires simulations from a generative model. SNPLA avoids Markov chain Monte Carlo sampling and correction-steps of the parameter proposal function that are introduced in similar methods, but that can be numerically unstable or restrictive. By utilizing the reverse KL divergence, SNPLA manages to learn both the likelihood and the posterior in a sequential manner. Over four experiments, we show that SNPLA performs competitively when utilizing the same number of model simulations as used in other methods, even though the inference problem for SNPLA is more complex due to the joint learning of posterior and likelihood function. Due to utilizing normalizing flows SNPLA generates posterior draws much faster (4 orders of magnitude) than MCMC-based methods.

研究动机与目标

• 解决隐式模型在基于模拟的推断（SBI）方法中MCMC采样计算效率低下的问题。
• 消除后验估计中对校正步骤的需求，这是SNPE等方法已知的局限。
• 同时学习一个准确且易于采样的似然模型作为副产品，实现高效的数据生成。
• 提供统一框架，支持后验推断与从学习到的似然模型中快速模拟。
• 通过学习到的似然模型实现参数空间的高效探索，尤其在计算资源受限时具有优势。

提出的方法

• 利用归一化流建模后验 $\tilde{p}_{\phi_P}(\theta|x_{\text{obs}})$ 和似然 $\tilde{p}_{\phi_L}(x|\theta)$ 分布。
• 采用反向Kullback–Leibler（KL）散度训练后验，避免SNPE中所需的校正步骤。
• 通过模拟数据上的联合优化目标，顺序训练后验与似然模型。
• 利用归一化流的可逆性与可计算性，通过一次前向传播实现快速后验采样。
• 端到端联合学习摘要统计量，与后验和似然模型一同训练，以提升泛化能力。
• 使用同一组模型模拟数据同时用于后验与似然学习，确保效率与一致性。

实验结果

研究问题

• RQ1 是否存在一种单一SBI方法，能够不依赖MCMC或校正步骤，同时学习后验与似然分布？
• RQ2 在使用相同数量模型模拟的情况下，SNPLA与SNL和SNPE-C相比，后验精度如何？
• RQ3 后验与似然的联合学习在多大程度上提升了采样速度与计算效率？
• RQ4 学习到的似然模型能否有效用于快速数据生成与参数空间探索？
• RQ5 学习到的摘要统计量是否提升了不同模型间的推断鲁棒性与泛化能力？

主要发现

• SNPLA的后验采样速度约为SNL的12,000倍，采样速度提升了四个数量级。
• 在相同模拟次数下，SNPLA的后验推断精度与SNL和SNPE-C相当，尽管略有更高的变异性。
• 尽管同时学习后验与似然，SNPLA的训练运行时间平均比SNL快5.6倍，比SNRE-B快2倍。
• 学习到的似然模型可实现快速的人工数据模拟，特别适用于参数空间探索与罕见事件估计。
• 在HH模型中，SNPLA的运行时间比SNL更快收敛，展示了在复杂高维场景下的实际效率优势。
• 该方法通过联合学习摘要统计量、后验与似然，支持即插即用的推断，提升了灵活性与可重用性。