[论文解读] Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models

Louis Sharrock, Jack Simons+2 more|arXiv (Cornell University)|Oct 10, 2022

Model Reduction and Neural Networks被引用 8

一句话总结

该论文提出了顺序神经后验得分估计（SNPSE）和顺序神经似然得分估计（SNLSE），一种基于得分的新型方法，用于使用条件得分基扩散模型进行似然不可知推断。通过训练得分网络以估计对数后验或对数似然的梯度，并将其嵌入顺序模拟框架中，该方法在保持与最先进的SBI方法（如SNPE和SNLE）相当或更优性能的同时，显著降低了模拟成本。

ABSTRACT

We introduce Sequential Neural Posterior Score Estimation (SNPSE), a score-based method for Bayesian inference in simulator-based models. Our method, inspired by the remarkable success of score-based methods in generative modelling, leverages conditional score-based diffusion models to generate samples from the posterior distribution of interest. The model is trained using an objective function which directly estimates the score of the posterior. We embed the model into a sequential training procedure, which guides simulations using the current approximation of the posterior at the observation of interest, thereby reducing the simulation cost. We also introduce several alternative sequential approaches, and discuss their relative merits. We then validate our method, as well as its amortised, non-sequential, variant on several numerical examples, demonstrating comparable or superior performance to existing state-of-the-art methods such as Sequential Neural Posterior Estimation (SNPE).

研究动机与目标

• 解决在似然不可知的模拟器模型中进行贝叶斯推断的挑战。
• 开发直接估计后验或似然得分而不需显式密度估计的基于得分的生成模型。
• 通过将顺序训练与基于得分的扩散模型结合，降低似然不可知推断中的模拟成本。
• 与现有的SBI方法（如SNPE和SNLE）相比，提升后验近似中的样本效率和准确性。
• 通过在模拟数据上使用得分匹配训练基于得分的扩散模型，实现可扩展的、可 amortized 的推断。

提出的方法

• 提出条件得分基扩散模型，通过学习后验或似然的得分函数，从不可知的后验分布中生成样本。
• 采用顺序训练程序，利用当前的后验近似引导模拟，从而减少所需的模拟器调用次数。
• 采用桥接分布方法，通过一系列在先验与目标后验之间插值的扰动分布，实现基于得分的反向SDE采样。
• 训练单一得分网络，通过在扰动数据上使用得分匹配，利用从先验和模拟器中抽取的$(\theta, x)$对来近似后验或似然的得分。
• 应用预测-校正方法求解反向时间SDE，确保从目标后验分布中准确采样。
• 使用方差爆炸SDE进行前向扩散，通过几何序列的时间步长调整噪声水平，以实现稳定训练和采样。

实验结果

研究问题

• RQ1 基于得分的扩散模型能否在似然不可知、似然不可知的模拟器模型中有效用于似然不可知推断？
• RQ2 训练得分网络以估计后验或似然得分，是否能比现有的基于归一化流的SBI方法实现更高效、更准确的推断？
• RQ3 一种利用当前后验估计引导模拟的顺序训练策略，是否能显著降低SBI中的模拟成本？
• RQ4 SNPSE和SNLSE在基准问题上的性能和样本效率，与最先进的方法（如SNPE和SNLE）相比如何？
• RQ5 在SBI中，使用基于得分的生成建模与得分匹配，对后验近似质量与收敛性有何影响？

主要发现

• SNPSE和SNLSE在基准问题（如“两个月亮”模型）上的表现与SNPE和SNLE相当或更优，样本质量更高，模拟成本更低。
• 顺序变体（SNPSE/SNLSE）显著减少了所需的模拟器调用次数，表明其在样本效率上优于非顺序基线方法。
• 该方法仅通过得分估计即可成功生成高质量的后验样本，无需显式密度评估或归一化。
• 使用时间依赖得分的桥接分布，即使在真实后验不可知的情况下，也能通过反向SDE实现稳定训练和采样。
• 实证结果表明，所提方法在多个实验中，后验覆盖度和有效样本量方面均优于或匹配现有SBI方法。
• 该方法对高维参数空间具有鲁棒性，并在训练数据有限的情况下保持强性能，如在“两月”实验中仅使用1000对模拟数据即表现出色。