[论文解读] Compositional Score Modeling for Simulation-based Inference

Tomas Geffner, George Papamakarios+1 more|arXiv (Cornell University)|Sep 28, 2022

Model Reduction and Neural Networks被引用 4

一句话总结

本文提出因子化神经后验得分估计（F-NPSE）及其渐进式变体（PF-NPSE），一种基于模拟的推断方法，通过建模单个观测诱导的后验分布得分，并将它们组合以从多个观测的联合后验中进行采样。该方法实现了样本高效、可扩展的推断，无需依赖MCMC或变分推断，且在每个训练样本上仅需极少的模拟器调用即可实现精确的后验近似。

ABSTRACT

Neural Posterior Estimation methods for simulation-based inference can be ill-suited for dealing with posterior distributions obtained by conditioning on multiple observations, as they tend to require a large number of simulator calls to learn accurate approximations. In contrast, Neural Likelihood Estimation methods can handle multiple observations at inference time after learning from individual observations, but they rely on standard inference methods, such as MCMC or variational inference, which come with certain performance drawbacks. We introduce a new method based on conditional score modeling that enjoys the benefits of both approaches. We model the scores of the (diffused) posterior distributions induced by individual observations, and introduce a way of combining the learned scores to approximately sample from the target posterior distribution. Our approach is sample-efficient, can naturally aggregate multiple observations at inference time, and avoids the drawbacks of standard inference methods.

研究动机与目标

• 为解决神经后验估计（NPE）在对多个观测进行条件化时的低效问题，后者在每个训练样本上需要大量模拟器调用。
• 克服神经似然估计（NLE）的局限性，后者依赖MCMC或变分推断等标准推断方法，这些方法会引入近似误差，并在多模态后验情况下失效。
• 开发一种方法，结合NPE的样本效率与NLE的多观测处理能力，同时避免依赖标准推断算法。
• 在推断时支持任意数量独立同分布观测的后验近似，且在训练期间保持极低的模拟成本。

提出的方法

• 该方法使用条件得分网络建模由每个独立观测诱导的后验分布的得分（对数密度梯度）。
• 提出一种新颖的前向过程，分别对每个观测的后验进行扩散，从而实现在推断时对得分进行组合聚合。
• 在推断阶段，将各个观测的得分相加，以近似联合后验分布的得分。
• 通过使用去噪扩散的Langevin动力学进行采样，利用学习到的得分网络在基于得分的生成过程中生成样本。
• 还提出了一种替代的、无需超参数调节的采样方法，其时间复杂度为O(T)，避免了步长调优。
• 通过重参数化使后验估计保持在有界支持范围内，并使用核密度估计进行可视化。

实验结果

研究问题

• RQ1 我们能否构建一种基于模拟的推断方法，能够在推断时高效处理多个观测，同时每个训练样本仅需一次模拟器调用？
• RQ2 我们能否避免在复杂、多模态后验的后验近似中，标准推断方法（如MCMC和变分推断）带来的性能缺陷？
• RQ3 组合式得分建模——即聚合单个观测的得分——是否能在不重新训练的情况下实现准确的联合后验近似？
• RQ4 当在得分聚合过程中使用的观测数量变化时，样本效率与误差累积之间的权衡如何影响性能表现？

主要发现

• F-NPSE与PF-NPSE仅需每个训练样本一次模拟器调用，即可实现对多个观测的精确后验近似，相较于NPE显著提升了样本效率。
• 最佳性能通常在中间值的m（例如3或6）时达到，表明F-NPSE（m=1）和NPSE（m=n）均非最优，凸显了误差累积与效率之间的权衡。
• 该方法对超参数选择具有鲁棒性：得分网络的保守参数化以及Langevin采样器步数（每噪声水平5–10步）的变化对性能影响极小。
• 在Weinberg模拟器基准测试中，随着观测数量的增加，F-NPSE成功将后验集中在真实参数值附近，证明了正确学习与有效聚合。
• 提出了一种无需超参数的替代采样方法，其表现有效，尽管在某些情况下略逊于去噪扩散的Langevin动力学，提示仍有进一步优化空间。