[论文解读] Automatic Posterior Transformation for Likelihood-Free Inference

David S. Greenberg, Marcel Nonnenmacher+1 more|arXiv (Cornell University)|May 17, 2019

Machine Learning in Healthcare被引用 74

一句话总结

APT 是一种顺序神经后验估计方法，允许任意、动态更新的提案和基于流的密度估计器，在无 likelihood 的设定中高效推断真实后验，包括高维时间序列和图像。

ABSTRACT

How can one perform Bayesian inference on stochastic simulators with intractable likelihoods? A recent approach is to learn the posterior from adaptively proposed simulations using neural network-based conditional density estimators. However, existing methods are limited to a narrow range of proposal distributions or require importance weighting that can limit performance in practice. Here we present automatic posterior transformation (APT), a new sequential neural posterior estimation method for simulation-based inference. APT can modify the posterior estimate using arbitrary, dynamically updated proposals, and is compatible with powerful flow-based density estimators. It is more flexible, scalable and efficient than previous simulation-based inference techniques. APT can operate directly on high-dimensional time series and image data, opening up new applications for likelihood-free inference.

研究动机与目标

• 为具有不可处理似然性的随机仿真器提供贝叶斯推理的动机。
• 引入 Automatic Posterior Transformation (APT) 作为一种灵活、摊销的 SNPE 技术。
• 在不使用重要性权重的情况下，允许使用任意提案和基于流的密度估计器。
• 表明 APT 可以扩展到高维时间序列和图像数据而无需手工设计的摘要统计量。

提出的方法

• 在无 likelihood 的情形下将后验估计问题定义为学习 qF(x,φ)(θ) 以近似 p(θ|x)。
• 通过比率 p(θ|x) 与 ṗ(θ)/p(θ) 的归一化 Z(x,φ) 在真实后验与提案后验之间进行变换。
• 通过最小化变换后的损失 ḡL 使用 ṡ 如式 (2) 所示来恢复 p(θ|x) 与 ṗ(θ|x)。
• 跨轮允许任意、动态更新的提案 ṗr(θ)，从而实现灵活的数据获取。
• 支持 Gaussian、mixture、和 flow-based density estimators，包括 atomic proposals 以将积分替换为求和。
• 为 ṭq 提供闭式解，以实现对复杂提案的高效采样与学习。

实验结果

研究问题

• RQ1 在没有重要性权重的情况下，给定任意提案分布 ṗ(θ)，APT 是否能恢复真实后验 p(θ|x)？
• RQ2 在不同密度估计器（Gaussian、MoG、flows）以及原子提案下，APT 的表现如何？
• RQ3 APT 是否能扩展到高维数据（如长时间序列和图像），而不依赖手工设计的摘要统计量？
• RQ4 相比先前的 SNPE 方法，APT 是否更高效地实现多模态和高维后验推断？
• RQ5 在时间序列和图像数据上，结合适当的神经网络架构（RNNs、CNNs），APT 是否能够有效运行？

主要发现

• APT 在多轮中能够同时恢复真实后验和提案后验，从而实现对提案与密度估计器的灵活使用。
• 在 Gaussian 与 MoG 的先验/提案以及各种后验下，APT 推导出变换后后验的闭式更新（例如 方程 (3)-(4)）。
• 原子提案使训练可以通过求和而不是积分完成，从而实现 flow-based 估计器和多模态后验。
• APT 在若干基准测试上优于 SNPE-A 和 SNPE-B，并且接近 SNL，包括 SLCP 和高维类图像数据。
• APT能够在原始时间序列上使用 RNNs 以及在图像数据上使用 CNNs 工作，避免需要手工设计的摘要统计量。