[论文解读] Distilling importance sampling

Dennis Prangle|arXiv (Cornell University)|Oct 8, 2019

Markov Chains and Monte Carlo Methods参考文献 60被引用 6

一句话总结

本文提出了一种混合贝叶斯推断方法，结合归一化流与重要性采样，以迭代方式改进后验近似。通过将重要性采样结果提炼为更新的流参数，该方法在排队系统和随机微分方程等复杂模型中提升了精度。

ABSTRACT

The two main approaches to Bayesian inference are sampling and optimisation methods. However many complicated posteriors are difficult to approximate by either. Therefore we propose a novel approach combining features of both. We use a flexible parameterised family of densities, such as a normalising flow. Given a density from this family approximating the posterior, we use importance sampling to produce a weighted sample from a more accurate posterior approximation. This sample is then used in optimisation to update the parameters of the approximate density, which we view as distilling the importance sampling results. We iterate these steps and gradually improve the quality of the posterior approximation. We illustrate our method in two challenging examples: a queueing model and a stochastic differential equation model.

研究动机与目标

• 解决纯采样与优化方法在近似复杂贝叶斯后验时的局限性。
• 克服在高维或非椭球结构下难以处理的后验建模挑战。
• 开发一种混合框架，结合归一化流的灵活性与重要性采样的准确性。
• 通过加权重要性样本的迭代精炼，提升后验近似质量。

提出的方法

• 使用参数化密度族（如归一化流）表示初始后验近似。
• 应用重要性采样，从更精确的后验近似中生成加权样本。
• 通过最小化流与加权重要性样本之间的差异，优化归一化流的参数。
• 利用重要性采样结果中提炼的信息，迭代更新流参数。
• 结合归一化流的灵活性与重要性采样的准确性，在多轮迭代中精炼后验估计。
• 将该过程视为将重要性采样信息‘蒸馏’为更结构化的后验近似。

实验结果

研究问题

• RQ1 结合归一化流与重要性采样的混合方法是否能提升复杂模型中的后验近似？
• RQ2 如何有效利用重要性采样结果来精炼参数化后验近似？
• RQ3 通过蒸馏实现的迭代精炼在多大程度上提升了后验精度，相较于标准方法？
• RQ4 该方法能否处理具有挑战性的后验分布，如排队模型和随机微分方程中的后验？
• RQ5 归一化流架构的选择对收敛性和准确性有何影响？

主要发现

• 该方法在标准采样或优化方法失效的复杂模型中，成功提升了后验近似的质量。
• 通过蒸馏实现的迭代精炼在多轮迭代中产生了更准确、更可靠的后验估计。
• 该方法在两个具有挑战性的应用中表现有效：一个排队模型和一个随机微分方程模型。
• 使用加权重要性样本使模型能够捕捉超越简单参数形式的复杂后验结构。
• 该框架对模型复杂性具有鲁棒性，并在迭代更新过程中保持稳定的收敛性。
• 蒸馏过程有效将重要性采样信息转移至更灵活、更精确的后验表示中。