[论文解读] An Easy to Interpret Diagnostic for Approximate Inference: Symmetric Divergence Over Simulations

Justin Domke|arXiv (Cornell University)|Feb 25, 2021

Gaussian Processes and Bayesian Inference参考文献 23被引用 5

一句话总结

该论文提出了一种基于模拟的诊断方法，用于近似推理方法（如变分推断和拉普拉斯方法），通过在重复模拟的数据集中计算真实联合模型与推断得到的近似后验之间的对称Kullback-Leibler散度，实现无需边际似然评估的可解释、标量形式的误差估计，从而提供一种实用且自动化的平均推理精度度量。

ABSTRACT

It is important to estimate the errors of probabilistic inference algorithms. Existing diagnostics for Markov chain Monte Carlo methods assume inference is asymptotically exact, and are not appropriate for approximate methods like variational inference or Laplace's method. This paper introduces a diagnostic based on repeatedly simulating datasets from the prior and performing inference on each. The central observation is that it is possible to estimate a symmetric KL-divergence defined over these simulations.

研究动机与目标

• 为解决诸如变分推断和拉普拉斯方法等渐近近似推理方法缺乏可靠诊断手段的问题，这些方法不适用于传统的MCMC收敛诊断。
• 开发一种诊断方法，用于量化从先验中抽取的模拟数据集中近似后验的平均精度。
• 提供一种不依赖于边际似然 $p(\mathbf{x})$ 计算的标量、可解释的推理误差度量。
• 通过在随机种子上取平均，将该诊断方法扩展至非确定性推理方法，同时保持其可解释性。
• 构建一个适用于现代推理技术（包括加权重要性采样变分推断）的框架，通过利用近似后验分布的结构实现。

提出的方法

• 从先验和似然 $p(\mathbf{z}, \mathbf{x})$ 中模拟多个数据集 $(\mathbf{z}, \mathbf{x}) \sim p(\mathbf{z}, \mathbf{x})$。
• 对每个模拟得到的 $\mathbf{x}$，执行推理以获得近似后验 $q(\mathbf{z}|\mathbf{x})$。
• 通过对数比值之差计算对称KL散度 $\mathrm{SKL}(p(\mathbf{z},\mathbf{x}) \| q(\mathbf{z},\mathbf{x}))$：$d = \log \frac{p(\mathbf{z},\mathbf{x})}{q(\mathbf{z}|\mathbf{x})} - \log \frac{p(\tilde{\mathbf{z}},\mathbf{x})}{q(\tilde{\mathbf{z}}|\mathbf{x})}$，其中 $\tilde{\mathbf{z}} \sim q(\mathbf{z}|\mathbf{x})$。
• 通过在模拟中对 $d$ 的期望值进行估计，获得对称散度，该方法可消除归一化项并避免边际似然的计算。
• 通过在随机种子上取平均，将方法扩展至非确定性推理，将诊断定义为 $\mathbb{E}_{\bm{\omega}}[\mathrm{SKL}(q(\mathbf{z},\mathbf{x}|\bm{\omega}) \| p(\mathbf{z},\mathbf{x}))]$。
• 通过使用加权样本计算散度估计值，将诊断方法适配至加权重要性推理。

实验结果

研究问题

• RQ1 能否构建一种基于模拟的诊断方法，为近似推理方法提供一种标量、可解释的平均误差度量？
• RQ2 如何在不依赖于通常难以计算的边际似然 $p(\mathbf{x})$ 的前提下，估计对称KL散度？
• RQ3 该诊断方法能否应用于非确定性推理方法（如随机变分推断）？
• RQ4 该诊断方法是否能有效捕捉近似后验中的模式寻找误差和模式覆盖误差？
• RQ5 该诊断方法能否扩展至加权重要性变分推断及其他现代推理技术？

主要发现

• 所提出的诊断方法在无需计算边际似然 $p(\mathbf{x})$ 的前提下，为模拟数据集上的平均推理误差提供了标量且可解释的度量。
• 通过对数比值差的期望值 $\mathbb{E}[d]$ 可估计对称KL散度，该方法可消除归一化常数，从而实现实际计算。
• 实验表明，该方法在多种方法中均有效，包括标准变分推断、拉普拉斯方法以及加权重要性变分推断。
• 即使推理过程是非确定性的，通过在诊断期望中对随机种子取平均，该方法仍保持有效性和可解释性。
• 该诊断方法可扩展至包含隐变量或条件变量的模型，从而扩大其在复杂概率模型中的适用范围。
• 该诊断方法本质上是频率学派的，衡量的是在模拟数据上的平均性能，这可能限制其在单个观测数据集的贝叶斯语境下的直接解释性。