[论文解读] AIDE: An algorithm for measuring the accuracy of probabilistic inference algorithms

Marco Cusumano-Towner, Vikash K. Mansinghka|arXiv (Cornell University)|May 19, 2017

Machine Learning and Algorithms参考文献 25被引用 5

一句话总结

AIDE 是一种用于估算两个概率推理算法输出分布之间对称化 Kullback-Leibler (KL) 散度的蒙特卡洛估计器，将推理算法视为带有辅助变量的概率模型。它实现了对近似推理算法（如 SMC 和变分推理）的实用、定量评估——相较于黄金标准方法，能够检测出启发式方法所遗漏的故障模式。

ABSTRACT

Approximate probabilistic inference algorithms are central to many fields. Examples include sequential Monte Carlo inference in robotics, variational inference in machine learning, and Markov chain Monte Carlo inference in statistics. A key problem faced by practitioners is measuring the accuracy of an approximate inference algorithm on a specific data set. This paper introduces the auxiliary inference divergence estimator (AIDE), an algorithm for measuring the accuracy of approximate inference algorithms. AIDE is based on the observation that inference algorithms can be treated as probabilistic models and the random variables used within the inference algorithm can be viewed as auxiliary variables. This view leads to a new estimator for the symmetric KL divergence between the approximating distributions of two inference algorithms. The paper illustrates application of AIDE to algorithms for inference in regression, hidden Markov, and Dirichlet process mixture models. The experiments show that AIDE captures the qualitative behavior of a broad class of inference algorithms and can detect failure modes of inference algorithms that are missed by standard heuristics.

研究动机与目标

• 解决在实际应用中缺乏通用、可靠的度量标准来评估近似概率推理算法准确性的难题。
• 提供一种实用工具，用于测量近似推理算法的输出分布与黄金标准推理算法输出分布的接近程度。
• 检测标准启发式方法（如对数似然估计或探测函数期望）可能遗漏的推理算法故障模式。
• 实现在性能受限场景中部署前，对推理算法配置（如粒子数量、迭代次数）进行离线、定量评估。
• 建立一种针对推理算法中辅助变量的元推理框架，使不同推理范式之间的散度估计成为可能。

提出的方法

• 将推理算法视为生成式概率模型，其中内部的随机选择作为隐变量（辅助变量）。
• 定义一种元推理算法，用于对目标或黄金标准推理算法所使用的辅助变量进行推理。
• 通过联合推理其辅助变量，构建两个推理算法输出分布之间对称化 KL 散度的蒙特卡洛估计器。
• 将广义条件 SMC 更新作为基于 SMC 方法的典型元推理算法。
• 将该估计器应用于比较 SMC、变分推理和 MCMC 算法与黄金标准方法，通过逐步增加元推理运行次数来监控收敛性。
• 利用该框架估计近似结果与真实后验分布之间的散度，即使黄金标准方法并非完全反映后验分布也能实现。

实验结果

研究问题

• RQ1 能否开发一种通用、实用的度量标准，以量化近似推理算法相对于黄金标准的准确性？
• RQ2 在不依赖精确后验计算的前提下，如何估计两个推理算法输出之间的对称化 KL 散度？
• RQ3 AIDE 在多大程度上能够检测出标准启发式方法（如对数似然或探测函数期望）无法识别的推理算法故障模式？
• RQ4 将 AIDE 应用于 MCMC 采样器时存在哪些局限性？为何目前其在 MCMC 收敛性诊断方面仍不实用？
• RQ5 AIDE 的准确性在多大程度上取决于用于辅助变量推理的元推理算法的质量？

主要发现

• AIDE 成功估计了 SMC 推理算法与黄金标准之间的对称化 KL 散度，估计值随预期趋近于零。
• 对于变分推理，AIDE 的估计收敛至一个非零渐近值，该值反映了变分族固有的近似误差。
• 在 MCMC 实验中，AIDE 在期望上高估了与真实后验的散度，表明由于非退火采样器的元推理不准确，存在偏差。
• AIDE 能够检测出推理算法中的故障模式（如遗漏后验模态），而这些模式不会被标准对数似然启发式方法所惩罚。
• 在真实星系速度数据集上，AIDE 有效评估了基于 SMC 的 Dirichlet 混合模型推理相对于 SMC 黄金标准的表现。
• AIDE 提供了一个实用的框架，用于离线评估推理算法配置，使在性能受限的应用（如概率机器人）中部署更具信心。