[论文解读] Variational Program Inference

Georges R. Harik, Noam Shazeer|arXiv (Cornell University)|Jun 4, 2010

Bayesian Modeling and Causal Inference参考文献 3被引用 3

一句话总结

本文提出了一种变分推断框架，将概率推理表述为程序执行，利用引导程序（guide program）引导模型程序的随机选择，使其趋向后验分布。通过估计KL散度并利用引导程序进行重要性采样，该方法实现了证据和假设概率的高效下界估计，将推断问题转化为寻找最优引导程序的搜索过程。

ABSTRACT

We introduce a framework for representing a variety of interesting problems as inference over the execution of probabilistic model programs. We represent a "solution" to such a problem as a guide program which runs alongside the model program and influences the model program's random choices, leading the model program to sample from a different distribution than from its priors. Ideally the guide program influences the model program to sample from the posteriors given the evidence. We show how the KL- divergence between the true posterior distribution and the distribution induced by the guided model program can be efficiently estimated (up to an additive constant) by sampling multiple executions of the guided model program. In addition, we show how to use the guide program as a proposal distribution in importance sampling to statistically prove lower bounds on the probability of the evidence and on the probability of a hypothesis and the evidence. We can use the quotient of these two bounds as an estimate of the conditional probability of the hypothesis given the evidence. We thus turn the inference problem into a heuristic search for better guide programs.

研究动机与目标

• 将复杂的推理问题建模为带有结构化引导的概率程序执行。
• 解决在概率模型中近似难以计算的后验分布的挑战。
• 开发一种可优化引导程序以提升推理准确性的框架。
• 通过重要性采样实现对证据和条件概率的统计边界估计。
• 将贝叶斯推断表述为寻找高效引导程序的启发式搜索过程。

提出的方法

• 将推理问题表示为带有随机选择的概率模型程序。
• 引入一个引导程序，影响模型程序的随机选择，以近似后验分布。
• 通过多次执行，估计真实后验分布与引导模型分布之间的KL散度。
• 将引导程序用作重要性采样中的提议分布，以计算证据和假设概率的下界。
• 通过计算这些下界的比例，作为在给定证据下假设条件概率的估计值。
• 通过启发式搜索优化引导程序，以最小化KL散度并提高边界紧致性。

实验结果

研究问题

• RQ1 如何通过可执行程序系统地表示和优化概率推理？
• RQ2 引导程序是否能在无需显式梯度计算的情况下，有效引导模型程序趋向后验分布？
• RQ3 引导程序的质量与证据和假设概率下界紧致性之间存在何种关系？
• RQ4 在程序化环境中，如何高效估计真实后验分布与引导模型之间的KL散度？
• RQ5 对引导程序进行启发式搜索在多大程度上能获得后验分布的准确近似？

主要发现

• 通过多次执行引导程序，可以高效估计真实后验分布与引导模型诱导分布之间的KL散度，其结果仅相差一个加法常数。
• 使用引导程序进行重要性采样，可提供证据概率和给定证据下假设概率的统计有效下界。
• 这些下界的比例可作为在给定证据下假设条件概率的可靠估计。
• 该框架支持对最小化KL散度的引导程序进行启发式搜索，从而提升推理准确性。
• 该方法具有通用性，适用于可表示为概率模型程序的广泛问题。
• 该方法通过依赖采样和对随机选择的程序级操作，避免了显式梯度计算。