[論文レビュー] Variational Program Inference

Georges R. Harik, Noam Shazeer|arXiv (Cornell University)|Jun 4, 2010

Bayesian Modeling and Causal Inference参考文献 3被引用数 3

ひとこと要約

この論文は、確率的推論をプログラム実行として定式化する変分推論フレームワークを紹介している。ガイドプログラムを用いてモデルプログラムの確率的選択を事後分布に向けさせる。KLダイバージェンスを推定し、ガイドを用いた重要度サンプリングにより、証拠および仮説の確率に対する効率的な下界を実現し、推論を最適なガイドプログラムの探索に転換する。

ABSTRACT

We introduce a framework for representing a variety of interesting problems as inference over the execution of probabilistic model programs. We represent a "solution" to such a problem as a guide program which runs alongside the model program and influences the model program's random choices, leading the model program to sample from a different distribution than from its priors. Ideally the guide program influences the model program to sample from the posteriors given the evidence. We show how the KL- divergence between the true posterior distribution and the distribution induced by the guided model program can be efficiently estimated (up to an additive constant) by sampling multiple executions of the guided model program. In addition, we show how to use the guide program as a proposal distribution in importance sampling to statistically prove lower bounds on the probability of the evidence and on the probability of a hypothesis and the evidence. We can use the quotient of these two bounds as an estimate of the conditional probability of the hypothesis given the evidence. We thus turn the inference problem into a heuristic search for better guide programs.

研究の動機と目的

• 構造的なガイダンスを伴う確率的プログラム実行として、複雑な推論問題をモデル化すること。
• 確率的モデルにおける扱いにくい事後分布の近似という課題に対処すること。
• ガイドプログラムを最適化することで推論の正確性を向上させられるフレームワークを構築すること。
• 重要度サンプリングを用いて証拠および条件付き確率の統計的下界を可能にすること。
• ベイズ推論を効果的なガイドプログラムのヒューリスティック探索として定式化すること。

提案手法

• 確率的モデルプログラムとして推論問題を表現し、確率的選択を含む。
• モデルプログラムの確率的選択を事後分布に近づけるように影響を与えるガイドプログラムを導入する。
• 複数回の実行を通じて、真の事後分布とガイド付きモデル分布の間のKLダイバージェンスを推定する。
• ガイドプログラムを重要度サンプリングの提案分布として用い、証拠の確率および仮説の確率に対する下界を計算する。
• これらの下界の比を、証拠が与えられたもとでの仮説の条件付き確率の推定値として計算する。
• KLダイバージェンスを最小化し、下界のタイトさを向上させるために、ヒューリスティック探索を通じてガイドプログラムを最適化する。

実験結果

リサーチクエスチョン

• RQ1 実行可能なプログラムを用いて、確率的推論を体系的かつ最適化可能に表現できるか？
• RQ2 勾配計算を明示的に行わずに、ガイドプログラムがモデルプログラムを事後分布に効果的に誘導できるか？
• RQ3 ガイドプログラムの品質と、証拠および仮説の確率に対する下界のタイトさとの関係は何か？
• RQ4 プログラム的環境において、真の事後分布とガイド付きモデルとの間のKLダイバージェンスを効率的に推定できるか？
• RQ5 ガイドプログラムに対するヒューリスティック探索によって、事後分布の正確な近似を得られる範囲はどの程度か？

主な発見

• 複数回のガイド付きプログラム実行を用いることで、真の事後分布とガイド付きモデルが誘導する分布とのKLダイバージェンスを、加法的定数の誤差の範囲で効率的に推定できる。
• ガイドプログラムを用いた重要度サンプリングにより、証拠の確率および証拠が与えられたもとでの仮説の確率に対する統計的に妥当な下界が得られる。
• これらの下界の比は、証拠が与えられたもとでの仮説の条件付き確率の信頼性の高い推定値として機能する。
• このフレームワークにより、KLダイバージェンスを最小化するガイドプログラムのヒューリスティック探索が可能になり、推論の正確性が向上する。
• この手法は一般性に富み、確率的モデルプログラムとして表現可能な広範な問題に適用可能である。
• 勾配計算を明示的に行わず、サンプリングおよび確率的選択のプログラムレベルでの操作に依存することで、このアプローチは実装が簡素化される。