[論文レビュー] Quantifying the probable approximation error of probabilistic inference programs

Marco Cusumano-Towner, Vikash K. Mansinghka|arXiv (Cornell University)|May 31, 2016

Machine Learning and Algorithms参考文献 16被引用数 3

ひとこと要約

この論文は、参考となる推論プログラムと、近似推論手法の内部的な確率的選択を推定するメタ推論プログラムを活用することで、確率的推論プログラムにおける近似誤差を定量化するための主観的分散尺度を導入する。この手法は、対称化されたKLダイバージェンスの堅牢で実行可能な境界を提供し、予測性能が良好に見える場合でさえも実装上のバグを検出可能である。

ABSTRACT

This paper introduces a new technique for quantifying the approximation error of a broad class of probabilistic inference programs, including ones based on both variational and Monte Carlo approaches. The key idea is to derive a subjective bound on the symmetrized KL divergence between the distribution achieved by an approximate inference program and its true target distribution. The bound's validity (and subjectivity) rests on the accuracy of two auxiliary probabilistic programs: (i) a "reference" inference program that defines a gold standard of accuracy and (ii) a "meta-inference" program that answers the question "what internal random choices did the original approximate inference program probably make given that it produced a particular result?" The paper includes empirical results on inference problems drawn from linear regression, Dirichlet process mixture modeling, HMMs, and Bayesian networks. The experiments show that the technique is robust to the quality of the reference inference program and that it can detect implementation bugs that are not apparent from predictive performance.

研究の動機と目的

• 確率的推論における近似事後分布と真の事後分布の間のKullback-Leibler（KL）ダイバージェンスを推定するための実行可能な技術の欠如に取り組むこと。
• 客観的なモデル特性ではなく、補助プログラムにおける不確実性を反映する、実用的で主観的な対称化KLダイバージェンスの境界を提供すること。
• 予測性能に影響を及ぼさないが事後分布の近似を歪める、推論プログラムにおける微細な実装バグを検出すること。
• 変分推論やモンテカルロ法を含む多様なモデルにおいて、確率的推論プログラムの検証を可能にすること。
• Venture確率的プログラミングプラットフォーム内でのスケーラブルで実装可能な技術を提供すること。

提案手法

• この手法は、近似推論の出力と真の事後分布との間の対称化KLダイバージェンスに基づく主観的分散尺度を定義する。
• 計算コストが高かろうが、事後分布の正確さの基準として機能する参考推論プログラムに依存する。
• 近似推論プログラムがとった内部的な確率的選択の事後確率を、その出力に基づいて推定するためにメタ推論プログラムを用いる。
• 近似推論プログラムの提案密度に対する、出力とその推定履歴の同時密度の比を用いて重み推定値を計算する。
• 粒子フィルタベースの推論では、推定履歴の固定された縁辺を用いた条件付きSMC（CSMC）更新をメタ推論プログラムが用いられ、推論経路の尤度を推定する。
• 最終的な重み推定値は、粒子フィルタの周辺尤度推定値と、モデル密度と提案密度の正規化された比の積に簡略化される。

実験結果

リサーチクエスチョン

• RQ1 近似推論プログラムの出力と真の事後分布との間の対称化KLダイバージェンスを抑え込む主観的分散尺度を導出できるか？
• RQ2 参考推論プログラムの不正確さに対して、提案手法はどの程度頑健か？
• RQ3 予測性能の観点からは見えないが、推論コードにおける実装バグを検出できるか？
• RQ4 近似推論プログラムの密度が解析的に扱いにくい場合でも、この手法は有効に機能するか？
• RQ5 変分推論や粒子ベースのサンプリングといった、さまざまな推論パラダイムにおいて、この手法はどの程度スケーラブルか？

主な発見

• この手法は、参考およびメタ推論プログラムの正確さに関する信念に依存する、有効な主観的境界を対称化KLダイバージェンスに提供する。
• 実験的結果から、参考推論プログラムの品質にかかわらず頑健であることが示され、参考が近似的であっても正確なダイバージェンス推定値が得られた。
• 予測性能が保持されているにもかかわらず、実装バグを検出できた。
• サンプリングベースの推論（例：LW-SIR）では、ブートストラップ信頼区間が低い分散を示し、正確な主観的ダイバージェンス推定値が得られた。
• 最適化ベースの推論（例：変分推論）では、複数回の実行において一貫したダイバージェンスプロファイルが得られ、誤差の信頼性ある定量化が示された。
• 線形回帰、ディリクレ過程混合モデル、HMM、ベイジアンネットワークを含む、実世界の問題において、この手法は成功裏に実装および検証された。