[論文レビュー] An Easy to Interpret Diagnostic for Approximate Inference: Symmetric Divergence Over Simulations

Justin Domke|arXiv (Cornell University)|Feb 25, 2021

Gaussian Processes and Bayesian Inference参考文献 23被引用数 5

ひとこと要約

本稿では、変分ベイズやラプラス法のような近似推論手法のためのシミュレーションベースの診断法を提案する。この手法は、繰り返し生成されたシミュレーテッドデータセット上で、真の結合モデルと推定された近似事後分布の間の対称的Kullback-Leibler発散（SKL）を用いる。この方法により、周辺尤度の評価を必要とせず、解釈可能なスカラー型の誤差推定が可能となり、平均的な推論精度を実用的かつ自動的に測定できる。

ABSTRACT

It is important to estimate the errors of probabilistic inference algorithms. Existing diagnostics for Markov chain Monte Carlo methods assume inference is asymptotically exact, and are not appropriate for approximate methods like variational inference or Laplace's method. This paper introduces a diagnostic based on repeatedly simulating datasets from the prior and performing inference on each. The central observation is that it is possible to estimate a symmetric KL-divergence defined over these simulations.

研究の動機と目的

• 変分ベイズやラプラス法のような漸近的近似推論手法に対して、従来のMCMC収束診断が適用できないため、信頼性の高い診断が不足している問題に対処すること。
• 事前分布から抽出されたシミュレーテッドデータセット上で、近似事後分布の平均的精度を定量化する診断を開発すること。
• 周辺尤度 $p(\mathbf{x})$ の評価を必要としない、スカラー型で解釈可能な推論誤差の測定を可能にすること。
• ランダムシードの平均化を用いることで、非決定的推論手法に対しても診断を拡張し、解釈可能性を保持すること。
• 近似事後分布の構造を活用することで、重要度加重変分推論を含む現代の推論技術に適用可能なフレームワークを提供すること。

提案手法

• 事前分布と尤度から複数のデータセット $(\mathbf{z}, \mathbf{x}) \sim p(\mathbf{z}, \mathbf{x})$ をシミュレートする。
• 各シミュレートされた $\mathbf{x}$ に対して推論を実行し、近似事後分布 $q(\mathbf{z}|\mathbf{x})$ を得る。
• 対称的KL発散 $\mathrm{SKL}(p(\mathbf{z},\mathbf{x}) \| q(\mathbf{z},\mathbf{x}))$ を、$d = \log \frac{p(\mathbf{z},\mathbf{x})}{q(\mathbf{z}|\mathbf{x})} - \log \frac{p(\tilde{\mathbf{z}},\mathbf{x})}{q(\tilde{\mathbf{z}}|\mathbf{x})}$ という対数比の差分を用いて計算する。ここで $\tilde{\mathbf{z}} \sim q(\mathbf{z}|\mathbf{x})$ である。
• シミュレーション全体で $d$ の期待値を推定することで、対称的発散を算出し、正規化定数を相殺し、周辺尤度の計算を回避する。
• 非決定的推論に対応するため、ランダムシードの平均化を用い、診断を $\mathbb{E}_{\bm{\omega}}[\mathrm{SKL}(q(\mathbf{z},\mathbf{x}|\bm{\omega}) \| p(\mathbf{z},\mathbf{x}))]$ として定義する。
• 重要度加重推論に適応するため、重み付きサンプルを用いて発散推定値を計算する。

実験結果

リサーチクエスチョン

• RQ1 シミュレーションベースの診断を構築できるか。その診断により、近似推論手法の平均誤差をスカラーかつ解釈可能な形で測定できるか。
• RQ2 周辺尤度 $p(\mathbf{x})$ がしばしば不正則であるにもかかわらず、対称的KL発散をどのように推定できるか。
• RQ3 非決定的推論手法（例：確率的変分ベイズ）に対しても診断を適用できるか。
• RQ4 近似事後分布におけるモード探索誤差とモードカバー誤差の両方を、診断が的確に捉えられるか。
• RQ5 診断を重要度加重変分推論やその他の現代的推論技術へ拡張できるか。

主な発見

• 提案された診断は、周辺尤度 $p(\mathbf{x})$ の評価を必要とせず、シミュレーテッドデータセット上で平均的な推論誤差をスカラーかつ解釈可能な形で提供する。
• 対称的KL発散は、期待値 $\mathbb{E}[d]$ としての対数比の差分を用いて推定可能であり、正規化定数が相殺され、実用的な計算が可能になる。
• 実験により、標準的変分ベイズ、ラプラス法、重要度加重変分推論のあらゆる手法に対して、診断が有効であることが示された。
• 推論が非決定的であっても、診断期待値におけるランダムシードの平均化により、診断は依然として有効かつ解釈可能である。
• 隠れ変数や条件付き変数を含むモデルに対しても、診断を拡張可能であり、複雑な確率的モデルへの適用範囲を広げる。
• 診断は本質的に頻度主義的であり、シミュレーテッドデータ上の平均的性能を測定するため、1つの観測データセットに対してベイズ的文脈で直接解釈するには限界がある。