[論文レビュー] Posterior inference unchained with EL_2O

Uroš Seljak, Byeonghee Yu|arXiv (Cornell University)|Jan 14, 2019

Image and Object Detection Techniques参考文献 26被引用数 10

ひとこと要約

この論文は、サンプリングされた点における近似事後分布 $q$ と未正規化事後分布 $p$ の L² 距離を直接最小化することを目的とした、最適化に基づく近似ベイズ推論手法 EL₂O を提案する。EL₂O は、新たな $t(\ln t)^2$ f-発散を最小化することで、サンプリングノイズのない最適化を実現し、収束が速く、精度が高い。MCMC と同等の結果を、非ガウス分布や高次元事後分布に対しても、尤度評価回数を 3 次元減少させた。

ABSTRACT

Statistical inference of analytically non-tractable posteriors is a difficult problem because of marginalization of correlated variables and stochastic methods such as MCMC and VI are commonly used. We argue that stochastic KL divergence minimization used by MCMC and VI is noisy, and we propose instead EL_2O, expectation optimization of L_2 distance squared between the approximate log posterior q and the un-normalized log posterior of p. When sampling from q the solutions agree with stochastic KL divergence minimization based VI in the large sample limit, however EL_2O method is free of sampling noise, has better optimization properties, and requires only as many sample evaluations as the number of parameters we are optimizing if q covers p. As a consequence, increasing the expressivity of q improves both the quality of results and the convergence rate, allowing EL_2O to approach exact inference. Use of automatic differentiation methods enables us to develop Hessian, gradient and gradient free versions of the method, which can determine M(M+2)/2+1, M+1 and 1 parameter(s) of q with a single sample, respectively. EL_2O provides a reliable estimate of the quality of the approximating posterior, and converges rapidly on full rank gaussian approximation for q and extensions beyond it, such as nonlinear transformations and gaussian mixtures. These can handle general posteriors, while still allowing fast analytic marginalizations. We test it on several examples, including a realistic 13 dimensional galaxy clustering analysis, showing that it is several orders of magnitude faster than MCMC, while giving smooth and accurate non-gaussian posteriors, often requiring a few to a few dozen of iterations only.

研究の動機と目的

• 高次元で非可解な事後分布に対して、スケーラブルでノイズフリーな変分ベイズ推論や MCMC の代替手法を開発すること。
• MCMC や VI で用いられる KL 発散最小化に内在するサンプリングノイズを克服すること。
• とくにコストの高い科学的応用において、尤度評価回数を最小限に抑えながら正確な事後分布近似を実現すること。
• EL₂O 値を用いて、事後分布の品質を信頼できる解析的推定値として提供すること。
• 勾配ベースおよびヘッセ行列ベースの最適化をサポートし、ガウス混合や非線形変換を用いた表現力の高いモデルでも高速収束を実現すること。

提案手法

• 同じサンプリング点における $q$ と $p$ 間の L² 距離を評価する新たな f-発散 $t(\ln t)^2$ を提案し、最適化におけるサンプリングノイズを排除する。
• サンプリング点における $\ln q$ と $\ln p$ 間の期待 L² 距離を最小化することで、近似事後分布 $q$ を最適化し、$q$ のパラメータ更新に 1 回のサンプルで十分である。
• 勾配フリー、勾配ベース、ヘッセ行列ベースの EL₂O のバージョンを導入し、ヘッセ行列ベースのバージョンでは、フルランクガウス分布のフィッティングに 1 サンプルあたり $M(M+3)/2+1$ 個の制約を適用する。
• ポイントワイズ非線形変換とガウス混合を用いて $q$ の表現力を高め、非ガウス事後分布の正確な近似を可能にする。
• 任意のパラメータ部分集合について解析的マージナライゼーションを実装し、計算効率を維持する。
• バックプロパゲーションを介して利用可能な解析的勾配とヘッセ行列を活用し、特に高次元問題において収束を加速する。

実験結果

リサーチクエスチョン

• RQ1 対数事後分布間の L² 距離に基づく発散が、最適化の安定性と収束速度において KL 発散を上回るか？
• RQ2 事後分布近似におけるサンプリングノイズを排除することで、高次元または非ガウス設定においても、より速く正確な推論が可能になるか？
• RQ3 実際の科学的応用において、EL₂O が尤度評価回数を 1000 分の 1 にまで削減しながら MCMC と同等の精度に到達できるか？
• RQ4 ガウス混合や非線形変換といった表現力の高いモデルと組み合わせた EL₂O が、複雑な事後分布構造をどれほど正確に捉えられるか？
• RQ5 EL₂O はモデル証拠 $p(x)$ を信頼できる方法で推定でき、完全な MCMC サンプリングなしでモデル比較が可能になるか？

主な発見

• 13次元の銀河クラスタリング解析において、EL₂O はたった 25 回の反復と約 125 回の尤度評価で、非ガウス的で正確な事後分布近似を達成した。MCMC では $10^5$ 回の反復が必要であった。
• 同じ宇宙論的例題において、EL₂O は MCMC よりも 3 次元、ADVI よりも 2 次元高速であり、滑らかでより正確な事後分布を生成した。
• ADVI は尤度評価回数が $2\times10^4$ 回に達し、計算コストが 200 倍に上昇したが、KL 発散最小化に起因するノイズの影響により、結果は劣悪であった。
• EL₂O のヘッセ行列ベースのバージョンは、反復最適化なしに、1 サンプルあたり $M(M+3)/2+1$ 個の制約を用いてフルランクガウス成分を迅速にフィッティングした。
• EL₂O 値自体が、事後分布近似の品質をノイズフリーで信頼できる推定値として提供され、最適化中の信頼性をモニタリング可能であった。
• 非ガウス的事後分布に対しては、フルランクガウス混合と 1 次元非線形変換を組み合わせた手法が、挑戦的な高次元設定でも MCMC の結果と優れた一致を示した。