[論文レビュー] Automatic Variational ABC

Alexander Moreno, Tameem Adel+3 more|arXiv (Cornell University)|Jun 28, 2016

Markov Chains and Monte Carlo Methods参考文献 19被引用数 6

ひとこと要約

本稿では、確率的変分ベイズ推論と自動微分、分散低減技術を組み合わせることで、シミュレーションモデルのための効率的でエンドツーエンドの最適化が可能な、尤度フリーなベイズ推論手法であるAutomatic Variational ABC (AVABC) を提案する。シミュレータと変分後退分布の両方を再パrameter化することにより、従来のSVI手法（BBVI や VBIL）と比較して著しく低い勾配分散と高速な収束を達成し、トロイ問題および実世界の問題（ブローフライデータセット含む）において優れた性能を示した。

ABSTRACT

Approximate Bayesian Computation (ABC) is a framework for performing likelihood-free posterior inference for simulation models. Stochastic Variational inference (SVI) is an appealing alternative to the inefficient sampling approaches commonly used in ABC. However, SVI is highly sensitive to the variance of the gradient estimators, and this problem is exacerbated by approximating the likelihood. We draw upon recent advances in variance reduction for SV and likelihood-free inference using deterministic simulations to produce low variance gradient estimators of the variational lower-bound. By then exploiting automatic differentiation libraries we can avoid nearly all model-specific derivations. We demonstrate performance on three problems and compare to existing SVI algorithms. Our results demonstrate the correctness and efficiency of our algorithm.

研究の動機と目的

• 従来のサンプリングベースの近似ベイズ計算（ABC）手法の非効率性、すなわち多くのシミュレータ呼び出しと遅い混合速度を解消すること。
• 尤度フリーな設定における確率的変分ベイズ推論（SVI）を妨げる勾配推定器の高分散を克服すること。
• 自動微分と再パラメータライゼーションを活用して、シミュレーションモデルのための変分後退分布のエンドツーエンドで自動的な最適化を可能にすること。
• 複雑なシミュレータにおける変分ベイズ推論において、勾配の手動導出やモデル固有の実装の必要性を減らすこと。
• AVABC が合成的および実世界の問題において、BBVI や VBIL と比較してより速い収束と低い分散を達成することを示すこと。

提案手法

• AVABC は、パラメータから合成データを生成するシミュレータと、ABCカーネルによる尤度近似を用いて、尤度フリー推論のための変分下界を定式化する。
• シミュレータと変分後退分布を、パラメータとノイズ変数の決定的関数として再パラメータライズすることで、シミュレータを介したバックプロパゲーションを可能にする。
• 再パラメータライズド勾配と制御変数を適用して、変分下界の勾配推定器の分散を低減する。
• 自動微分ライブラリを活用して勾配の手動導出を排除し、下界の完全なエンドツーエンド最適化を可能にする。
• Adam や Adagrad などの適応的最適化アルゴリズムを用いて、勾配分散に基づいて学習率を調整し、学習の安定性を向上させる。
• 要約統計をサポートし、ABC尤度のモンテカルロ近似を用いるが、尤度と後退分布の両方の勾配推定器に分散低減を適用する。

実験結果

リサーチクエスチョン

• RQ1 尤度が閉形式で得られないシミュレーションベースのモデルに対して、確率的変分ベイズ推論を効率的かつ安定的に実行できるか？
• RQ2 再パラメータライゼーションと制御変数を用いることで、尤度フリーな変分ベイズ推論における勾配推定器の分散を著しく低減できるか？
• RQ3 自動微分によって、複雑なシミュレーションモデルにおける勾配の手動導出の必要性を排除できるか？
• RQ4 AVABC は、尤度フリー推論タスクにおいて、BBVI や VBIL と比較して収束速度と安定性に優れているか？
• RQ5 AVABC は、高次元または複雑なシミュレータ出力を持つ実世界のシミュレーションモデルへどの程度スケーラブルに適用できるか？

主な発見

• AVABC は、最適化中の下界曲線が滑らかで安定しており、BBVI や VBIL と比較して著しく低い勾配分散を達成した。
• ブローフライ実験では、AVABC は安定化に約 175 回の反復で十分に到達したが、BBVI はほぼ 2,750 回の反復を要し、安定した解に到達できなかった。
• AVABC による後退分布推定は、ε = 0.25 の拒否サンプリング結果とよく一致しており、尤度近似を用いていながらも正確性を保証した。
• 特に高次元パラメータ空間において、AVABC は下界最適化の収束が早く、分散が低いことが示された。
• AVABC は、自動微分フレームワーク内で完全なシミュレータコードを処理でき、手動での勾配導出なしにエンドツーエンド学習を実現した。
• 非微分可能または拒否ベースの分布の取り扱いには限界があるものの、AVABC はサンプリングベースの ABC や既存の SVI 手法に代わるスケーラブルで効率的な代替手法を提供する。