[論文レビュー] Likelihood-free MCMC with Amortized Approximate Likelihood Ratios

Joeri Hermans, Volodimir Begy+1 more|arXiv (Cornell University)|Mar 10, 2019

Markov Chains and Monte Carlo Methods参考文献 32被引用数 3

ひとこと要約

本稿では、尤度が計算不能なモデルにおける効率的な事後分布サンプリングを可能にする、尤度フリーなMCMC手法を提案する。この手法は、アモルタイズドニューラル推定器を用いて尤度比（尤度対尤度比）を近似し、複雑な科学的モデルにおいても安定かつ正確な推論を実現する。メトロポリス・ハスティングス法およびハミルトニアン・モンテカルロ法にこの比推定器を統合することで、尤度が計算不能であるがシミュレーションが可能なモデルにおいても、安定で効率的なMCMCサンプリングが達成される。

ABSTRACT

Posterior inference with an intractable likelihood is becoming an increasingly common task in scientific domains which rely on sophisticated computer simulations. Typically, these mechanistic models do not admit tractable densities forcing practitioners to rely on approximations during inference. This work proposes a novel approach to address the intractability of the likelihood and the marginal model. We achieve this by learning a flexible estimator which approximates the likelihood-to-evidence ratio. The resulting amortized ratio estimator is embedded in MCMC samplers such as Metropolis-Hastings and Hamiltonian Monte Carlo to approximate the likelihood-ratio between consecutive states in the Markov chain, allowing us to draw samples from the intractable posterior. Techniques are presented to improve the numerical stability. We demonstrate our approach on a variety of benchmarks and compare against well-established approximate inference techniques. Scientific applications in high energy and astrophysics with high-dimensional observations show its applicability.

研究の動機と目的

• 複雑なコンピュータシミュレーションに起因する尤度が計算不能な科学的モデルにおける事後分布推論の課題に対処すること。
• 尤度比の柔軟でアモルタイズド推定器を学習することで、従来の近似推論手法の限界を克服すること。
• 尤度が計算不能であるがシミュレーションが可能なモデルにおいて、安定的かつ効率的なMCMCサンプリングを可能にすること。
• 天体物理学や高エネルギー物理学で一般的な高次元観測空間における尤度比推定の数値的安定性を向上させること。

提案手法

• シミュレートされたデータを用いて、ニューラルネットワークを訓練して尤度比（尤度対尤度比）を近似し、パrameter値の範囲全体にわたるアモルタイズド推論を可能にする。
• 学習された比推定器をメトロポリス・ハスティングス法およびハミルトニアン・モンテカルロ・サンプラーに統合し、近似された受容率を計算する。
• 明示的な尤度評価を必要とせずに、推定された比を用いてMCMCの更新を実行する。
• 比推定中の数値的安定性を向上させるために、正規化および正則化技術を適用する。
• シミュレーションベースの訓練を活用して、パrameter空間全体にわたる比推定器の一般化を実現する。
• 適切なインダクティブバイアスを有する深層ニューラルネットワークを用いることで、高次元観測空間との互換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 学習されたアモルタイズド比推定器は、尤度が計算不能なモデルにおいても正確な事後分布サンプリングを可能にするか？
• RQ2 提案手法のMCMC性能は、従来の近似推論手法と比較して、正確性および効率性の面で優れているか？
• RQ3 天体物理学および高エネルギー物理学の応用で一般的な高次元観測空間へ、この手法はどの程度スケーリング可能か？
• RQ4 数値的安定性技術は、近似比を用いたMCMCサンプラーの信頼性にどのような影響を与えるか？

主な発見

• 提案手法は、尤度比（尤度対尤度比）の柔軟でアモルタイズド近似を学習することで、尤度が計算不能なモデルにおいて正確な事後分布推論を達成する。
• ベンチマークモデルにおいて優れた性能を示し、従来の近似推論手法と比較してサンプリングの正確性が優れている。
• 高次元観測空間へのスケーリングが有効に実現されており、高エネルギー物理学および天体物理学分野の科学的応用で実証されている。
• 数値的安定性技術は、近似尤度比を用いたMCMCサンプリングの信頼性を顕著に向上させる。
• アモルタイズド比推定器により、繰り返し尤度評価にかかる計算コストが削減され、複数のMCMCイテレーションにわたる効率的推論が可能になる。