[論文レビュー] Machine learning assisted Bayesian model comparison: learnt harmonic mean estimator

Jason D. McEwen, Christopher G. R. Wallis+2 more|arXiv (Cornell University)|Nov 24, 2021

Gaussian Processes and Bayesian Inference被引用数 15

ひとこと要約

本稿では、ベイズモデル比較における周辺尤度の計算に機械学習を統合した学習済み調和平均推定法を提案する。調和平均推定法を重要度サンプリングとして再定式化し、分散を最小化する最適なターゲット分布を学習することで、元の手法に比べて3～6倍のサンプルを1/3の時間で得られる、安定的かつスケーラブルなベイズ的証拠の計算が可能になる。

ABSTRACT

We resurrect the infamous harmonic mean estimator for computing the marginal likelihood (Bayesian evidence) and solve its problematic large variance. The marginal likelihood is a key component of Bayesian model selection to evaluate model posterior probabilities; however, its computation is challenging. The original harmonic mean estimator, first proposed by Newton and Raftery in 1994, involves computing the harmonic mean of the likelihood given samples from the posterior. It was immediately realised that the original estimator can fail catastrophically since its variance can become very large (possibly not finite). A number of variants of the harmonic mean estimator have been proposed to address this issue although none have proven fully satisfactory. We present the \\emph{learnt harmonic mean estimator}, a variant of the original estimator that solves its large variance problem. This is achieved by interpreting the harmonic mean estimator as importance sampling and introducing a new target distribution. The new target distribution is learned to approximate the optimal but inaccessible target, while minimising the variance of the resulting estimator. Since the estimator requires samples of the posterior only, it is agnostic to the sampling strategy used. We validate the estimator on a variety of numerical experiments, including a number of pathological examples where the original harmonic mean estimator fails catastrophically. We also consider a cosmological application, where our approach leads to $\\sim$ 3 to 6 times more samples than current state-of-the-art techniques in 1/3 of the time. In all cases our learnt harmonic mean estimator is shown to be highly accurate. The estimator is computationally scalable and can be applied to problems of dimension $O(10^3)$ and beyond. Code implementing the learnt harmonic mean estimator is made publicly available

研究の動機と目的

• ベイズモデル選択における周辺尤度計算のための元の調和平均推定法の高い分散と不安定性を是正すること。
• 事後分布サンプリング戦略に依存しない、スケーラブルで安定したベイズ的証拠の計算手法を開発すること。
• 高次元問題、特に既存手法が失敗する病理的ケースにおいても、正確かつ効率的なモデル比較を可能にすること。
• 科学的計算およびシミュレーションベースの推論に広く利用可能な実用的でオープンソースのソフトウェア実装を提供すること。

提案手法

• 調和平均推定法を、新たな学習可能なターゲット分布を備えた重要度サンプリング手順として再解釈すること。
• 推定の分散を最小化する最適だが実行不能なターゲット分布を近似するために、機械学習モデル（特にカーネル密度推定）を訓練すること。
• MCMCまたはアンサンブルサンプラーから得られる事後分布サンプルを入力としてターゲット分布を学習し、あらゆるサンプリング手法と互換性を持つようにすること。
• モデル学習中に微分可能最適化を用いて、得られる周辺尤度推定の分散を最小化すること。
• 推定の信頼性を確保するための計算的チェックを実装し、分散推定と健全性テストを含めること。
• emcee などの MCMC サンプラーや他のツールとネイティブに統合可能な、オープンソースの harmonic ソフトウェアパッケージにこの手法を統合すること。

実験結果

リサーチクエスチョン

• RQ1 機械学習的手法により、最適な重要度サンプリングのターゲット分布を学習することで、調和平均推定法の安定性を著しく向上させられるか？
• RQ2 本手法は、高次元または病理的である事後分布幾何において、元の調和平均推定法よりも顕著に低い分散を達成するか？
• RQ3 次元が O(10^3) 以上である問題に対しても、学習済み調和平均推定法は、正確さを維持したままスケーラブルに動作するか？
• RQ4 PolyChord や他の最先端技術に比べて、サンプリング効率および証拠推定の正確さにおいて優れた性能を示せるか？
• RQ5 宇宙論的モデル比較のような多様なベンチマーク問題および実世界の応用において、推定は頑健かつ信頼性があるか？

主な発見

• 学習済み調和平均推定法は、元の調和平均推定法が崩壊的に失敗するケースを含め、すべてのベンチマーク問題で非常に正確な周辺尤度推定を達成している。
• 宇宙論的モデル比較において、同じハードウェアを用いて、PolyChord よりも約3～6倍の事後分布サンプルを1/3の時間で得られる。
• 推定法は計算的にスケーラブルであり、次元が O(10^3) 以上であっても信頼性を持って動作する。
• 本手法は事後分布サンプリング手法に依存せず、emcee などの MCMC サンプラーや複数のチェーンを自然に生成するツールとシームレスに統合可能である。
• 推定法を実装した harmonic ソフトウェアパッケージは、96%以上のテストカバレッジを達成しており、最高のソフトウェア工学の実践に基づいて生産環境用に設計されている。
• 正規化された事後分布に非常に近いターゲット分布を学習することで、元の調和平均推定法に比べて推定の分散が顕著に低減されている。