[論文レビュー] Learned harmonic mean estimation of the Bayesian evidence with normalizing flows

Alicja Polanska, Matt A. Price+3 more|arXiv (Cornell University)|May 9, 2024

Anomaly Detection Techniques and Applications被引用数 10

ひとこと要約

本論文は、ベイズ証拠を事後サンプルから推定する内部ターゲット分布として正規化フローを用いた堅牢な学習型調和平均推定量を提案し、真値およびネストサンプリングに対する精度を実証し、オープンソース実装を提供します。

ABSTRACT

We present the learned harmonic mean estimator with normalizing flows - a robust, scalable and flexible estimator of the Bayesian evidence for model comparison. Since the estimator is agnostic to sampling strategy and simply requires posterior samples, it can be applied to compute the evidence using any Markov chain Monte Carlo (MCMC) sampling technique, including saved down MCMC chains, or any variational inference approach. The learned harmonic mean estimator was recently introduced, where machine learning techniques were developed to learn a suitable internal importance sampling target distribution to solve the issue of exploding variance of the original harmonic mean estimator. In this article we present the use of normalizing flows as the internal machine learning technique within the learned harmonic mean estimator. Normalizing flows can be elegantly coupled with the learned harmonic mean to provide an approach that is more robust, flexible and scalable than the machine learning models considered previously. We perform a series of numerical experiments, applying our method to benchmark problems and to a cosmological example in up to 21 dimensions. We find the learned harmonic mean estimator is in agreement with ground truth values and nested sampling estimates. The open-source harmonic Python package implementing the learned harmonic mean, now with normalizing flows included, is publicly available.

研究の動機と目的

• 宇宙論におけるベイズモデル比較を動機づけ、柔軟な証拠推定の必要性を示す。
• 正規化フローを組み込んで堅牢性とスケーラビリティを向上させるため、学習型調和平均推定量を拡張する。
• ベンチマーク問題とDES風の宇宙論的例を通じて精度と堅牢性を示す。
• さまざまなサンプリング技法に容易に適用できるオープンソース実装を提供する。

提案手法

• 正規化フロー（real NVPおよび有理二次スプライ フロー）を学習型調和平均推定量における重要サンプリングの内部ターゲット分布として用いる。
• 正規化フローを後方サンプル上で訓練し、前方KL発散を最小化する（最大尤度法）。
• 基底分布の分散（温度）を小さくして学習済み密度を集中させ、ターゲットが後部分布内にあることを保証する。
• 集中化したフローを用いた学習型調和平均推定量でベイズ証拠を計算し、対数空間での誤差推定を提供する。
• フロー訓練と推論の前にデータを標準化し、標準化空間に対するヤコビ行列で密度を補正する。
• JAXおよび補助ライブラリを用いたスケーラブルな計算のため、harmonic Pythonパッケージで実装を提供する。

Figure 1: Diagram illustrating how reducing the temperature parameter concentrates the probability density of a normalizing flow. The trained flow at $T=1$ is a normalized approximation of the posterior distribution. The variance of the base distribution, which we call the temperature parameter $T\i

実験結果

リサーチクエスチョン

• RQ1 正規化フロー強化された学習型調和平均推定量は、真値およびネストサンプリングと一致するベイズ証拠値を出力するか。
• RQ2 高次元設定（最大21次元）およびさまざまなサンプリング戦略で推定量はどう機能するか。
• RQ3 フローのアーキテクチャおよび温度濃度の変化に対して手法は堅牢か。
• RQ4 宇宙論的解析およびシミュレーションベース推論ワークフローと効果的に統合できるか。
• RQ5 付随するオープンソース実装の実用的な性能と信頼性はどの程度か。

主な発見

• 正規化フローを用いた学習型調和平均推定量は、真値とネストサンプリングの推定値と一致する。
• 正規化フローは、従来の単純なMLモデルよりも堅牢で柔軟かつスケーラブルな内部ターゲット分布を提供する。
• 本手法はベンチマーク問題およびDES風の宇宙論的例で、最大21次元まで有効である。
• この手法はサンプリング戦略に依存せず、任意のMCMCまたは変分推論出力と機能する。
• オープンソースのharmonic Pythonパッケージがこの手法を実装しており、フロー由来の変種およびGPU加速計算を提供している。

Figure 2: Corner plot of the sampled posterior (solid red) and a real NVP flow with temperature $T=0.9$ (dashed blue) for the Rosenbrock benchmark problem. The internal importance target distribution of the estimator given by the concentrated flow is contained within the posterior, as required for t