[論文レビュー] Marginal Bayesian Statistics Using Masked Autoregressive Flows and Kernel Density Estimators with Examples in Cosmology

H. T. J. Bevins, Will Handley+4 more|arXiv (Cornell University)|Jul 23, 2022

Gaussian Processes and Bayesian Inference被引用数 6

ひとこと要約

本稿では、マスク付き自己回帰フローとカーネル密度推定器を用いて、宇宙論的実験からのベイジアン制約を計算的に効率的に組み合わせる手法を提案する。宇宙論的パラメータ空間における周辺事後分布を推定し、フルネストド・サブスクリプションから得た証拠を再利用することで、全次元の推論と同一の結果を得つつ、最大319倍の高速化を達成した。プランクおよびDESデータを用いた実験で、証拠値とKLダイバージェンスの値が一貫していることを示した。

ABSTRACT

Cosmological experiments often employ Bayesian workflows to derive constraints on cosmological and astrophysical parameters from their data. It has been shown that these constraints can be combined across different probes such as Planck and the Dark Energy Survey and that this can be a valuable exercise to improve our understanding of the universe and quantify tension between multiple experiments. However, these experiments are typically plagued by differing systematics, instrumental effects and contaminating signals, which we collectively refer to as `nuisance' components, that have to be modelled alongside target signals of interest. This leads to high dimensional parameter spaces, especially when combining data sets, with > 20 dimensions of which only around 5 correspond to key physical quantities. We present a means by which to combine constraints from different data sets in a computationally efficient manner by generating rapid, reusable and reliable marginal probability density estimators, giving us access to nuisance-free likelihoods. This is possible through the unique combination of nested sampling, which gives us access to Bayesian evidences, and the marginal Bayesian statistics code MARGARINE. Our method is lossless in the signal parameters, resulting in the same posterior distributions as would be found from a full nested sampling run over all nuisance parameters, and typically quicker than evaluating full likelihoods. We demonstrate our approach by applying it to the combination of posteriors from the Dark Energy Survey and Planck.

研究の動機と目的

• 複数の実験から得られる高次元の宇宙論的事後分布を組み合わせる際の計算負荷を軽減すること。
• ネイジューイングパラメータを除外しつつも、宇宙論的パラメータの完全な情報を保持する手法を開発すること。
• 将来のモデル比較や証拠計算に向けた、効率的で再利用可能かつ信頼性の高い周辺事後密度推定を可能とすること。
• 周辺密度推定（marginalization）と事前に計算された証拠を組み合わせることで、全パラメータ空間に対してフルネストド・サブスクリプションを実行した場合と同一の結果が得られることを示すこと。

提案手法

• この手法は、margineコードを用いて、宇宙論的パラメータの周辺事後分布サンプル上で正規化フローとカーネル密度推定器を訓練し、高次元パラメータ空間を効果的に圧縮する。
• フルネストド・サブスクリプションの実行から事前に計算されたベイジアン証拠を活用することで、ネイジューイングパラメータの周囲での高価な尤度評価を繰り返し行う必要を回避する。
• パラメータ空間の周囲から得たサンプル $\mathcal{P}(\theta,\alpha)$ を用いて、$\theta$ のみの密度推定により、ネイジューイング要因を含まない尤度を定義する。
• Kullback-Leiblerダイバージェンスを用いて周辺事後分布間の差を定量化し、全パラメータ空間のサンプリングなしにモデル比較を可能にする。
• フルネストド・サブスクリプションと同一の周辺事後分布と総証拠を保持することで、損失のない推論を保証する。
• margineの密度推定器と anesthetic コードを組み合わせることで、統合されたデータセットの共同証拠とKLダイバージェンスを計算する。

実験結果

リサーチクエスチョン

• RQ1 正規化フローとカーネル密度推定器を用いた周辺事後密度推定は、ネイジューイングパラメータを除外しつつも、宇宙論的パラメータの完全な情報内容を保持できるか？
• RQ2 異なる実験からの周辺事後分布を密度推定器で組み合わせることは、全パラメータ空間に対してフルネストド・サブスクリプションを実行した場合と同等か？
• RQ3 宇宙論的推論において、パラメータ空間の次元を41次元から6次元に削減することで、どの程度の計算速度向上が達成できるか？
• RQ4 この手法は、プランクおよびDESの既存の文献結果と比較して一貫したベイジアン証拠およびKLダイバージェンスの値を生成できるか？
• RQ5 このフレームワークは、将来のデータ統合のための再利用可能な宇宙論的密度推定器のライブラリの構築に一般化可能か？

主な発見

• この手法は、全パラメータ空間に対するフルネストド・サブスクリプションと同一の周辺事後分布と総ベイジアン証拠を達成しており、損失のない推論であることを確認した。
• パラメータ数を41次元から6次元に削減することで、ネストド・サブスクリプションの次元数に伴う立方則的スケーリングに起因し、計算速度が約319倍向上した。
• 周辺法を用いて計算された共同ベイジアン証拠とKLダイバージェンスは、HandleyおよびLemos（2019）が発表した結果と一貫していた。
• margineを用いた尤度のエミュレーションにより、解析的尤度よりも1回の尤度評価に要する時間が短縮され、さらに処理が高速化された。
• この手法により、将来のデータ統合に向けた周辺密度推定器の再利用が可能となり、宇宙論的密度推定器の公開ライブラリの構築に道を開いた。
• この手法は頑健で汎用的であり、宇宙論を越えて、同じ基礎物理学を調べる複数の実験の結果を統合する分野への応用に大きな意味を持つ。