[論文レビュー] Normalizing flows for random fields in cosmology

Adam Rouhiainen, Utkarsh Giri+1 more|arXiv (Cornell University)|May 25, 2021

Gaussian Processes and Bayesian Inference参考文献 24被引用数 8

ひとこと要約

この論文は、物質分布やCMBレンズイングポテンシャルなどの宇宙論的ランダムフィールドを、要約統計量（例：スペクトル）ではなく、フィールドレベルそのものでモデル化するために正規化フローを提案する。物理的パワー スペクトルから導出された相関のあるガウス事前分布を用いてフローを訓練することで、パワー スペクトルおよびバイスペクトル推定において1パーセント未満の精度を達成し、非ガウス的事前分布のモデル化および宇宙論におけるフィールドレベルの変分推論の強力な可能性を示している。

ABSTRACT

Normalizing flows are a powerful tool to create flexible probability distributions with a wide range of potential applications in cosmology. Here we are studying normalizing flows which represent cosmological observables at field level, rather than at the level of summary statistics such as the power spectrum. We evaluate the performance of different normalizing flows for both density estimation and sampling of near-Gaussian random fields, and check the quality of samples with different statistics such as power spectrum and bispectrum estimators. We explore aspects of these flows that are specific to cosmology, such as flowing from a physical prior distribution and evaluating the density estimation results in the analytically tractable correlated Gaussian case.

研究の動機と目的

• 近似的にガウスに近い宇宙論的ランダムフィールドを、パワー スペクトルなどの要約統計量ではなく、フィールドレベルでモデル化する正規化フローの性能を評価すること。
• 正規化フローが、N体シミュレーションに見られるような非ガウス的特徴を含む宇宙論的フィールドの確率密度関数（PDF）を正確に表現できるかどうかを評価すること。
• 独立した標準ガウス分布ではなく、物理的に根拠のある相関のあるガウス事前分布を用いることで、フローの学習およびサンプル品質に与える影響を調査すること。
• 正規化フローが、フィールドレベルの変分推論や尤度フリー推論などの下流の宇宙論的推論タスクにどのように有用であるかをテストすること。
• 特にreal NVPとGlowを比較して、宇宙論的応用における収束速度およびサンプル忠実度の観点から、異なるフローアーキテクチャの性能を検討すること。

提案手法

• 本研究では、元の分布（当初は宇宙論的パワー スペクトルに根拠を持つ相関のあるガウスフィールド）を、一連の可逆的で微分可能な変換によって複雑なターゲット分布に変換する正規化フローを採用する。
• フローは、K個の可逆的変換 $ T = T_K \circ \cdots \circ T_1 $ の合成として構築され、各変換のヤコビアン行列式が明示的に計算可能であるため、正確な密度評価と効率的なサンプリングが可能となる。
• 密度評価の基本方程式は $ p_x(\mathbf{x}) = p_u(\mathbf{u}) \cdot |\det J_T(\mathbf{u})|^{-1} $ であり、ここで $ \mathbf{x} = T(\mathbf{u}) $ であり、対数ヤコビアン行列式は個々の変換ステップの和として計算される。
• 元の分布は、ターゲットの宇宙論的フィールド（例：N体シミュレーションからのもの）と一致するパワー スペクトルを持つ相関のあるガウスフィールドであり、独立したガウス事前分布よりも優れたサンプル品質を実現する。
• フローは、3次元N体シミュレーションデータの2次元断面（125 $h^{-1}$ Mpc³体積からの128×128ピクセルマップ）上で学習され、最尤推定法を用いて訓練が行われる。
• 性能評価には、パワー スペクトル、バイスペクトル、対数確率密度といった統計的指標が用いられ、事前分布および真のデータ分布と比較される。

実験結果

リサーチクエスチョン

• RQ1 正規化フローは、物質分布などの宇宙論的ランダムフィールドの完全な確率密度を、フィールドレベルで正確にモデル化できるか？
• RQ2 物理的に根拠のある相関のあるガウス事前分布を用いる場合と、独立した標準ガウス事前分布を用いる場合とを比較して、フローの性能およびサンプル品質にどのような差が生じるか？
• RQ3 正規化フローは、N体シミュレーションの非ガウス的領域において、パワー スペクトルおよびバイスペクトルをどの程度正確に再現できるか？
• RQ4 N体シミュレーションの宇宙論的フィールドをモデル化する際、real NVPとGlowといった異なるフローアーキテクチャは、収束速度およびサンプル忠実度においてどのように比較されるか？
• RQ5 正規化フローは、CMBレンズイングや運動的サンヤエフ＝ゼルドビッチトモグラフィーなどのフィールドレベルの変分推論に、実際に有効に応用できるか？

主な発見

• 相関のあるガウス事前分布を用いて訓練された正規化フローは、真のN体シミュレーションデータのパワー スペクトルに対して数パーセント以内の精度を達成し、最も正確なモデルでは対数パワーの偏差が1%未満に抑えられる。
• 訓練済みフローが生成するサンプルのバイスペクトルは、ターゲットN体バイスペクトルと数パーセント以内に一致しており、非ガウス的3点統計量の正確なモデル化を示している。
• 解析的に取り扱える相関のあるガウス分布における密度評価では、対数確率密度の精度がパーセントレベルに達しており、フローが正確なPDFを表現できる能力を裏付けている。
• N体シミュレーションデータに適用した場合、Glowアーキテクチャはreal NVPよりも収束が早く、より高品質なサンプルを生成する。これは、複雑な宇宙論的フィールドにおいて、アーキテクチャの改善が有効であることを示唆している。
• 相関のあるガウス事前分布を用いることで、独立した標準ガウス分布よりもサンプル品質および学習効率が著しく向上する。これは、宇宙論的フローモデルにおいて物理的事前分布の重要性を強調している。
• 本結果は、正規化フローが、CMBレンズイングや運動的サンヤエフ＝ゼルドビッチトモグラフィーにおける非ガウス的事前分布のモデル化や、変分推論フレームワークにおけるフィールドレベル推論タスクに強い可能性を示している。