[论文解读] Marginal Bayesian Statistics Using Masked Autoregressive Flows and Kernel Density Estimators with Examples in Cosmology

H. T. J. Bevins, Will Handley+4 more|arXiv (Cornell University)|Jul 23, 2022

Gaussian Processes and Bayesian Inference被引用 6

一句话总结

该论文提出了一种计算高效的组合宇宙学实验贝叶斯约束的方法，通过使用掩码自回归流和核密度估计器，构建无损、无干扰参数的似然函数。通过在宇宙学参数空间中估计边缘后验分布，并重用全维嵌套采样得到的证据，该方法在保持与全维推断完全一致结果的同时，实现了高达319倍的加速，该方法在普朗克和DES数据上得到验证，证据值和KL散度值保持一致。

ABSTRACT

Cosmological experiments often employ Bayesian workflows to derive constraints on cosmological and astrophysical parameters from their data. It has been shown that these constraints can be combined across different probes such as Planck and the Dark Energy Survey and that this can be a valuable exercise to improve our understanding of the universe and quantify tension between multiple experiments. However, these experiments are typically plagued by differing systematics, instrumental effects and contaminating signals, which we collectively refer to as `nuisance' components, that have to be modelled alongside target signals of interest. This leads to high dimensional parameter spaces, especially when combining data sets, with > 20 dimensions of which only around 5 correspond to key physical quantities. We present a means by which to combine constraints from different data sets in a computationally efficient manner by generating rapid, reusable and reliable marginal probability density estimators, giving us access to nuisance-free likelihoods. This is possible through the unique combination of nested sampling, which gives us access to Bayesian evidences, and the marginal Bayesian statistics code MARGARINE. Our method is lossless in the signal parameters, resulting in the same posterior distributions as would be found from a full nested sampling run over all nuisance parameters, and typically quicker than evaluating full likelihoods. We demonstrate our approach by applying it to the combination of posteriors from the Dark Energy Survey and Planck.

研究动机与目标

• 解决来自多个具有不同干扰参数的宇宙学实验的高维后验分布组合所带来的计算负担。
• 开发一种方法，在保留宇宙学参数完整信息的同时，剔除干扰成分。
• 实现高效、可重用且可靠的边缘后验密度估计，以支持后续模型比较与证据计算。
• 证明通过边缘化方法结合预计算的证据，可获得与全参数空间嵌套采样完全一致的结果。

提出的方法

• 该方法使用 margarine 代码在宇宙学参数的边缘后验样本上训练归一化流和核密度估计器，有效压缩高维参数空间。
• 它利用全维嵌套采样运行中预先计算的贝叶斯证据，避免对干扰参数重新运行昂贵的似然评估。
• 通过仅对 θ 进行密度估计，利用来自 P(θ,α) 的样本，该方法定义了无干扰参数的似然函数，即估计边缘后验 P(θ)。
• 它应用Kullback-Leibler散度来量化边缘后验之间的差异，从而在无需全参数空间采样的情况下实现模型比较。
• 该方法通过保留与全维嵌套采样完全一致的边缘后验和总证据，确保无损推断。
• 它将 margarine 密度估计器与 anesthetic 代码结合，计算组合数据集的联合证据和KL散度。

实验结果

研究问题

• RQ1 使用归一化流与核密度估计器进行边缘后验密度估计，是否能在剔除干扰参数的同时完整保留宇宙学参数的信息内容？
• RQ2 通过密度估计器组合不同实验的边缘后验，是否等价于对所有参数进行全维嵌套采样？
• RQ3 在宇宙学推断中，将参数空间维度从41维降低到6维，能实现多大的计算加速？
• RQ4 与普朗克和DES的既定文献结果相比，该方法能否产生一致的贝叶斯证据和KL散度值？
• RQ5 该框架能否推广为未来数据组合提供可重用的宇宙学密度估计器库？

主要发现

• 该方法实现了与全维嵌套采样完全一致的边缘后验和总贝叶斯证据，证实了无损推断。
• 通过将维度从41维降低到6维，计算加速估计达到约319倍，这主要源于嵌套采样与维度呈立方关系的特性。
• 使用边缘化方法计算的联合贝叶斯证据和KL散度与Handley和Lemos（2019）发表的结果一致。
• 通过margarine实现的似然函数模拟，相比解析似然函数，显著减少了每次似然评估的时间，进一步提升了计算效率。
• 该方法支持对边缘密度估计器的高效重用，为未来数据组合铺平道路，有望构建一个公开的宇宙学密度估计器库。
• 该方法具有鲁棒性和通用性，其影响可推广至其他领域，用于组合多个实验对同一基础物理的探测结果。