[论文解读] SuperNest: Accelerated Nested Sampling Applied to Astrophysics and Cosmology

Aleksandr Petrosyan, Will Handley|arXiv (Cornell University)|Dec 4, 2022

Bayesian Methods and Mixture Models被引用 3

一句话总结

本文提出了 SuperNest，一种加速的嵌套采样方法，通过使用提议分布对后验分布进行重加权，显著减少了贝叶斯证据估计的时间和误差。通过重新加权先验以集中采样于高似然区域，SuperNest 在宇宙学嵌套采样运行中实现了高达 12× 的加速，同时提高了证据估计的精度，该方法在具有高斯后验的 ΛCDM 参数估计问题上得到了验证。

ABSTRACT

We present a method for improving the performance of nested sampling as well as its accuracy. Building on previous work we show that posterior repartitioning may be used to reduce the amount of time nested sampling spends in compressing from prior to posterior if a suitable “proposal” distribution is supplied. We showcase this on a cosmological example with a Gaussian posterior, and release the code as an LGPL licensed, extensible Python package supernest.

研究动机与目标

• 为解决宇宙学和天体物理学中常见于高维、多峰后验分布的嵌套采样高计算成本问题。
• 通过最小化先验到后验的压缩阶段，减少运行时间和泊松误差。
• 通过将提议分布整合到嵌套采样框架中，实现高效、精确的贝叶斯模型比较。
• 为研究人员提供一个灵活、开源的 Python 包（supernest），以便将其应用于实际问题。

提出的方法

• 将 Chen 等人 [1] 提出的后验重加权技术扩展到重新加权先验分布，使有效 Kullback-Leibler 散度 Dπ{P} 降低。
• 提出一种随机叠加方案，用于组合多个提议分布，提升在复杂后验几何结构中的采样效率。
• 使用具有膨胀协方差和后验中心偏移的提议分布来引导活跃点的替换，从而减少所需迭代次数。
• 采用 PolyChord 作为底层嵌套采样引擎，通过 supernest 包进行接口调用，以计算证据和后验样本。
• 将该方法应用于一个包含 27 个参数的宇宙学示例，使用高斯后验来测试性能提升。
• 通过运行时间、证据估计精度（误差条）以及 Higson 图中的有效先验体积压缩（ln X）来衡量性能。

实验结果

研究问题

• RQ1 使用精心选择的提议分布进行后验重加权，是否能显著减少高维问题中嵌套采样的运行时间？
• RQ2 通过基于提议的先验重加权，Kullback-Leibler 散度 Dπ{P} 能在多大程度上降低，这对证据估计误差有何影响？
• RQ3 在宇宙学推断背景下，使用保守型与良好对齐的提议分布时，嵌套采样的性能如何变化？
• RQ4 该方法是否能在不损害证据估计的前提下，持续提升速度和精度？

主要发现

• 与标准嵌套采样相比，SuperNest 实现了 12× 的运行时间加速，证据估计时间缩短至约三分之一。
• SuperNest 的证据估计误差为 ln Z = −110.26 ± 0.17，比标准运行（ln Z = −110.04 ± 0.38）精确约 2 倍。
• 即使使用保守且对齐不佳的提议（逆 Wishart 协方差），方法仍能在采样误差范围内保持一致的证据估计，表现出强鲁棒性。
• 有效先验到后验压缩程度的降低（Higson 图中 ln X 较低）与更快的收敛速度和更低的误差直接相关。
• 即使仅使用单一、宽泛的提议分布，该方法也实现了显著的性能提升，表明通过使用多个或优化后的提议可实现进一步改进。
• supernest Python 包以 LGPL 许可发布，支持可扩展性，并可轻松集成到现有的嵌套采样工作流中。