[论文解读] Optimal prior for Bayesian inference in a constrained parameter space

Steen Hannestad, Thomas Tram|arXiv (Cornell University)|Oct 24, 2017

Cosmology and Gravitation Theories参考文献 14被引用 9

一句话总结

本文推导了在单维约束条件下多元正态分布的最优 Jeffreys 先验，表明在此类条件下，平坦先验并不最优。对于中微子质量总和 $Σm_ν$ 和张量标量比 $r$，经校正的先验使 68% 和 95% 的贝叶斯上限分别提高 9% 和 4%（对于 $Σm_ν$），以及 22% 和 3%（对于 $r$），通过重要性抽样完成先验积分。

ABSTRACT

Bayesian parameter inference depends on a choice of prior probability distribution for the parameters in question. The prior which makes the posterior distribution maximally sensitive to data is called the Jeffreys prior, and it is completely determined by the response of the likelihood to changes in parameters. Under the assumption that the likelihood is a Gaussian distribution, the Jeffreys prior is a constant, i.e. flat. However, if one parameter is constrained by physical considerations, the Gaussian approximation fails and the flat prior is no longer the Jeffreys prior. In this paper we compute the correct Jeffreys prior for a multivariate normal distribution constrained in one dimension, and we apply it to the sum of neutrino masses $Σm_ν$ and the tensor-to-scalar ratio $r$. We find that one-dimensional marginalised posteriors for these two parameters change considerably and that the 68% and 95% Bayesian upper limits increase by 9% and 4% respectively for $Σm_ν$ and 22% and 3% for $r$. Adding the prior to an existing chain can be done as a trivial importance sampling in the final step of the analysis proces.

研究动机与目标

• 推导在多元正态似然受一维约束时的正确 Jeffreys 先验，此时平坦先验假设不再成立。
• 量化使用正确 Jeffreys 先验而非平坦先验对宇宙学参数后验推断的影响。
• 通过简单的重要性抽样步骤，实现新先验在现有 MCMC 链中的实用化应用。
• 评估参数约束如何改变后验对数据的敏感性。

提出的方法

• 利用费舍尔信息矩阵，推导受一维约束的多元正态似然的 Jeffreys 先验。
• 将先验计算为与约束费舍尔信息矩阵行列式的平方根成正比。
• 将推导出的先验应用于两个宇宙学参数：中微子质量总和 $Σm_ν$ 和张量标量比 $r$。
• 通过重要性抽样重加权现有 MCMC 链，重新计算使用新先验的后验分布。
• 使用似然的高斯近似推导先验，但对参数空间中由约束引起的畸变进行校正。

实验结果

研究问题

• RQ1 一维物理约束如何改变多元正态模型中的 Jeffreys 先验？
• RQ2 与平坦先验相比，使用正确 Jeffreys 先验对 $Σm_ν$ 和 $r$ 的后验上限产生多大程度的定量影响？
• RQ3 新先验能否在不重新运行模拟的情况下高效应用于现有 MCMC 链？
• RQ4 在约束条件下，使用正确 Jeffreys 先验后，后验对数据的敏感性变化有多大？

主要发现

• 即使无约束似然是高斯分布，受约束的多元正态分布的 Jeffreys 先验也不再是平坦的。
• 对于中微子质量总和 $Σm_ν$，使用正确 Jeffreys 先验时，68% 贝叶斯上限提高 9%，95% 上限提高 4%。
• 对于张量标量比 $r$，使用校正先验时，68% 上限提高 22%，95% 上限提高 3%。
• 通过一次重要性抽样步骤，可将新先验应用于现有 MCMC 链，实现高效的后验重加权。
• 该校正显著改变了后验推断，表明在物理约束下平坦先验并非最优。