[논문 리뷰] Optimal prior for Bayesian inference in a constrained parameter space

Steen Hannestad, Thomas Tram|arXiv (Cornell University)|2017. 10. 24.

Cosmology and Gravitation Theories참고 문헌 14인용 수 9

한 줄 요약

이 논문은 다변량 정규분포에 일차원 제약 조건이 붙은 경우의 최적의 제프리스 사전확률을 유도하며, 이러한 조건 하에서 평탄한 사전확률이 비최적임을 보여준다. 중성미자 질량 합 $Σm_ν$ 와 텐서 대 스칼라 비율 $r$ 에 대해 보정된 사전확률은 68% 및 95% 베이지안 상한선을 각각 9% 및 4%($Σm_ν$ 기준)와 22% 및 3%($r$ 기준) 증가시키며, 중요도 샘플링을 통해 사전확률 통합을 수행한다.

ABSTRACT

Bayesian parameter inference depends on a choice of prior probability distribution for the parameters in question. The prior which makes the posterior distribution maximally sensitive to data is called the Jeffreys prior, and it is completely determined by the response of the likelihood to changes in parameters. Under the assumption that the likelihood is a Gaussian distribution, the Jeffreys prior is a constant, i.e. flat. However, if one parameter is constrained by physical considerations, the Gaussian approximation fails and the flat prior is no longer the Jeffreys prior. In this paper we compute the correct Jeffreys prior for a multivariate normal distribution constrained in one dimension, and we apply it to the sum of neutrino masses $Σm_ν$ and the tensor-to-scalar ratio $r$. We find that one-dimensional marginalised posteriors for these two parameters change considerably and that the 68% and 95% Bayesian upper limits increase by 9% and 4% respectively for $Σm_ν$ and 22% and 3% for $r$. Adding the prior to an existing chain can be done as a trivial importance sampling in the final step of the analysis proces.

연구 동기 및 목표

• 일차원 제약 조건이 붙은 다변량 정규우도에서 평탄한 사전확률 가정이 성립하지 않을 때 올바른 제프리스 사전확률을 유도하는 것.
• 우주론적 파라미터에 대해 평탄한 사전확률 대신 적절한 제프리스 사전확률을 사용할 경우 사후 추론에 미치는 영향을 정량화하는 것.
• 기존 MCMC 체인에 새로운 사전확률을 효율적으로 적용할 수 있도록 단순한 중요도 샘플링 단계를 제공하는 것.
• 파라미터 제약 조건이 사후분포의 데이터 민감도에 어떤 영향을 미치는지 평가하는 것.

제안 방법

• 피셔 정보 행렬을 사용하여 일차원 제약 조건이 있는 다변량 정규우도에 대한 제프리스 사전확률을 유도한다.
• 사전확률을 제약된 피셔 정보 행렬의 행렬식의 제곱근에 비례하게 계산한다.
• 이 유도된 사전확률을 두 가지 우주론적 파라미터인 중성미자 질량 합 $Σm_ν$ 와 텐서 대 스칼라 비율 $r$ 에 적용한다.
• 기존 MCMC 체인을 재가중하여 중요도 샘플링을 통해 새로운 사전확률을 사용한 사후분포를 재계산한다.
• 우도의 가우시안 근사를 사용하여 사전확률을 유도하지만, 파라미터 공간 내에서 제약 조건에 의해 유도되는 왜곡을 보정한다.

실험 결과

연구 질문

• RQ1 일차원 물리적 제약 조건이 다변량 정규 모델에서 제프리스 사전확률에 어떤 영향을 미치는가?
• RQ2 평탄한 사전확률 대신 올바른 제프리스 사전확률을 사용할 경우 $Σm_ν$ 와 $r$ 에 대한 사후 상한선에 미치는 정량적 영향은 무엇인가?
• RQ3 기존 MCMC 체인에 대해 재시뮬레이션 없이도 새로운 사전확률을 효율적으로 적용할 수 있는가?
• RQ4 제약 조건 하에서 올바른 제프리스 사전확률을 사용할 경우 사후분포의 데이터 민감도는 얼마나 변화하는가?

주요 결과

• 제약 조건이 있는 다변량 정규분포에 대한 제프리스 사전확률은, 비록 비제약 조건에서의 우도가 가우시안일지라도 더 이상 평탄하지 않다.
• 중성미자 질량 합 $Σm_ν$ 에 대해, 올바른 제프리스 사전확률을 사용할 경우 68% 베이지안 상한선은 9% 증가하고 95% 상한선은 4% 증가한다.
• 텐서 대 스칼라 비율 $r$ 에 대해선, 올바른 제프리스 사전확률을 사용할 경우 68% 상한선은 22% 증가하고 95% 상한선은 3% 증가한다.
• 기존 MCMC 체인에 단일 중요도 샘플링 단계를 적용하여 새로운 사전확률을 효율적으로 적용할 수 있으며, 이는 효율적인 사후분포 재가중을 가능하게 한다.
• 보정된 사전확률은 사후추론에 상당한 영향을 미치며, 물리적 제약 조건 하에서 평탄한 사전확률이 비최적임을 입증한다.