[논문 리뷰] Uncertainty-aware and Data-efficient Cosmological Emulation using Gaussian Processes and PCA

Sven Günther|arXiv (Cornell University)|2023. 07. 03.

Gaussian Processes and Bayesian Inference인용 수 11

한 줄 요약

이 논문은 온라인 활성 학습을 이용해 Gaussian Processes와 PCA를 결합한 불확실성 인식 에뮬레이터를 도입하여 Bayesian 우주론 추론을 가속하고 이론 호출과 계산 비용을 크게 줄이면서도 정확한 포스트eriors를 유지합니다.

ABSTRACT

Bayesian parameter inference is one of the key elements for model selection in cosmological research. However, the available inference tools require a large number of calls to simulation codes which can lead to high and sometimes even infeasible computational costs. In this work we propose a new way of emulating simulation codes for Bayesian parameter inference. In particular, this novel approach emphasizes the uncertainty-awareness of the emulator, which allows to state the emulation accuracy and ensures reliable performance. With a focus on data efficiency, we implement an active learning algorithm based on a combination of Gaussian Processes and Principal Component Analysis. We find that for an MCMC analysis of Planck and BAO data on the $Λ$CDM model (6 model and 21 nuisance parameters) we can reduce the number of simulation calls by a factor of $\sim$500 and save about $96\%$ of the computational costs.

연구 동기 및 목표

• 무거운 Einstein-Boltzmann 솔버로 인해 더 빠른 우주론 매개변수 추론의 필요성을 제시한다.
• 데이터 압축을 위한 Gaussian Processes와 PCA를 결합한 불확실성 인식 에뮬레이터를 제안한다.
• 추론 중에 에뮬레이터를 학습시키기 위한 온라인 활성 학습 전략을 구현한다.
• Planck+BAO LambdaCDM 테스트 케이스에서 상당한 속도 향상과 제어된 바이어스를 입증한다.

제안 방법

• 저차원 양들을 에뮬레이션하기 위해 anisotropic RBF 커널을 가진 Gaussian Processes를 사용하고 CMB 스펙트럼과 같은 고차원 관측치를 PCA로 압축한다.
• 고차원 데이터를 PCA 공간으로 변환하여 각 구성 요소를 독립적으로 빠르게 GP로 에뮬레이션할 수 있도록 한다.
• PCA 정보 손실과 GP 샘플링 희소성으로부터 에뮬레이터의 불확실성을 정량화하고 이를 데이터 공간으로 역전파한다.
• Likelihood 기반의 불확실성 기준으로 새로운 이론 평가를 생성해 에뮬레이터를 재학습시킬 시점을 결정하는 온라인 활성 학습을 채택한다.
• 에뮬레이터를 수정된 cobaya 베이지안 샘플러에 통합하여 이론 평가를 줄인 상태로 MCMC를 수행한다.

Figure 1: Uncertainty qualification of the CMB TT spectrum emulator for a training scenario similar to the one outlined in section III . We compare the performance of the emulator with the full calculation obtained by CLASS . (Top) $D_{\ell}$ spectrum. (Center) Residuals with the uncertainty estimat

실험 결과

연구 질문

• RQ1 GP 기반 에뮬레이션을 우주론 추론에 대해 불확실성 인식 가능하게 만드는 방법은?
• RQ2 PCA가 우주론 관측치를 추론 정확도를 해치지 않으면서 차원을 축소할 수 있는가?
• RQ3 온라인 활성 학습을 통해 Planck+BAO LambdaCDM에서 이론 평가 호출 및 계산 비용에서 어떤 속도 향상이 가능한가?
• RQ4 에뮬레이터로 인한 불확실성이 전체 이론 계산과 비교해 포스트eriors에 어떻게 전파되는가?

주요 결과

• 에뮬레이터는 데이터 효율성과 함께 상당한 속도 향상을 달성하고 예측에 대한 불확실성 추정치를 제공한다.
• Planck 및 BAO 데이터에 대해 LambdaCDM(6개의 우주 매개변수 + 21개의 nuisance 매개변수)에서 이론 호출은 약 500배 감소하여 126회로 축소되며 계산 비용의 약 96%를 절감한다.
• 에뮬레이터를 사용할 때 포스트eriors의 평균 및 바이어스는 여섯 개의 우주 매개변수와 Planck 보정에서 작고(≤5%) 유지된다.
• PCA 정보 손실 및 GP 샘플링 희소성에서 발생한 불확실성은 데이터 공간으로 전파되어 총 에뮬레이터 불확실성을 형성하는데 결합된다.
• 이 접근법은 비싼 이론 평가를 줄이면서도 전체 계산 포스터리어와의 일치를 유지하며 신뢰할 수 있는 추론을 가능하게 한다.

Figure 2: Predicted posterior estimate for the $\Lambda\mathrm{CDM}$ model tested on BAO and Planck TT,TE and EE data. (Blue) posterior estimate using the emulator. It was trained with 126 calls of the theory code. (Red) Comparative MCMC without the use of the emulator. The contours were generated w