[논문 리뷰] Capse.jl: efficient and auto-differentiable CMB power spectra emulation

Marco Bonici, F. Bianchini외 1명|arXiv (Cornell University)|2023. 07. 26.

Cosmology and Gravitation TheoriesPhysics and Astronomy참고 문헌 67인용 수 3

한 줄 요약

Capse.jl은 CMB 온도, 편광, 렌즈링 전력스펙트럼을 CMB-S4에 관련된 스케일에서 마이크로초 단위로, 0.1σ 이내의 오차로 예측하는 신경망 기반 에미레이터입니다. NUTS 및 Pathfinder와 같은 기울기 기반 샘플러와 함께 사용함으로써 기존 방법보다 최대 6개 지수 차수 빠른 베이지안 추론을 가능하게 하며, 플랑크와 유사한 우주론적 제약 조건을 1초 이내로 달성합니다.

ABSTRACT

We present Capse.jl, a novel neural network-based emulator designed for rapid and accurate prediction of Cosmic Microwave Background (CMB) temperature, polarization, and lensing angular power spectra. The emulator computes predictions in just a few microseconds with emulation errors below $0.1σ$ for all the scales relevant for the upcoming CMB-S4 survey. Capse.jl can also be trained in an hour's time on a 8-cores CPU. We test Capse.jl on Planck 2018, ACT DR4, and 2018 SPT-3G data and demonstrate its capability to derive cosmological constraints comparable to those obtained by traditional methods, but with a computational efficiency that is three to six orders of magnitude higher. We take advantage of the differentiability of our emulators to use gradient-based methods, such as Pathfinder and Hamiltonian Monte Carlo (HMC), which speed up the convergence and increase sampling efficiency. Together, these features make Capse.jl a powerful tool for studying the CMB and its implications for cosmology. When using the fastest combination of our likelihoods, emulators, and analysis algorithm, we are able to perform a Plancky TT + TE + EE analysis in less than a second. To ensure full reproducibility, we provide open access to the codes and data required to reproduce all the results of this work.

연구 동기 및 목표

• CAMB와 같은 전통적인 볼츠만 해석기로 인한 CMB 우도 평가의 높은 계산 비용 문제를 해결한다.
• 온도, 편광, 렌즈링에 대한 CMB 각운동량 전력스펙트럼에 대해 고도로 효율적이고 정확하며, 완전히 미분 가능한 에미레이터를 개발한다.
• 해밀턴 몬테카를로 및 Pathfinder와 같은 기울기 기반 추론 알고리즘을 사용해 빠른 샘플링과 최적화를 가능하게 한다.
• CAMB와 Cobaya를 사용한 표준 MCMC 파이프라인 대비 3~6개 지수 차수의 계산 속도 향상을 달성한다.
• 코드와 훈련 데이터에 대한 완전한 재현 가능성과 오픈 액세스를 확보하여 공동체의 채택과 검증을 지원한다.

제안 방법

• 넓은 우주론적 매개변수 공간에서 CMB 각운동량 전력스펙트럼(TT, TE, EE, BB, 렌즈링)을 에미레이트하기 위해 딥 네트워크를 훈련한다.
• 줄리아의 자동 미분 기능을 활용해 에미레이터를 완전히 미분 가능하게 만들며, 기울기 기반 추론 알고리즘을 지원한다.
• 출력 차원을 감소시키고 우도 평가 속도를 향상시키기 위해 체비셰프 다항식 분해를 적용하여 계산 효율성을 향상시킨다.
• CMB-S4에 관련된 전역 다중극수 범위에서의 정확도를 확보하기 위해 합성 매개변수 조합을 사용한 다중 척도 훈련 전략을 적용한다.
• Cobaya 프레임워크를 사용해 CAMB의 우도 평가 단계를 대체하는 완전한 베이지안 추론 파이프라인에 에미레이터를 통합한다.
• NUTS, 마이크로카노니컬 HMC, Pathfinder와 같은 기울기 기반 샘플러를 사용해 성능을 벤치마킹하며 수렴성과 샘플링 효율성을 비교한다.

Figure 1 : Comparison of the relative differences between Capse.jl and high-accuracy predictions from CAMB for the four 2-point statistics emulated in this study. The differences are normalized to the forecasted CMB-S4 statistical uncertainties ( $f_{\mathrm{sky}}=0.4$ ) and measured in units of cos

실험 결과

연구 질문

• RQ1 기울기 기반 추론 알고리즘을 사용할 때, 다양한 스케일에서 CMB 전력스펙트럼을 0.1σ 이내 정확도로 예측할 수 있는 미분 가능한 신경망 에미레이터는 가능한가?
• RQ2 NUTS 및 Pathfinder와 같은 기울기 기반 샘플러를 사용할 경우, 미분 가능한 에미레이터와 함께 우주론적 추론 속도가 얼마나 향상되는가?
• RQ3 CMB-S4 데이터셋인 플랑크, ACT DR4, SPT-3G에 대해 Capse.jl의 계산 성능은 기존 CAMB 기반 파이프라인과 비교해 벽시계 시간 측면에서 어떻게 되는가?
• RQ4 체비셰프 다항식 분해가 정확도를 희생시키지 않고 우도 평가 효율성을 크게 향상시킬 수 있는가?
• RQ5 에미레이터는 실제 데이터에서 CAMB 및 Cobaya 기반 파이프라인과 유사한 우주론적 제약 조건을 재현할 수 있을 정도로 강건하고 정확한가?

주요 결과

• Capse.jl은 1회 호출당 10 마이크로초 미만으로 CMB 전력스펙트럼을 계산하며, CMB-S4에 관련된 모든 스케일에서 에미레이션 오차가 0.1σ 이내다.
• 플랑크 2018, ACT DR4, SPT-3G 2018 데이터에서 Capse.jl은 CAMB 기반 파이프라인과 동일한 우주론적 제약 조건을 달성하며, 사후분포 차이가 0.1σ 미만이다.
• Capse.jl을 사용한 플랑크 TT+TE+EE 분석은 NUTS 샘플링과 함께 1초 미만으로 완료되며, CAMB 및 Cobaya를 사용할 경우 약 100 CPU 시간이 소요된다.
• NUTS 및 Pathfinder와 같은 기울기 기반 샘플러 사용으로 분석 시간이 2~6개 지수 차수 감소: 플랑크 0.5 CPU 시간, ACT 1시간, SPT-3G 14시간.
• 마이크로카노니컬 HMC는 표준 NUTS 대비 효율성에서 2~3배 향상되었으며, 거의 동일한 사후분포를 생성한다.
• 체비셰프 다항식 분해로 플랑크 분석 효율성이 거의 한 계수 정도 향상되었으며, 향후 은하 군집 분석과 같은 응용 분야로의 확장 가능성도 보여준다.

Figure 2 : Triangle plot, showing the standard Planck lite chains and the one obtained using Capse.jl in combination with Turing.jl . The lower triangular part of the plot focuses on the comparison between CAMB and Capse.jl , in order to ensure the precision of our emulators and likelihoods. The upp