[논문 리뷰] Normalizing flows for random fields in cosmology

Adam Rouhiainen, Utkarsh Giri외 1명|arXiv (Cornell University)|2021. 05. 25.

Gaussian Processes and Bayesian Inference참고 문헌 24인용 수 8

한 줄 요약

이 논문은 물질 분포나 CMB 렌즈링 위치와 같은 천체물리학적 무작위 장을 요약 통계가 아닌 장 수준에서 직접 모델링하기 위해 정규화 흐름(normalizing flows)을 사용하는 것을 제안한다. 물리적 파워 스펙트럼에서 유도된 상관관계가 있는 가우시안 사전분포를 기반으로 훈련함으로써, 파워 스펙트럼과 비스펙트럼 추정에서 백분율 이내의 정확도를 달성하며, 천체물리학에서 비가우시안 사전분포 모델링과 장 수준의 변분 추론에 큰 잠재력을 보여준다.

ABSTRACT

Normalizing flows are a powerful tool to create flexible probability distributions with a wide range of potential applications in cosmology. Here we are studying normalizing flows which represent cosmological observables at field level, rather than at the level of summary statistics such as the power spectrum. We evaluate the performance of different normalizing flows for both density estimation and sampling of near-Gaussian random fields, and check the quality of samples with different statistics such as power spectrum and bispectrum estimators. We explore aspects of these flows that are specific to cosmology, such as flowing from a physical prior distribution and evaluating the density estimation results in the analytically tractable correlated Gaussian case.

연구 동기 및 목표

• 근사 가우시안 천체물리학적 무작위 장을 요약 통계(예: 파워 스펙트럼)가 아닌 장 수준에서 정규화 흐름이 얼마나 잘 모델링하는지 평가하기 위해.
• 정규화 흐름이 N-body 시뮬레이션에서 관찰되는 비가우시안 특징을 포함한 천체물리학적 장의 확률밀도함수(PDFs)를 정확히 표현할 수 있는지 평가하기 위해.
• 독립된 표준 가우시안 대신 물리적으로 유도된 상관관계가 있는 가우시안 사전분포를 사용할 경우 흐름 훈련 및 샘플 품질에 어떤 영향을 미치는지 조사하기 위해.
• 정규화 흐름이 CMB 렌즈링이나 가능성이 있는 열역학적 수자이에프-젤도비치 톰그래피와 같은 천체물리학적 추론 작업, 특히 장 수준의 변분 추론과 가능성이 없는 추론에 얼마나 효과적으로 활용될 수 있는지 테스트하기 위해.
• 실제 NVP와 글로우(Glow)와 같은 다양한 흐름 아키텍처가 천체물리학적 응용에서 수렴 속도와 샘플 충실도 측면에서 어떻게 비교되는지 조사하기 위해.

제안 방법

• 이 연구는 기저 분포(초기에는 천체물리학적으로 유도된 파워 스펙트럼을 가진 상관관계가 있는 가우시안 장)를 복잡한 목표 분포로 변환하는 정규화 흐름을 사용한다. 이는 일련의 가역적이며 미분 가능한 변환을 통해 이루어진다.
• 흐름은 $ T = T_K \circ \cdots \circ T_1 $로 구성되며, 각 변환은 해석 가능한 자코비안 행렬식을 가지며, 정확한 밀도 평가와 효율적인 샘플링을 가능하게 한다.
• 밀도 평가의 핵심 식은 $ p_x(\mathbf{x}) = p_u(\mathbf{u}) \cdot |\det J_T(\mathbf{u})|^{-1} $이며, 여기서 $ \mathbf{x} = T(\mathbf{u}) $이고, 로그 자코비안 행렬식은 개별 변환 단계의 합으로 계산된다.
• 기저 분포는 목표 천체물리학적 장(예: N-body 시뮬레이션에서 유도된 것)의 파워 스펙트럼과 일치하는 상관관계가 있는 가우시안 장이며, 독립된 가우시안 사전분포보다 샘플 품질을 향상시킨다.
• 훈련은 3D N-body 시뮬레이션 데이터의 2D 투영(125 $h^{-1}$ Mpc³ 부피에서 유도된 128×128 픽셀 맵)을 대상으로 하며, 최대우도추정법을 사용하여 수행된다.
• 성능 평가는 파워 스펙트럼, 비스펙트럼, 로그-밀도함수와 같은 통계적 지표를 사용하며, 사전분포와 진짜 데이터 분포와의 비교를 포함한다.

실험 결과

연구 질문

• RQ1 정규화 흐름은 물질 분포와 같은 천체물리학적 무작위 장의 전체 확률밀도를 장 수준에서 정확히 모델링할 수 있는가?
• RQ2 독립된 표준 가우시안 사전분포 대비 물리적으로 유도된 상관관계가 있는 가우시안 사전분포를 사용할 경우 흐름 성능 및 샘플 품질에 어떤 영향을 미치는가?
• RQ3 정규화 흐름은 N-body 시뮬레이션의 비가우시안 영역에서 파워 스펙트럼과 비스펙트럼을 어느 정도 정확히 재현할 수 있는가?
• RQ4 실제 NVP와 글로우와 같은 다양한 흐름 아키텍처는 천체물리학적 장을 모델링할 때 수렴 속도와 샘플 충실도 측면에서 어떻게 비교되는가?
• RQ5 정규화 흐름은 CMB 렌즈링이나 가능성이 있는 열역학적 수자이에프-젤도비치 톰그래피와 같은 장 수준의 변분 추론에 효과적으로 활용될 수 있는가?

주요 결과

• 상관관계가 있는 가우시안 사전분포를 기반으로 훈련된 정규화 흐름은 진짜 N-body 시뮬레이션 데이터의 파워 스펙트럼 정확도를 몇 퍼센트 내외로 달성하며, 가장 정확한 모델에서는 로그-P에서 1% 이내의 편차를 보였다.
• 훈련된 흐름이 생성한 샘플의 비스펙트럼은 목표 N-body 비스펙트럼과 몇 퍼센트 내외로 일치하며, 비가우시안 3점 통계의 정확한 모델링을 나타낸다.
• 해석 가능한 상관관계가 있는 가우시안 사례에서의 밀도 평가는 로그-밀도에서 백분율 수준의 정확도를 달성하며, 흐름이 정확한 PDF를 표현할 수 있음을 확인한다.
• N-body 시뮬레이션 데이터에 적용했을 때 글로우 흐름 아키텍처는 실질 NVP보다 더 빠른 수렴 속도와 더 높은 품질의 샘플을 생성하며, 복잡한 천체물리학적 장에 대해 아키텍처 개선이 유익함을 시사한다.
• 상관관계가 있는 가우시안 사전분포를 사용하면 독립된 표준 가우시안 대비 샘플 품질과 학습 효율성이 크게 향상되며, 천체물리학적 흐름 모델링에서 물리적 사전분포의 중요성을 강조한다.
• 결과는 CMB 렌즈링이나 가능성이 있는 열역학적 수자이에프-젤도비치 톰그래피에 대한 비가우시안 사전분포 모델링과 변분 추론 프레임워크에서 정규화 흐름의 강력한 잠재력을 보여준다.