[논문 리뷰] Optimal Neural Summarisation for Full-Field Weak Lensing Cosmological Implicit Inference

Denise Lanzieri, Justine Zeghal외 4명|arXiv (Cornell University)|2024. 07. 15.

Galaxies: Formation, Evolution, Phenomena인용 수 2

한 줄 요약

이 논문은 Variational Mutual Information Maximization (VMIM)를 손실 함수로 사용하여 전체 영역 약한 렌즈 우주론적 추론을 위한 이론적으로 최적의 신경망 요약 방법을 제안한다. 시뮬레이션된 LSST 연도 10 wCDM 시나리오에서 VMIM로 훈련된 신경망 요약은 기준 Figure of Merit (FoM)의 100%를 달성하며, MSE 기반 방법(81% FoM)을 능가한다. 이는 VMIM가 전체 우주론적 정보를 약한 렌즈 데이터에서 추출하는 데 있어 이론적으로 최적이고 경험적으로 효과적인 방법임을 입증한다.

ABSTRACT

Traditionally, weak lensing cosmological surveys have been analyzed using summary statistics motivated by their analytically tractable likelihoods, or by their ability to access higher-order information, at the cost of requiring Simulation-Based Inference (SBI) approaches. While informative, these statistics are neither designed nor guaranteed to be statistically sufficient. With the rise of deep learning, it becomes possible to create summary statistics optimized to extract the full data information. We compare different neural summarization strategies proposed in the weak lensing literature, to assess which loss functions lead to theoretically optimal summary statistics to perform full-field inference. In doing so, we aim to provide guidelines and insights to the community to help guide future neural-based inference analyses. We design an experimental setup to isolate the impact of the loss function used to train neural networks. We have developed the sbi_lens JAX package, which implements an automatically differentiable lognormal wCDM LSST-Y10 weak lensing simulator. The explicit full-field posterior obtained using the Hamiltonian Monte Carlo sampler gives us a ground truth to which to compare different compression strategies. We provide theoretical insight into the loss functions used in the literature and show that some do not necessarily lead to sufficient statistics (e.g. Mean Square Error (MSE)), while those motivated by information theory (e.g. Variational Mutual Information Maximization (VMIM)) can. Our numerical experiments confirm these insights and show, in our simulated wCDM scenario, that the Figure of Merit (FoM) of an analysis using neural summaries optimized under VMIM achieves 100% of the reference Omega_c - sigma_8 full-field FoM, while an analysis using neural summaries trained under MSE achieves only 81% of the same reference FoM.

연구 동기 및 목표

• 전체 영역 약한 렌즈 추론을 위한 통계적 충분 통계량을 생성하는 데 가장 적합한 신경망 손실 함수를 규명하는 것.
• 우주론적 정보를 포괄하는 데 있어 이론적 및 경험적 성능 측면에서 다양한 신경망 요약 전략을 비교하는 것.
• 우주론적 추론에서 최적의 신경 압축기 설계를 위한 원칙적이고 정보 이론 기반의 프레임워크를 제공하는 것.
• 공개 가능한 시뮬레이션 프레임워크인 sbi_lens를 개발하고 배포하여 신경 요약 통계량의 재현 가능한 벤치마킹을 가능하게 하는 것.

제안 방법

• 저자들은 sbi_lens JAX 패키지를 사용하여 제어된 실험 설정을 설계하였으며, 이는 자동 미분 가능한 로그정규 분포 약한 렌즈 시뮬레이터와 해밀토니안 몬테카를로(HMC)를 통한 명시적 전체 영역 추론 도구를 제공한다.
• 신경망 아키텍처와 시뮬레이션 기반 추론(SBI) 파이프라인을 고정하고 손실 함수의 영향을 분리하여, MSE 회귀와 VMIM 기반 훈련을 비교한다.
• 기준이 되는 전체 영역 사후분포는 시뮬레이션된 wCDM LSST 연도 10 약한 렌즈 시나리오에서 HMC 샘플링을 통해 확보되며, 요약 통계량 평가의 기준으로 사용된다.
• 이론적 분석은 VMIM이 요약 통계량 t와 우주론적 매개변수 θ 사이의 상호정보량 I(t, θ)를 최대화하므로 통계적 충만성에 필수적이고 충분하다는 것을 보여준다.
• 경험적 평가에서는 다양한 신경 요약으로부터 유도된 매개변수 제약의 Figure of Merit (FoM)를 비교하며, 명시적 전체 영역 추론을 기준으로 한다.
• 이 프레임워크는 제어된 조건 하에서 신경 압축 전략의 종단 간 비교를 가능하게 하며, 공개 가능성을 통해 커뮤니티의 벤치마킹 지원을 가능하게 한다.

실험 결과

연구 질문

• RQ1 신경 요약 훈련 중 평균 제곱오차(MSE)를 최소화하는 것이 약한 렌즈 우주론적 추론에서 통계적 충만한 통계량을 이끌어내는가?
• RQ2 변분 상호정보량 최대화(VMIM)가 이론적으로나 경험적으로 전체 영역 추론을 위한 최적의 충만한 통계량을 이끌어낼 수 있는가?
• RQ3 다양한 손실 함수는 신경 요약을 사용할 때 우주론적 매개변수 추정의 Figure of Merit (FoM)에 어떤 영향을 미치는가?
• RQ4 전통적인 요약 통계량에 비해 신경 압축은 약한 렌즈 데이터의 전체 우주론적 정보 내용을 어느 정도 유지할 수 있는가?
• RQ5 시스템적 오차와 비정규 분포 특성과 같은 현실적인 시뮬레이션 복잡성 조건 하에서도 VMIM은 근사 충만성을 달성할 수 있는가?

주요 결과

• 시뮬레이션된 wCDM LSST 연도 10 약한 렌즈 시나리오에서 VMIM 기반 신경 요약은 기준 전체 영역 Figure of Merit (FoM)의 100%를 달성하여 근사 최적의 정보 추출을 나타낸다.
• 반면 MSE 회귀로 훈련된 요약은 기준 FoM의 81%에 그치며, 이는 MSE가 전체 우주론적 정보를 포괄하는 데 비최적임을 보여준다.
• 이론적 분석은 VMIM이 원칙적으로 충만한 통계량을 생성할 수 있음을 확인하며, 요약과 매개변수 사이의 상호정보량 I(t, θ)를 최대화하기 때문이다.
• 경험적 결과는 VMIM이 기준 전체 영역 사후분포와 매우 유사한 사후분포를 생성하며, C2ST 점수 0.6은 비중요하지만 완전한 분리가 아닌 분산을 나타낸다.
• 이 연구는 정보 이론 기반 손실 함수인 VMIM이 우주론적 추론에서 표준 회귀 손실 함수인 MSE보다 우수한 성능을 보임을 입증한다.
• sbi_lens 시뮬레이션 프레임워크와 관련 코드는 공개되어 있어 재현 가능한 벤치마킹 및 우주론에서의 신경 압축 방법 향후 개발을 지원한다.