[논문 리뷰] Strong-Lensing Source Reconstruction with Denoising Diffusion Restoration Models

Konstantin Karchev, Noemi Anau Montel외 2명|arXiv (Cornell University)|2022. 11. 08.

Sparse and Compressive Sensing Techniques인용 수 6

한 줄 요약

이 논문은 노이즈가 있는 렌즈 관측치에 조건부로 설정된 노이즈 제거 확산 복원 모델(Denosing Diffusion Restoration Model, DDRM)을 사용하여 강한 중력 렌즈 현상의 소스 재구성에 대한 새로운 방법을 제안한다. 사전에 훈련된 AstroDDPM 생성 모델을 활용하여, DDRM는 낮은 노이즈 관측치와 유사한 샘플을 생성하면서도 고노이즈 조건에서는 적절한 변동성을 보이며 베이지안 사후 분포 성질을 잘 따르는 것으로 나타났다.

ABSTRACT

Analysis of galaxy--galaxy strong lensing systems is strongly dependent on any prior assumptions made about the appearance of the source. Here we present a method of imposing a data-driven prior / regularisation for source galaxies based on denoising diffusion probabilistic models (DDPMs). We use a pre-trained model for galaxy images, AstroDDPM, and a chain of conditional reconstruction steps called denoising diffusion reconstruction model (DDRM) to obtain samples consistent both with the noisy observation and with the distribution of training data for AstroDDPM. We show that these samples have the qualitative properties associated with the posterior for the source model: in a low-to-medium noise scenario they closely resemble the observation, while reconstructions from uncertain data show greater variability, consistent with the distribution encoded in the generative model used as prior.

연구 동기 및 목표

• 강한 중력 렌즈 현상에서 소스 재구성을 둘러싼 문제를 다루며, 사전 가정이 결과에 미치는 영향을 최소화하고자 한다.
• 매개변수화 또는 기저 함수 기반 모델에 의존하지 않는 데이터 기반의 소스 형태 사전 분포를 개발하고자 한다.
• 딥 생성 모델을 활용해 다양한 노이즈 조건에서도 강인하고 고해상도의 소스 재구성을 가능하게 하고자 한다.
• 이 방법이 진정한 베이지안 사후 분포 성질을 갖는 샘플을 생성하는지 검증하고자 한다.
• 어두운 물질의 미세 구조 탐지와 같은 시뮬레이션 기반 추론 작업에서 사용 가능한 재구성 결과를 학습 데이터로 활용할 수 있는 기반을 마련하고자 한다.

제안 방법

• 은하 이미지에 대해 훈련된 사전에 훈련된 노이즈 제거 확산 확률 모델(Denoising Diffusion Probabilistic Model, DDPM)인 AstroDDPM을 사용하여 소스 형태의 데이터 기반 사전 분포로 활용한다.
• 관측된 렌즈 이미지와 사전 분포 양쪽에 일치하는 소스 재구성을 생성하기 위해 조건부 샘플링 절차인 노이즈 제거 확산 복원 모델(Denosing Diffusion Restoration Model, DDRM)을 적용한다.
• 노이즈 스케줄과 역방향 노이즈 제거 과정을 사용하며, 신경망이 렌즈 관측치에 조건부로 정규 분포의 평균을 예측한다.
• Kawar 등에 의해 이론적으로 보장된 결과를 고려해 DDRM의 하이퍼파rameter η = 1으로 설정하여 적절한 사후 근사 보장한다.
• 각 관측치당 100개의 사후 샘플을 생성하며, NVIDIA A-100 GPU를 사용하여 재구성 정밀도를 잔차와 시각적 비교를 통해 평가한다.
• 재구성된 소스를 관측치와 비교하기 위해 이미지 평면에 투영하기 위해 선형 렌즈 연산자 H를 사용하며, 픽셀 수준의 통합을 고려한다.

실험 결과

연구 질문

• RQ1 사전에 훈련된 확산 모델을 최소한의 아키텍처 수정으로 강한 중력 렌즈 현상에서의 소스 재구성에 효과적으로 적용할 수 있는가?
• RQ2 DDRM에서 생성된 샘플이 저노이즈 조건에서는 낮은 변동성, 고노이즈 조건에서는 증가한 다양성을 보이며 진정한 베이지안 사후 분포의 특성을 잘 반영하는가?
• RQ3 저노이즈 및 고노이즈 조건에서 재구성 결과가 진짜 소스와 형태와 밝기 일致성 측면에서 얼마나 잘 일치하는가?
• RQ4 이 방법은 관측치에 충실하면서도 데이터의 불확실성을 반영할 수 있도록 충분히 다양한 재구성 결과를 생성할 수 있는가?
• RQ5 이 접근법은 어두운 물질의 미세 구조 탐지와 같은 후속 추론 작업에서 학습 데이터를 생성하는 데 적합한가?

주요 결과

• 중간 노이즈 조건(S/N ≈ 30)에서 평균 재구성 결과는 진짜 소스와 매우 유사하며, 표준화된 잔차는 단위 정규 분포를 따르며 체계적 편향이 없음을 보였다.
• 고노이즈 조건(S/N ≈ 6)에서는 사후 샘플이 형태적으로 상당한 변동성을 보이며 관측치와 일치함을 확인하여 불확실성 정량화가 적절히 이루어졌음을 시사한다.
• 재구성 결과는 물리적으로 타당하며, AstroDDPM 사전 분포에 부합하는 다양한 크기, 밝기, 형태를 가진 샘플을 보였다.
• 관측치에 대한 평균 재구성 결과의 잔차는 약간의 정규 분포를 따르며, 이는 모델이 체계적인 오차를 도입하지 않았음을 확인한다.
• 이 방법은 약 ~1000 픽셀의 낮은 해상도에서도 다중 투영 및 렌즈 모델 내 픽셀 수준의 통합을 활용하여 고해상도 소스 재구성을 달성한다.
• 노이즈 변화에 대한 강인성을 보이며, 신호 대 잡음비에 따라 재구성 결과가 데이터 기반에서 관측 기반 행동으로 전환됨을 확인했다.