[논문 리뷰] From Dark Matter to Galaxies with Convolutional Networks

Xinyue Zhang, Yanfang Wang외 6명|arXiv (Cornell University)|2019. 02. 15.

Galaxies: Formation, Evolution, Phenomena참고 문헌 29인용 수 40

한 줄 요약

본 논문은 N-body 시뮬레이션으로부터 3D 다크 물질 필드를 3D 은하 분포로 매핑하기 위해 두 단계의 CNN을 학습시키고, 여러 통계에서 기존의 HOD 방법과 경쟁하거나 이를 능가하며 학습/생성 속도가 유리하다.

ABSTRACT

Cosmological surveys aim at answering fundamental questions about our Universe, including the nature of dark matter or the reason of unexpected accelerated expansion of the Universe. In order to answer these questions, two important ingredients are needed: 1) data from observations and 2) a theoretical model that allows fast comparison between observation and theory. Most of the cosmological surveys observe galaxies, which are very difficult to model theoretically due to the complicated physics involved in their formation and evolution; modeling realistic galaxies over cosmological volumes requires running computationally expensive hydrodynamic simulations that can cost millions of CPU hours. In this paper, we propose to use deep learning to establish a mapping between the 3D galaxy distribution in hydrodynamic simulations and its underlying dark matter distribution. One of the major challenges in this pursuit is the very high sparsity in the predicted galaxy distribution. To this end, we develop a two-phase convolutional neural network architecture to generate fast galaxy catalogues, and compare our results against a standard cosmological technique. We find that our proposed approach either outperforms or is competitive with traditional cosmological techniques. Compared to the common methods used in cosmology, our approach also provides a nice trade-off between time-consumption (comparable to fastest benchmark in the literature) and the quality and accuracy of the predicted simulation. In combination with current and upcoming data from cosmological observations, our method has the potential to answer fundamental questions about our Universe with the highest accuracy.

연구 동기 및 목표

• 은 observations와의 효율적인 비교를 가능하게 하기 위해 다크 물질 분포로부터 빠르고 정확한 은하 카탈로그 생성을 목표로 한다.
• 조밀한 다크 물질 필드에서 매우 희박한 3D 은하 필드를 예측하는 문제를 다룬다.
• 표준 방법 대비 예측 정확도를 개선하기 위해 두 단계 CNN 아키텍처를 개발하고 평가한다.
• 전력 스펙트럼, 바이스펙트럼, 공극 등 여러 코스모로지 통계에서 모델을 평가하고 HOD와 비교한다.

제안 방법

• 3D 다크 matter 밀도에서 3D 은하 개수로의 지도 학습 문제로 은 CNN을 사용하여 은하 예측을 형식화한다.
• 두 단계 아키텍처를 도입한다: 첫 번째 단계는 가중 교차 엔트로피를 사용해 보셀별 은하의 존재/부재를 예측하는 이진 분류기이며, 두 번째 단계는 은하가 존재하는 것으로 예측된 보셀에서 은하 수를 예측하는 회귀기로 L2 손실을 사용한다.
• 고해상도 입력에의 과도한 의존을 줄이기 위한 보정된 스킵 연결 전략으로 여러 3D CNN 변형(U-Net, Recurrent Residual U-Net, Inception)을 테스트한다.
• 시뮬레이션 부피를 32^3의 부분 큐브(각각 2.3 Mpc/h)로 격자화하고, 62.6% 학습, 검증 19.63%, 테스트 17.76%로 1024^3 보셀 밀도 필드를 사용해 학습한다.
• 은하 밀도와 전력 스펙트럼을 맞추도록 최적화된 3파라미터(HOD: M_min, M1, α)와 벤치마크를 비교한다.
• 전력 스펙트럼, 전달 함수, 바이스펙트럼, 공극, 시각화를 사용해 스케일 의존적 정확성을 평가한다.

실험 결과

연구 질문

• RQ1 CNN 기반 모델이 다크 물질 밀도 필드에서 은하 분포로의 매핑을 전통적인 HOD 접근보다 여러 스케일에서 더 잘 학습하나요?
• RQ2 두 단계 학습 방식이 보셀의 희박성으로 인한 극단적인 클래스 불균형을 완화하나요?
• RQ3 이 매핑에 대해 어떤 CNN 아키텍처와 구성(configuration)이 다중 스케일 공간 정보를 가장 잘 포착하나요?
• RQ4 ML 기반 방법이 HOD에 비해 바이스펙트럼 및 공극과 같은 고차 스펙 연구에서 어떤 성능을 보이나요?

주요 결과

• Two-phase Inception+R2Unet 모델은 대규모 스케일에서 HOD와 거의 동등하거나 이를 능가하고, 작은 스케일에서 전력 스펙트럼 측정에서 더 우수하다.
• 두 단계 접근 방식은 보셀 개수 예측에서 평균 제곱 오차(MSE)가 HOD의 약 0.01007보다 더 낮은 약 0.00308로 나타났다.
• Binary-phase 결과에서 Inception이 첫 번째 단계에서 최대로 회수율(95.72%)을 달성하여 은하를 포함하는 보셀의 효과적인 식별을 시사한다.
• Inception+R2Unet 대 target의 바이스펙트럼 잔차는 두 가지 테스트 스케일(k1=0.5, k2=0.6 h/Mpc)에서 각각 2.7%와 5.0%이다; 더 작은 스케일에서 모델은 HOD를 크게 능가한다(1.2, 1.3 h/Mpc에서 상대 잔차 0.68% 대 1193%).
• 공극 크기 함수에서 공극 개수는 Inception+R2Unet와 HOD 모두 대상으로 일치하여 대규모 구조 통계에서 경쟁력 있는 성능을 시사한다.
• 훈련/생성 속도: Illustris 전체 수치 시뮬레이션은 약 1900만 CPU 시간, HOD는 약 8 CPU 시간, Inception+R2Unet은 약 3 GPU 시간으로 학습 및 시뮬레이션 생성을 수행한다.