[논문 리뷰] Domain adaptation techniques for improved cross-domain study of galaxy mergers

Aleksandra Ćiprijanović, Diana Kafkes외 6명|arXiv (Cornell University)|2020. 11. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 22인용 수 5

한 줄 요약

이 논문은 시뮬레이션된 데이터로 훈련된 은하 병합 분류기의 성능을 실제 관측 데이터에 적용했을 때 발생하는 도메인 분리 문제를 줄이기 위해 도메인 적응 기법—최대 평균 차이(MMD)와 도메인 적대적 신경망(DANN)—을 사용하는 것을 제안한다. 관측 노이즈로 인한 도메인 분리 문제를 최소화함으로써, 두 방법 모두 기준 성능(약 57%)에서 약 78–79%로 목표 도메인 정확도를 크게 향상시켰으며, 천문학 분야에서의 교차 도메인 딥 러닝에 큰 잠재력을 보여준다.

ABSTRACT

In astronomy, neural networks are often trained on simulated data with the prospect of being applied to real observations. Unfortunately, simply training a deep neural network on images from one domain does not guarantee satisfactory performance on new images from a different domain. The ability to share cross-domain knowledge is the main advantage of modern deep domain adaptation techniques. Here we demonstrate the use of two techniques - Maximum Mean Discrepancy (MMD) and adversarial training with Domain Adversarial Neural Networks (DANN) - for the classification of distant galaxy mergers from the Illustris-1 simulation, where the two domains presented differ only due to inclusion of observational noise. We show how the addition of either MMD or adversarial training greatly improves the performance of the classifier on the target domain when compared to conventional machine learning algorithms, thereby demonstrating great promise for their use in astronomy.

연구 동기 및 목표

• 시뮬레이션된 데이터로 훈련된 은하 병합 분류기가 실제 관측 데이터에 적용되었을 때 발생하는 도메인 분리로 인한 성능 저하 문제를 해결하기 위해.
• MMD와 DANN과 같은 도메인 적응 기법이 시뮬레이션된(소스) 도메인과 노이즈가 있는 실제 유사(타겟) 은하 이미지 간의 격차를 메우는 데 효과적인지 평가하기 위해.
• 두 도메인 간 유일한 차이가 관측 노이즈가 포함되어 있는지 여부일 경우, 이러한 기법이 타겟 도메인에서의 분류 성능 향상에 기여하는지 테스트하기 위해.
• 딥머지와 ResNet18이라는 두 가지 신경망 아키텍처가 교차 도메인 은하 병합 분류 작업에서 도메인 적응을 적용했을 때 성능에 미치는 영향을 비교하기 위해.

제안 방법

• 모델은 분류기 손실(교차 엔트로피)과 전이 손실을 조합한 총 손실을 사용하여 훈련되며, 이는 하이퍼파rameter λ_TL로 가중된다.
• MMD의 경우, 재생 핵 힐버트 공간(RKHS)에서 소스 도메인과 타겟 도메인 간의 분포 차이를 최소화함으로써 특징 표현의 평균을 일치시킴으로써 도메인 간 분포 격차를 줄인다.
• DANN의 경우, 특징이 소스 도메인인지 타겟 도메인인지 식별하는 도메인 구분자(Domain Discriminator)를 적대적으로 훈련시키며, 동시에 특징 인코더는 이 구분자를 속이도록 훈련되어 도메인 불변 표현을 유도한다.
• 소스 도메인은 z=2에서의 노이즈 없는 Illustris-1 시뮬레이션 은하 이미지로 구성되며, 타겟 도메인은 동일한 이미지에 허블 유사 셸터 노이즈를 추가한 것이다.
• 경량적인 DeepMerge와 더 깊은 ResNet18 두 네트워크를 대상으로 접근법을 평가하여 아키텍처 의존성 여부를 분석한다.
• 하이퍼파ram터 튜닝을 수행하였으며, 결과는 10개의 랜덤 시드에 대한 평균 ± 표준편차로 보고되어 안정성을 확보하였다.

실험 결과

연구 질문

• RQ1 MMD와 DANN과 같은 도메인 적응 기법이 시뮬레이션된 은하 이미지로 훈련된 분류기를 실제 관측 데이터에 적용했을 때 발생하는 성능 저하를 효과적으로 줄일 수 있는가?
• RQ2 관측 노이즈가 유일한 도메인 분리 원인일 경우, MMD와 DANN은 타겟 도메인에서의 분류 정확도 향상에 어떻게 비교되는가?
• RQ3 도메인 적응으로 얻는 성능 향상은 신경망 아키텍처의 선택(예: DeepMerge 대비 ResNet18)에 따라 달라지는가?
• RQ4 도메인 적응 기법은 하이퍼파ram터 선택에 얼마나 민감한가? 그리고 다양한 랜덤 시드에서 안정적인 성능을 달성할 수 있는가?

주요 결과

• 도메인 적응을 적용하지 않은 경우, 타겟 도메인에서의 분류기 정확도는 57.0% ± 5.2%에 그쳤으며, 무작위 추측 수준을 약간 넘어서는 수준이었다.
• MMD를 적용한 경우, 타겟 도메인 정확도는 77.3% ± 0.6%로 상당한 향상이 이루어졌다.
• 적대적 훈련(DANN)을 적용한 경우, 타겟 도메인 정확도는 78.9% ± 0.5%에 도달하여 이 설정에서 기준값과 MMD 모두를 능가하는 성능을 보였다.
• 모든 방법에서 소스 도메인 정확도는 높게 유지되었다—비적응 시 83.6%, MMD 적용 시 86.6%, DANN 적용 시 86.5%—훈련 도메인에서의 성능 저하가 없음을 시사한다.
• 랜덤 시드 선택에 대해 성능이 안정적이었으며, 10회 시행 평균에서 표준편차가 낮게 유지되어 안정적인 학습 동역학을 보였다.
• 결과는 도메인 적응 기법이 천체 이미지 분류에서 관측 노이즈로 인한 도메인 분리로 인한 성능 저하를 효과적으로 완화시킬 수 있음을 입증한다.