[논문 리뷰] Knowledge transfer of Deep Learning for galaxy morphology from one survey to another

H. Domínguez Sánchez, J. Zuntz외 57명|arXiv (Cornell University)|2018. 07. 02.

Remote Sensing in Agriculture인용 수 1

한 줄 요약

이 논문은 슬론 디지털 스카이 서베이(Sloan Digital Sky Survey, SDSS) 데이터에서 사전 훈련된 딥 러닝 모델이 약간의 추가 레이블링만으로 어둠성 에너지 서베이(Dark Energy Survey, DES)의 은하를 분류하는 데에 빠르게 적응시킬 수 있음을 보여준다. 단지 300~500개의 DES 은하를 사용한 소규모 피넷유징 단계만으로도 정확도가 95% 이상으로 향상되고, 완전성과 순도도 크게 향상되어, 다른 기기적 특성을 지닌 서베이 간에 형태학적 지식을 효율적으로 이관할 수 있음을 시사한다.

ABSTRACT

Deep Learning (DL) algorithms for morphological classification of galaxies have proven very successful, mimicking (or even improving) visual classifications. However, these algorithms rely on large training samples of labeled galaxies (typically thousands of them). A key question for using DL classifications in future Big Data surveys is how much of the knowledge acquired from an existing survey can be exported to a new dataset, i.e. if the features learned by the machines are meaningful for different data. We test the performance of DL models, trained with Sloan Digital Sky Survey (SDSS) data, on Dark Energy survey (DES) using images for a sample of 5000 galaxies with a similar redshift distribution to SDSS. Applying the models directly to DES data provides a reasonable global accuracy ($\sim$ 90%), but small completeness and purity values. A fast domain adaptation step, consisting in a further training with a small DES sample of galaxies ($\sim$ 500-300), is enough for obtaining an accuracy > 95% and a significant improvement in the completeness and purity values. This demonstrates that, once trained with a particular dataset, machines can quickly adapt to new instrument characteristics (e.g., PSF, seeing, depth), reducing by almost one order of magnitude the necessary training sample for morphological classification. Redshift evolution effects or significant depth differences are not taken into account in this study.

연구 동기 및 목표

• 한 은하 서베이에서 훈련된 딥 러닝 모델이 다른 이미징 특성이 다른 서베이로 효과적으로 이관될 수 있는지 조사하는 것.
• 재훈련 없이도 목표 서베이에서의 작은 레이블된 서브셋만을 사용하여 사전 훈련된 모델의 성능을 목표 서베이(Dark Energy Survey, DES) 데이터셋에서 평가하는 것.
• 피넷유징을 통한 도메인 적응이 형태학적 분류의 정확도, 완전성, 순도에 미치는 영향을 평가하는 것.
• 이관 후 높은 성능을 달성하기 위해 목표 서베이에서 최소한의 레이블 데이터가 얼마나 필요한지 규명하는 것.

제안 방법

• 스론 디지털 스카이 서베이(Sloan Digital Sky Survey, SDSS)에서 큰 레이블된 은하 샘플을 사용해 딥 러닝 모델을 사전 훈련한다.
• 어둠성 에너지 서베이(Dark Energy Survey, DES)의 5,000개 은하 샘플에 대해 사전 훈련된 모델을 직접 적용하며, SDSS의 적색편이 분포와 일치시킨다.
• 300~500개의 레이블된 DES 은하로 구성된 소규모 서브셋을 사용해 빠른 도메인 적응 단계를 수행하기 위해 모델을 피넷유징한다.
• DES 테스트 세트에서 표준 지표인 전반적 정확도, 완전성, 순도를 사용해 모델 성능을 평가한다.
• 두 서베이 간에 동일한 아키텍처와 초모수를 사용하여 도메인 이동과 적응의 영향을 고립시킨다.

실험 결과

연구 질문

• RQ1 SDSS 데이터에서 훈련된 딥 러닝 모델이 재훈련 없이도 DES 데이터에 직접 적용되었을 때 높은 정확도를 달성할 수 있는가?
• RQ2 다른 기기적 특성을 지닌 새로운 서베이로 이관되었을 때, 사전 훈련된 모델의 성능은 어떻게 떨어지는가?
• RQ3 이관 후 높은 분류 정확도를 달성하기 위해 목표 서베이(DES)에서 최소한의 레이블 샘플 크기는 얼마여야 하는가?
• RQ4 피넷유징이 다양한 서베이 간 형태학적 분류의 완전성과 순도에 얼마나 기여하는가?

주요 결과

• SDSS에서 훈련된 모델를 DES 데이터에 직접 적용했을 때 전반적 정확도가 약 90%에 이를 수 있다.
• 동일한 모델는 도메인 이동으로 인한 성능 저하를 보여주며, 최적의 완전성과 순도를 확보하지 못한다.
• 단지 300~500개의 DES 은하 레이블을 사용한 피넷유징으로 정확도가 95% 이상으로 향상된다.
• 완전성과 순도 지표는 피넷유징 단계 이후에 뚜렷한 향상을 보이며, 목표 도메인으로의 일반화 능력 향상이 확인된다.
• 결과적으로 한 서베이에서 다른 서베이로 지식을 이관함으로써 레이블이 필요한 훈련 데이터를 거의 한 계단 줄일 수 있음을 보여준다.