[논문 리뷰] Visualizing the Hidden Features of Galaxy Morphology with Machine Learning

Jia-Ming Dai, Jizhou Tong|arXiv (Cornell University)|2018. 07. 16.

Image Processing and 3D Reconstruction참고 문헌 4인용 수 5

한 줄 요약

이 논문은 Galaxy Zoo 2 데이터셋에서 훈련된 세 개의 합성곱 신경망(CNN)으로부터 추출한 고차원 특징 표현에 t-SNE 시각화를 적용하여 은하 형상의 숨겨진 구조적 패턴을 밝혀내었다. 주요 발견은 CNN이 학습한 특징들이 시멘트형과 엣지온 은하가 특징 공간에서 서로 유사하고 뒤섞여 있음을 드러내며, 예를 들어 나선형으로 잘못 분류된 은하가 군집 이상 현상으로 확인되는 등 잘못된 레이블이 있는 은하들이 탐지된다는 것이다.

ABSTRACT

We train three convolutional neural networks (CNNs) to classify galaxies with Galaxy Zoo 2 dataset and extract the activations from the last fully connected layer or the last average pooling layer of CNNs to study the high-dimensional abstract feature representations of galaxy images. We apply t-Distributed Stochastic Neighbour Embedding (t-SNE), a popular dimensionality reduction technique, to visualize the high-dimensional galaxy feature representations in two-dimensional scatter plots. From the visualization, we try to understand the galaxy images data itself and obtain some highly valuable insights. For instance, the learned galaxy feature representations from networks indicate that the galaxies belonging to the same class tend to group together, i.e. same morphological galaxies are clustered; The cluster of completely round smooth galaxy and the cluster of in-between smooth galaxy (between completely round and cigar-shaped) are moved closer, compared to other clusters; The cluster of cigar-shaped smooth galaxy and the cluster of edge-on galaxy are intertwined surprisingly; A galaxy mislabelled as spiral galaxy in the original dataset falls in the cluster of completely round smooth galaxy, and manual inspection also identifies out the outlier as a completely round smooth galaxy. These findings will facilitate the study of galaxy morphology.

연구 동기 및 목표

• 딥 뉴럴 네트워크가 학습한 고차원 특징 표현을 분석하여 은하 형상의 숨겨진 구조적 패턴을 탐구하기 위해.
• CNN가 학습한 특징의 t-SNE 시각화가 은하 이미지 데이터에서 의미 있는 전반적이고 국소적인 구조를 드러내는지 평가하기 위해.
• 학습된 특징 공간에서 은하 이미지의 군집 행동을 관찰하여 잠재적인 데이터 레이블링 오류를 탐지하기 위해.
• 특히 매끄러운 은하 유형을 포함한 다양한 형상 유형이 학습된 모델의 잠재 공간에서 어떻게 상호 관련되어 있는지 탐색하기 위해.
• 은하 분류 시스템과 형상 분석 파이프라인의 향상에 기여할 통찰을 제공하기 위해.

제안 방법

• 세 가지 다른 CNN 아키텍처를 Galaxy Zoo 2 데이터셋에 대해 훈련하여 은하를 다섯 가지 형상 유형(완전히 둥근 형태, 중간형, 시멘트형, 엣지온, 나선형)으로 분류하였다.
• 각 훈련된 CNN의 마지막 완전히 연결된 층 또는 마지막 평균 풀링 층의 활성화 값을 추출하여 은하 이미지의 고차원 특징 표현을 구성하였다.
• t-distributed Stochastic Neighbor Embedding(t-SNE)를 적용하여 이러한 특징의 차원을 두 차원으로 감소시켜 시각화하였다.
• 결과로 생성된 2차원 산점도를 분석하여 은하 유형 간의 군집 패턴, 구조적 관계, 이질성을 파악하였다.
• t-SNE 시각화에서 유의미한 결과를 도출하기 위해 잘못 분류되거나 이상치로 간주되는 은하의 수동 점검을 수행하였다.
• 학습 및 테스트 데이터 세트 모두에서 분석을 수행하여 학습된 표현의 일관성 여부를 비교하였다.

실험 결과

연구 질문

• RQ1 동일한 형상 유형을 가진 은하들이 CNN가 학습한 고차원 특징 공간에서 군집을 이룰 수 있는가?
• RQ2 다양한 형상 유형, 특히 매끄러운 은하 유형이 학습된 특징 공간에서 어떻게 상호 관련되어 있는가?
• RQ3 CNN가 학습한 특징의 t-SNE 시각화가 외관상으로는 다를 수 있는 은하 유형 간의 놀라운 구조적 유사성을 드러낼 수 있는가?
• RQ4 시각화 결과로 네트워크에 의해 잘못 분류된 은하나 이상치가 탐지될 수 있는가?
• RQ5 학습 세트와 테스트 세트 간의 특징 표현 품질에는 어떤 차이가 있으며, 이는 모델 일반화 능력에 대해 어떤 함의를 갖는가?

주요 결과

• 동일한 형상 유형을 가진 은하들이 t-SNE 시각화에서 군집을 이루는 경향이 있으며, 이는 CNN가 분류 가능한 일관성 있는 특징 표현을 학습하고 있음을 시사한다.
• 완전히 둥근 매끄러운 은하 군집과 중간형 매끄러운 은하 군집(둥근 형태와 시멘트형 사이)이 다른 군집보다 더 가까이 위치해 있어, 외관상 및 구조적으로 유사함을 시사한다.
• 시멘트형 매끄러운 은하 군집과 엣지온 은하 군집이 특징 공간에서 뚜렷이 뒤섞여 있고 겹쳐져 있어, 이들의 형상적 특징이 높은 시각적 유사성을 지닌다는 것을 나타낸다.
• 원래 데이터셋에서 나선형으로 잘못 레이블링된 은하가 완전히 둥근 매끄러운 은하 군집 내에 위치해 있음을 확인하였고, 수동 점검을 통해 실제로 둥근 매끄러운 은하임을 확인함으로써 레이블 오류 탐지의 타당성을 검증하였다.
• 시각화 결과로 얇은 나선형 은하가 엣지온 및 시멘트형 은하와 유사하게 보이며, 둘 모두 근처에 군집되어 있음을 확인하여 공통된 구조적 특징을 공유하고 있음을 시사한다.
• 희미하거나 작은 중심 은하와 같은 이상치들은 일관되게 잘못 분류되었고, 외관상으로도 명확하지 않아 형상 분류의 과제를 드러내었다.