[논문 리뷰] Teaching a machine to see: unsupervised image segmentation and categorisation using growing neural gas and hierarchical clustering

Alex Hocking, J. E. Geach외 2명|arXiv (Cornell University)|2015. 07. 06.

Neural Networks and Applications참고 문헌 5인용 수 8

한 줄 요약

이 논문은 사전 레이블이 없는 채로 천체 사진을 자동으로 분할하고 레이블링하는 데 있어 성장 신경 가스(GNG)와 계층적 군집화를 결합한 비지도 기계학습 프레임워크를 제안한다. 하나의 허블 프론티어 필드 이미지(아벨 2744)로 훈련된 모델은 미사용된 영역(MACS 0416.1-2403)에서 초기형 및 후기형 은하를 성공적으로 분류하여, 복잡한 은하 구조를 완전히 자동화되고 확장 가능한 방식으로 인간과 유사한 분할 및 레이블링을 수행함을 보여준다.

ABSTRACT

We present a novel unsupervised learning approach to automatically segment and label images in astronomical surveys. Automation of this procedure will be essential as next-generation surveys enter the petabyte scale: data volumes will exceed the capability of even large crowd-sourced analyses. We demonstrate how a growing neural gas (GNG) can be used to encode the feature space of imaging data. When coupled with a technique called hierarchical clustering, imaging data can be automatically segmented and labelled by organising nodes in the GNG. The key distinction of unsupervised learning is that these labels need not be known prior to training, rather they are determined by the algorithm itself. Importantly, after training a network can be be presented with images it has never 'seen' before and provide consistent categorisation of features. As a proof-of-concept we demonstrate application on data from the Hubble Space Telescope Frontier Fields: images of clusters of galaxies containing a mixture of galaxy types that would easily be recognised and classified by a human inspector. By training the algorithm using one field (Abell 2744) and applying the result to another (MACS0416.1-2403), we show how the algorithm can cleanly separate image features that a human would associate with early and late type galaxies. We suggest that the algorithm has potential as a tool in the automatic analysis and data mining of next-generation imaging and spectral surveys, and could also find application beyond astronomy.

연구 동기 및 목표

• 대규모 천문학적 조사에서 자동 이미지 분할 및 분류를 위한 비지도 기계학습 방법을 개발하기 위해.
• 사전 레이블이 없는 데이터에 의존하는 것을 제거하기 위해 알고리즘이 고유한 이미지 특징에 기반해 자동으로 레이블을 발견하고 할당할 수 있도록 하기 위해.
• 한 개의 허블 프론티어 필드 클러스터에서 훈련하고 다른 미사용된 클러스터에 적용함으로써, 모델이 데이터셋 간에 일반화할 수 있는 능력을 입증하기 위해.
• LSST 및 유클리드와 같은 페타바이트 규모의 영상 조사 분석을 가능하게 하기 위해 확장 가능하고 일관되며 자동화된 분석을 가능하게 하기 위해.
• 의료나 위성 영상과 같은 분야에서 천문학을 초월해 이 방법의 잠재력을 탐색하기 위해.

제안 방법

• 이 방법은 픽셀 데이터의 특징 공간을 인코딩하기 위해 성장 신경 가스(GNG)를 사용하여 이미지 구조의 위상적 표현을 학습한다.
• 지역 강도, 색상, 공간적 기울기 정보로부터 특징 벡터를 구성하여 형태학적 및 광학적 성질을 캡처한다.
• 유사한 특징을 그룹화하기 위해 GNG 노드에 계층적 군집화를 적용하여 이미지 분할의 기초를 형성한다.
• 노드 레이블은 군집 중심에 기반하여 할당되며, 중복을 줄이고 해석 가능성을 향상시키기 위해 재레이블링 절차가 적용된다.
• 훈련된 모델은 새로운 픽셀을 가장 가까운 GNG 노드에 매핑하고 그 노드의 군집 레이블을 상속함으로써 미사용 이미지에 적용된다.
• 알고리즘은 매우 병렬화 가능하며, 분류 시간이 이미지 크기와 선형적으로 증가하므로 대규모 데이터셋의 효율적 처리가 가능하다.

실험 결과

연구 질문

• RQ1 사전 인간 레이블이 없는 비지도 학습 접근법이 천체 사진에서 은하를 자동으로 분할하고 레이블링할 수 있는가?
• RQ2 한 은하 클러스터 영역에서 훈련된 모델이 다른 미사용 영역으로 일반화되어 초기형 및 후기형 은하를 올바르게 구분할 수 있는가?
• RQ3 성장 신경 가스와 계층적 군집화의 조합이 이미지 분할에서 형태학적 및 광학적 구조를 얼마나 잘 유지하는가?
• RQ4 알고리즘이 복잡한 은하에서 해상도가 높은 나선 팔과 부두 같은 미세하거나 모호한 특징을 어느 정도 식별할 수 있는가?
• RQ5 이 방법이 대규모 영상 조사에 적용되었을 때의 계산 효율성은 어떠하며, 페타바이트 수준의 데이터에 확장 가능한가?

주요 결과

• 모델는 아벨 2744에서의 훈련 데이터만을 사용하여 MACS 0416.1-2403 영역에서 초기형 및 후기형 은하를 성공적으로 분할하고 레이블링하여 데이터셋 간 일반화 능력을 입증했다.
• 은하 유형 간의 명확한 분리가 이루어졌으며, 렌즈 효과를 띤 특징과 부두, 나선 팔과 같은 공간적으로 해상도가 높은 구조를 인식하는 데 성공했다.
• 다양한 이미지 간에 일관된 분류가 이루어졌으며, 해상도가 높은 은하에서는 별개의 형태학적 구성 요소로 인해 이중 레이블링이 관찰되었다.
• 훈련 시간은 픽셀당 39.5밀리초였고, 표준 데스크톱에서 추론 시간은 픽셀당 1.7밀리초였으며, 이는 강력한 확장 가능성 잠재력을 시사한다.
• 이 방법은 완전히 병렬화 가능하며 GPU 계산을 통해 가속화할 수 있으며, CUDA로의 이식 작업이 진행 중이어 성능 향상을 기대할 수 있다.
• 이 방법은 스펙트럼 데이터와 같은 다른 데이터 유형으로도 일반화 가능하며, 의료, 위성, 보안 영상 분야 등 천문학을 초월해 적용 가능하다.