[논문 리뷰] Pulsar Candidate Identification with Artificial Intelligence Techniques

Ping Guo, Fuqing Duan외 4명|arXiv (Cornell University)|2017. 11. 27.

Seismic Imaging and Inversion Techniques참고 문헌 17인용 수 12

한 줄 요약

이 논문은 펄서 후보 식별에서 클래스 불균형 문제를 해결하고 특징 학습을 향상시키기 위해 DCGAN+L2-SVM 프레임워크를 제안한다. 깊이 있는 합성곱 생성 적대 신경망을 사용해 현실적인 양성 샘플을 생성하고 계층적 특징을 추출한 후, L2-SVM 분류기로 분류를 수행함으로써, 두 개의 펄서 데이터셋에서 기존의 CNN과 SVM보다 뛰어난 분류 정확도를 달성한다. 이는 실제 펄서 데이터가 제한된 상황에서 효과적인 방법임을 입증한다.

ABSTRACT

Discovering pulsars is a significant and meaningful research topic in the field of radio astronomy. With the advent of astronomical instruments such as he Five-hundred-meter Aperture Spherical Telescope (FAST) in China, data volumes and data rates are exponentially growing. This fact necessitates a focus on artificial intelligence (AI) technologies that can perform the automatic pulsar candidate identification to mine large astronomical data sets. Automatic pulsar candidate identification can be considered as a task of determining potential candidates for further investigation and eliminating noises of radio frequency interferences or other non-pulsar signals. It is very hard to raise the performance of DCNN-based pulsar identification because the limited training samples restrict network structure to be designed deep enough for learning good features as well as the crucial class imbalance problem due to very limited number of real pulsar samples. To address these problems, we proposed a framework which combines deep convolution generative adversarial network (DCGAN) with support vector machine (SVM) to deal with imbalance class problem and to improve pulsar identification accuracy. DCGAN is used as sample generation and feature learning model, and SVM is adopted as the classifier for predicting candidate's labels in the inference stage. The proposed framework is a novel technique which not only can solve imbalance class problem but also can learn discriminative feature representations of pulsar candidates instead of computing hand-crafted features in preprocessing steps too, which makes it more accurate for automatic pulsar candidate selection. Experiments on two pulsar datasets verify the effectiveness and efficiency of our proposed method.

연구 동기 및 목표

• 실제 펄서 샘플의 부족으로 인한 펄서 후보 식별에서 심각한 클래스 불균형 문제를 해결하기 위해.
• 수동적인 특징 공학을 피하고 자동으로 구분 가능한 특징을 학습하는 종단간 AI 프레임워크를 개발하기 위해.
• 깊이 있는 생성 모델과 지도 학습을 활용해 펄서 후보 분류의 정확도와 강건성을 향상시키기 위해.
• 생성된 양성 샘플과 깊이 있는 특징이 분류기 성능 향상에 기여하는지 평가하기 위해.
• 향후 천문망원경인 FAST와 같은 차세대 전파 천문망원경을 위한 효율적이고 확장 가능하며 자동화된 펄서 탐색 파이프라인을 가능하게 하기 위해.

제안 방법

• 균형 잡힌 레이블이 부여된 펄서 후보 데이터를 기반으로 깊이 있는 합성곱 생성 적대 신경망(DCGAN)을 훈련하여 계층적 특징 표현을 학습한다.
• 판별기의 중간 레이어에서 최대 풀링된 활성화 맵을 추출하여 수동으로 설계한 특징 대신 깊이 있는 특징으로 사용한다.
• 이 깊이 있는 특징을 사용해 지도 학습 단계에서 L2-SVM 분류기를 훈련하여 최종 분류를 수행한다.
• 실제 펄서 후보의 현실적인 양성 샘플을 생성하기 위해 조건부 DCGAN 변형을 추가로 탐색한다.
• 프레임워크는 HTRU Medlat과 실제 펄서 및 RFI 후보가 포함된 자가 수집한 PMPS-26k 데이터셋 두 개의 데이터셋에서 평가된다.
• 최적의 성능를 위해 DCGAN을 통한 비지도 사전 훈련과 L2-SVM을 통한 지도 학습 미세조정을 조합한다.

실험 결과

연구 질문

• RQ1 DCGAN 기반 프레임워크는 펄서 후보 식별에서 클래스 불균형 문제를 효과적으로 완화할 수 있는가?
• RQ2 사전 훈련된 DCGAN 판별기에서 유도한 깊이 있는 특징을 사용할 경우, 수동으로 설계한 특징 대비 분류 정확도가 향상되는가?
• RQ3 조건부 DCGAN을 통한 현실적인 양성 샘플 생성이 후속 분류기 성능 향상에 기여하는가?
• RQ4 DCGAN+L2-SVM 프레임워크는 실제 펄서 데이터셋에서 표준 CNN 및 SVM 기준 모델보다 우수한 성능을 보이는가?
• RQ5 이 프레임워크는 데이터 품질과 복잡도가 다양한 다른 펄서 조사 데이터셋 간에 일반화 가능한가?

주요 결과

• HTRU Medlat 데이터셋에서 DCGAN+L2-SVM 프레임워크는 표준 CNN 및 RBF-SVM 기준 모델보다 높은 분류 정확도를 달성했다.
• PMPS-26k 데이터셋에서는 DCGAN+L2-SVM가 PCA+SVM 방법보다 뛰어난 성능을 보여, 데이터셋 간 강력한 일반화 능력을 입증했다.
• DCGAN 판별기에서 유도한 깊이 있는 특징 사용은 전통적인 수동으로 설계한 특징 대비 성능 향상에 크게 기여했다.
• 조건부 DCGAN을 통한 현실적인 양성 샘플 생성은 분류기가 실제 펄서와 잡음 간에 구분 능력을 더욱 향상시켰다.
• 이 프레임워크는 제한된 실제 펄서 데이터를 다룰 때 강건성과 효과성을 입증하여, 대규모 실시간 펄서 조사에 적합하다.
• 결과적으로 생성 모델과 지도 학습을 조합하는 것이 펄서 후보 식별에 있어 유망한 접근법임을 시사한다.