[논문 리뷰] Deep Learning-Based Strategy for Macromolecules Classification with Imbalanced Data from Cellular Electron Cryotomography

Ziqian Luo, Xiangrui Zeng외 2명|arXiv (Cornell University)|2019. 08. 27.

Cell Image Analysis Techniques참고 문헌 43인용 수 4

한 줄 요약

이 논문은 세포 내 냉동전자 톰그래피(Cryo-ET) 데이터에서 매크로분자 복합체 분류 시 클래스 불균형 문제를 해결하기 위해 집중 손실(focal loss)과 믹스업(augmentation)을 통합한 다중경로 합성곱 신경망(CNN)을 제안한다. 부족한 클래스에 대해 전용 경로를 학습하고 앙상블 학습을 통해 통합함으로써, 불균형 데이터셋에서 뛰어난 성능을 달성하였으며, 이는 계산 생물학 분야에서 이 문제에 대해 처음으로 적용된 딥러닝 기법이다.

ABSTRACT

Deep learning model trained by imbalanced data may not work satisfactorily since it could be determined by major classes and thus may ignore the classes with small amount of data. In this paper, we apply deep learning based imbalanced data classification for the first time to cellular macromolecular complexes captured by Cryo-electron tomography (Cryo-ET). We adopt a range of strategies to cope with imbalanced data, including data sampling, bagging, boosting, Genetic Programming based method and. Particularly, inspired from Inception 3D network, we propose a multi-path CNN model combining focal loss and mixup on the Cryo-ET dataset to expand the dataset, where each path had its best performance corresponding to each type of data and let the network learn the combinations of the paths to improve the classification performance. In addition, extensive experiments have been conducted to show our proposed method is flexible enough to cope with different number of classes by adjusting the number of paths in our multi-path model. To our knowledge, this work is the first application of deep learning methods of dealing with imbalanced data to the internal tissue classification of cell macromolecular complexes, which opened up a new path for cell classification in the field of computational biology.

연구 동기 및 목표

• Cryo-ET 데이터셋에서 일부 클래스의 샘플 수가 다른 클래스에 비해 수 개체 수 주기 수준으로 훨씬 적은 불균형 문제를 해결하기 위해.
• 다양한 수의 클래스를 포함하는 불균형 생물 영상 데이터를 다룰 수 있는 유연한 딥러닝 프레임워크를 개발하기 위해.
• 기존의 불균형 데이터 전략—예: 데이터 샘플링, 백킹, 부스팅, 유전적 프로그래밍—을 새로운 CNN 아키텍처 내에서 적용하고 평가하기 위해.
• 집중 손실과 믹스업 증강 기법을 조합하여 3차원 세포 톰그래밍에서 희귀 클래스의 인식을 향상시키는 데 효과적인지 입증하기 위해.
• 근사 천연 세포 환경에서 매크로분자 복합체에 대한 딥러닝 기반 분류에 새로운 기준을 설정하기 위해.

제안 방법

• 각 경로가 특정 매크로분자 클래스에 최적화된 다중경로 CNN 아키텍처를 제안하여, 부족한 클래스의 성능을 향상시킨다.
• 학습 중에 지배적인 클래스의 영향을 줄이고 어려운 희귀 예제에 집중하기 위해 집중 손실을 통합한다.
• 입력 이미지와 레이블 간 선형 보간을 통해 합성 학습 샘플을 생성함으로써 일반화 능력을 향상시키기 위해 믹스업 데이터 증강을 적용한다.
• 각 경로에서 이진 분류 전략을 사용하여 한 클래스를 나머지 모든 클래스와 구분하도록 학습하고, 앙상블 투표를 통해 다중 클래스 예측을 통합한다.
• 사전 데이터 재가중 없이도 소수 클래스와 다수 클래스 모두에서 잘 작동하는 분류기를 도출하기 위해 유전적 프로그래밍을 활용한다.
• 목표 클래스 수에 맞게 경로 수를 조정함으로써 모델의 적응 능력을 향상시켜 다양한 생물학적 데이터셋에 유연하게 적용할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 클래스별 전용 경로를 갖는 다중경로 CNN 아키텍처가 기존 딥러닝 모델에 비해 불균형 Cryo-ET 데이터셋에서 분류 정확도를 향상시킬 수 있는가?
• RQ2 집중 손실과 믹스업 증강 기법이 3차원 세포 톰그래밍에서 클래스 불균형의 부정적 영향을 얼마나 효과적으로 완화하는가?
• RQ3 백킹, 부스팅, 유전적 프로그래밍과 같은 앙상블 전략을 다중경로 CNN과 조합하여 희귀 클래스 탐지 능력을 향상시킬 수 있는가?
• RQ4 경로 수를 조정함으로써 제안된 모델이 다양한 수의 클래스에 얼마나 일반화될 수 있는가?
• RQ5 이러한 방법이 Cryo-ET에서 매크로분자 복합체 분류에 대해 불균형 데이터 기법을 적용한 딥러닝의 첫 성공적 응용인가?

주요 결과

• 집중 손실과 믹스업을 통합한 다중경로 CNN은 불균형 Cryo-ET 데이터에서 최고 성능을 기록하여 기존의 GSVM-RU와 같은 전통적 분류기들을 뛰어넘었다.
• 경로 수를 조정함으로써 이중, 삼중, 사중 분류 과제에서 뛰어난 적응 능력을 유지하며 높은 성능을 기록하였다.
• 실험 결과, 집중 손실과 믹스업 증강을 조합한 것이 전체 분류 정확도를 가장 높였으며, 특히 희귀 매크로분자 복합체의 경우 뚜렷한 향상이 확인되었다.
• 데이터 재가중 없이도 유전적 프로그래밍 기반 분류기가 불균형 데이터를 잘 다루며 다수 클래스와 소수 클래스 모두에서 뛰어난 강건성과 일반화 능력을 보였다.
• 경로별로 독립된 이진 분류기를 도입함으로써 각 네트워크 분지가 특정 매크로분자 복합체에 특화되어 탐지 성능이 향상되었다.
• 본 연구는 Cryo-ET에서 불균형 분류를 위한 첫 번째 딥러닝 프레임워크를 확립하였으며, 계산 생물학과 구조 세포 생물학 분야에 새로운 길을 열었다.