[논문 리뷰] Heterogeneity Loss to Handle Intersubject and Intrasubject Variability in Cancer

Shubham Goswami, Suril Mehta외 3명|arXiv (Cornell University)|2020. 03. 06.

Digital Imaging for Blood Diseases인용 수 11

한 줄 요약

이 논문은 B-ALL 진단을 위한 딥러닝에서 이종성(variability)을 다루기 위해 이종성 손실 함수와 새로운 앙상블 전략을 제안한다. 주제별 특징 정규화와 신뢰도 기반 투표 앙상블를 통합함으로써, C-NMC 2019 테스트 세트에서 최신 기준인 95.26%의 가중 F1 스코어를 달성하여 이전 방법들을 능가한다.

ABSTRACT

Developing nations lack adequate number of hospitals with modern equipment and skilled doctors. Hence, a significant proportion of these nations' population, particularly in rural areas, is not able to avail specialized and timely healthcare facilities. In recent years, deep learning (DL) models, a class of artificial intelligence (AI) methods, have shown impressive results in medical domain. These AI methods can provide immense support to developing nations as affordable healthcare solutions. This work is focused on one such application of blood cancer diagnosis. However, there are some challenges to DL models in cancer research because of the unavailability of a large data for adequate training and the difficulty of capturing heterogeneity in data at different levels ranging from acquisition characteristics, session, to subject-level (within subjects and across subjects). These challenges render DL models prone to overfitting and hence, models lack generalization on prospective subjects' data. In this work, we address these problems in the application of B-cell Acute Lymphoblastic Leukemia (B-ALL) diagnosis using deep learning. We propose heterogeneity loss that captures subject-level heterogeneity, thereby, forcing the neural network to learn subject-independent features. We also propose an unorthodox ensemble strategy that helps us in providing improved classification over models trained on 7-folds giving a weighted-$F_1$ score of 95.26% on unseen (test) subjects' data that are, so far, the best results on the C-NMC 2019 dataset for B-ALL classification.

연구 동기 및 목표

• 딥러닝 모델의 일반화를 방해하는 B-ALL 의료 영상 데이터셋 내 이종성(variability)을 해결하기 위해.
• 새로운 손실 함수를 통해 주제별로 독립적인 특징을 학습함으로써, 새로운 주제에 대해 모델의 일반화 성능을 향상시키기 위해.
• 불균형하고 주제가 다양한 데이터에서 분류 성능을 향상시키기 위한 강력한 앙상블 전략을 개발하기 위해.
• 특히 새로운 주제에서의 테스트 데이터에서 최신 기준의 성능을 달성하기 위해 C-NMC 2019 B-ALL 분류 벤치마크에서 최고의 성능을 내기 위해.

제안 방법

• 주제 수준 및 클래스 수준의 특징 편향에 대비해 정규화하기 위해 이종성 손실 함수 $\mathcal{L}_H = \mathcal{L}_{CE} + \mathcal{L}_{C_{\text{subject}}} + \mathcal{L}_{C_{\text{class}}} + \mathcal{L}_{C_{\text{subject-class}}}$ 를 제안한다.
• 동일 주제의 이미지 간 특징 분산을 최소화하기 위해 $\mathcal{L}_{C_{\text{subject}}}$ 를 도입하여 주제에 강인한 표현을 촉진한다.
• 학습 및 테스트 주제 간 데이터 泄漏를 방지하기 위해 주제 수준의 7겹 교차검증 분할을 기반으로 일곱 개의 Inception-v3 모델을 훈련시킨다.
• 하이브리드 앙상블 전략을 적용: 높은 신뢰도 예측(임계값 $\theta \geq 0.90$)에는 최대 투표(max-voting), 낮은 신뢰도 예측에는 조화 평균 투표(harmonic mean voting)를 사용하여 강건성을 향상시킨다.
• 손실 함수의 효과를 검증하기 위해 T-SNE 시각화와 수렴도를 활용한다.
• 색소 분리(deconvolution)를 적용하여 색상 변동을 정규화하고, 실제 운영 환경을 시뮬레이션하기 위해 이미지 수준이 아닌 주제 수준의 학습-테스트 분할만을 사용한다.

실험 결과

연구 질문

• RQ1 주제 수준의 이종성을 명시적으로 모델링하는 손실 함수가 B-ALL 분류에서 일반화 성능 향상에 기여하는가?
• RQ2 손실 함수에 주제 내 및 주제 간 변동성을 통합할 경우, 새로운 주제에서의 모델 성능에 어떤 영향을 미치는가?
• RQ3 최대 투표와 조화 평균 투표를 조합한 하이브리드 앙상블 전략이 불균형하고 주제가 다양한 데이터에서 강건성과 F1 스코어 향상에 기여하는가?
• RQ4 이미지 수준이 아닌 주제 수준에서 학습 및 평가를 수행할 경우, 의료 영상 분류에서 더 나은 일반화 성능를 달성하는가?

주요 결과

• 제안된 이종성 손실 함수는 주제별 특징에 대한 과적합을 줄임으로써 모델의 일반화 성능을 크게 향상시킨다.
• 하이브리드 앙상블 전략은 C-NMC 2019 최종 테스트 세트에서 가중 F1 스코어 95.26%를 달성하여 지금까지 보고된 바 중 최고 성능이다.
• 이전 최신 기준 모델들(ResNet, DenseNet, 앙상블 아키텍처 포함)을 모두 이 벤치마크에서 앞서며 성능을 뛰어넘었다.
• 손실 함수에 $\mathcal{L}_{C_{\text{subject}}}$ 를 포함시킴으로써 표준 크로스 엔트로피 손실 대비 가중 F1 스코어가 4.3% 향상되었다.
• T-SNE 시각화 결과는 이종성 손실을 사용할 경우 더 구분력 있고 분리된 특징을 학습하는 것을 확인한다.
• 모델은 새로운 주제에 대해 효과적으로 일반화되며, 7겹 교차검증 세트와 최종 테스트 세트에서 일관된 성능을 보여주었다.