[논문 리뷰] Towards broader generalization of deep learning methods for multiple sclerosis lesion segmentation.

Reda Abdellah Kamraoui, Vinh‐Thong Ta외 4명|arXiv (Cornell University)|2020. 12. 14.

Brain Tumor Detection and Classification인용 수 4

한 줄 요약

이 논문은 다양한 임상 데이터셋에 일반화되는 다발성 경화증 병변 세분화를 위한 강건한 3D CNN 앙상블 방법인 DeepLesionBrain(DLB)을 제안한다. 계층적 전문화 학습, 이미지 품질 변동에 대한 데이터 증강, 그리고 컴act 네트워크의 앙상블를 통합함으로써 DLB는 최신 기술 수준의 일반화 성능를 달성한다 — 기존 방법보다 교차 데이터셋 벤치마크에서 승리하면서도 모odalities의 절반만 사용한다.

ABSTRACT

Recently, segmentation methods based on Convolutional Neural Networks (CNNs) showed promising performance in automatic Multiple Sclerosis (MS) lesions segmentation. These techniques have even outperformed human experts in controlled evaluation condition. However state-of-the-art approaches trained to perform well on highly-controlled datasets fail to generalize on clinical data from unseen datasets. Instead of proposing another improvement of the segmentation accuracy, we propose a novel method robust to domain shift and performing well on unseen datasets, called DeepLesionBrain (DLB). This generalization property results from three main contributions. First, DLB is based on a large ensemble of compact 3D CNNs. This ensemble strategy ensures a robust prediction despite the risk of generalization failure of some individual networks. Second, DLB includes a new image quality data augmentation to reduce dependency to training data specificity (e.g., acquisition protocol). Finally, to learn a more generalizable representation of MS lesions, we propose a hierarchical specialization learning (HSL). HSL is performed by pre-training a generic network over the whole brain, before using its weights as initialization to locally specialized networks. By this end, DLB learns both generic features extracted at global image level and specific features extracted at local image level. At the time of publishing this paper, DLB is among the Top 3 performing published methods on ISBI Challenge while using only half of the available modalities. DLB generalization has also been compared to other state-of-the-art approaches, during cross-dataset experiments on MSSEG'16, ISBI challenge, and in-house datasets. DLB improves the segmentation performance and generalization over classical techniques, and thus proposes a robust approach better suited for clinical practice.

연구 동기 및 목표

• 제어된 훈련 데이터에서는 뛰어난 성능를 보이지만, 새로운 임상 MS 데이터셋에서는 일반화 성능가 낮은 딥러닝 모델 문제를 해결하기 위해.
• 이미지 품질 인지 데이터 증강을 도입하여 특정 촬영 프로토콜에 대한 의존도를 줄이기 위해.
• 계층적 전문화를 통해 전반적인 병변 표현과 국소 병변 표현을 동시에 학습함으로써 모델의 강건성을 향상시키기 위해.
• 다양한 실제 영상 데이터에서 안정적으로 작동하는 임상적으로 실현 가능한 세분화 방법을 개발하기 위해.

제안 방법

• DLB는 개별 네트워크 실패에 대비한 예측 강건성을 향상시키기 위해 컴act 3D 컨volutional 신경망의 앙상블을 사용한다.
• 훈련 중에 새로운 이미지 품질 데이터 증강 전략을 적용하여 촬영 프로토콜의 변동에 대한 민감도를 감소시킨다.
• 계층적 전문화 학습(HSL)은 먼저 전체 뇌에서 일반적인 3D CNN을 사전 훈련한 후, 국소 병변 영역에서 특화된 네트워크를 미세 조정한다.
• 사전 훈련된 전반적 뇌 구조 지식을 병변 특화 특징에 전이하기 위해 전역 네트워크 가중치를 국소 네트워크 초기화에 사용한다.
• 사용 가능한 MRI 모달리티의 절반만 활용하지만 높은 성능를 유지하여 데이터 효율성 향상을 시사한다.
• 다양한 특화된 네트워크 간의 앙상블 평균은 분산을 감소시키고 분포 외 데이터에서의 신뢰성을 향상시킨다.

실험 결과

연구 질문

• RQ1 최신 기술 수준의 방법들과 비교해 병변 세분화에서 다양한 새로운 임상 MS 데이터셋에 대해 우수한 일반화 성능를 달성할 수 있는가?
• RQ2 계층적 전문화 학습이 다발성 경화증 병변 세분화를 위한 특징 표현을 어떻게 향상시키는가?
• RQ3 이미지 품질 데이터 증강 전략이 특정 MRI 촬영 프로토콜에 대한 모델 의존도를 어느 정도 감소시키는가?
• RQ4 컴 pact 3D CNN의 앙상블이 다발성 경화증 병변 세분화에서 도메인 이동에 대비한 강건성을 향상시키는가?
• RQ5 사용 가능한 MRI 모달리티의 절반만으로도 높은 성능를 달성하면서 일반화 성능를 유지할 수 있는가?

주요 결과

• DLB는 ISBI 2015 다발성 경화증 병변 세분화 도전 대회에서 유일한 모달리티 절반만 사용함에도 불구하고 상위 3위 성과를 기록했다.
• MSSEG'16, ISBI 도전 대회, 내부 데이터셋을 포함한 교차 데이터셋 평가에서, DLB는 전통적인 최신 기술 수준의 방법들보다 뛰어난 일반화 성능를 보였다.
• 계층적 전문화 학습 전략은 전반적인 뇌 맥락과 국소 병변 특화 특징을 동시에 학습시켜 강건성을 향상시켰다.
• 이미지 품질 데이터 증강 전략은 모델이 MRI 촬영 프로토콜의 변동에 민감도를 크게 감소시켰다.
• 컴 pact 3D CNN의 앙상블은 다양한 데이터셋에서 일관된 성능 향상과 예측 분산 감소를 제공했다.
• DLB는 훈련 중에 볼 수 없었던 데이터셋에서도 기준 방법들보다 항상 뛰어난 성능를 보였으며, 이는 강력한 일반화 능력을 확인한다.