[논문 리뷰] Exclusive Independent Probability Estimation using Deep 3D Fully Convolutional DenseNets: Application to IsoIntense Infant Brain MRI Segmentation

Seyed Raein Hashemi, Sanjay P. Prabhu외 2명|arXiv (Cornell University)|2018. 09. 21.

Advanced Neural Network Applications참고 문헌 16인용 수 6

한 줄 요약

이 논문은 T1/T2 강도가 유사한 이소강도 영아 뇌 MRI에서 회백질과 회색질의 분할을 향상시키기 위해 3D 전연결 밀도 네트워크(FC-DenseNet) 내에서 Fβ 손실 함수와 패치 예측 융합을 사용하는 독점적 다중 레이블 훈련 전략을 제안한다. 이 방법은 iSeg 챌린지에서 최고 성능을 기록하여, 1.4백만 파라미터만을 사용하고도 90초 미만의 추론 시간에 회백질에 대해 90.7%의 Dice 스코어를 달성했다.

ABSTRACT

The most recent fast and accurate image segmentation methods are built upon fully convolutional deep neural networks. In this paper, we propose new deep learning strategies for DenseNets to improve segmenting images with subtle differences in intensity values and features. We aim to segment brain tissue on infant brain MRI at about 6 months of age where white matter and gray matter of the developing brain show similar T1 and T2 relaxation times, thus appear to have similar intensity values on both T1- and T2-weighted MRI scans. Brain tissue segmentation at this age is, therefore, very challenging. To this end, we propose an exclusive multi-label training strategy to segment the mutually exclusive brain tissues with similarity loss functions that automatically balance the training based on class prevalence. Using our proposed training strategy based on similarity loss functions and patch prediction fusion we decrease the number of parameters in the network, reduce the complexity of the training process focusing the attention on less number of tasks, while mitigating the effects of data imbalance between labels and inaccuracies near patch borders. By taking advantage of these strategies we were able to perform fast image segmentation (90 seconds per 3D volume), using a network with less parameters than many state-of-the-art networks, overcoming issues such as 3Dvs2D training and large vs small patch size selection, while achieving the top performance in segmenting brain tissue among all methods tested in first and second round submissions of the isointense infant brain MRI segmentation (iSeg) challenge according to the official challenge test results. Our proposed strategy improves the training process through balanced training and by reducing its complexity while providing a trained model that works for any size input image and is fast and more accurate than many state-of-the-art methods.

연구 동기 및 목표

• T1 및 T2 강도에서 회백질과 회색질이 유사한 리피트레이션 시간으로 인해 약 6개월 수준의 영아 뇌 조직을 분할하는 데 도전하는 것.
• 표준 교차 엔트로피 훈련이 이소강도 조직에서의 클래스 불균형과 미세한 강도 차이를 다루는 데 한계가 있음을 극복하는 것.
• 유사도 기반 손실 함수를 사용하여 상호 배타적인 뇌 조직 클래스(CSF, GM, WM)의 정밀도와 재현율 균형을 향상시키는 훈련 전략을 개발하는 것.
• 임의의 입력 이미지 크기를 지원하는 작고 효율적인 네트워크(140만 파라미터)를 사용하여 빠르고 정확하며 확장 가능한 분할을 가능하게 하는 것.
• 기존의 DenseNet 기반 방법보다 뛰어난 성능을 내는 iSeg 챌린지에서의 최고 성능 달성

제안 방법

• 기존 모델보다 더 깊은 아키텍처, 더 많은 스킵 연결, 더 적은 파라미터(140만)를 가진 3D 전연결 밀도 네트워크(FC-DenseNet)를 사용한다.
• 한 번에 하나의 이소강도 클래스(예: WM)만 훈련하는 독점적 다중 레이블 훈련 전략을 구현하여 상호 클래스 간 혼동을 줄이고 훈련 집중도를 높인다.
• 클래스별로 조정된 β 값(Fβ 손실 함수)을 사용하여 정밀도와 재현율 균형을 맞춘다(예: CSF에 대해 β=1.5, WM 대비 GM에 대해 β=1).
• 큰 겹치는 3D 패치(128×128×128)를 사용하여 맥락 정보를 향상시키고 경계 아티팩트를 줄인다.
• 추론 시 패치 예측 융합을 적용하여 겹치는 패치 출력을 융합함으로써 내재된 데이터 증강 효과를 얻고 경계 분할 정확도를 향상시킨다.
• 초기 다운샘플링과 후기 업샘플링을 사용하여 더 큰 효과적 수신장역을 확보하고 모델 복잡도를 증가시키지 않으면서도 큰 패치 크기를 지원한다.

실험 결과

연구 질문

• RQ1 미세한 강도 차이가 있는 이소강도 영아 뇌 MRI에서 유사도 기반 Fβ 손실 함수를 사용한 독점적 다중 레이블 훈련 전략이 분할 성능을 향상시킬 수 있는가?
• RQ2 모든 클래스를 동시에가 아니라 상호 배타적인 조직 클래스(예: WM 전용)로 훈련할 경우, 3D 뇌 조직 분할에서 정밀도, 재현율, Dice 스코어에 어떤 영향을 미치는가?
• RQ3 큰 겹치는 3D 패치를 사용한 패치 예측 융합이, 특히 패치 경계나 조직 경계 근처에서 분할 정확도를 얼마나 향상시키는가?
• RQ4 더 적은 파라미터와 더 깊은 아키텍처를 가진 3D FC-DenseNet이 기존 최고 수준의 모델보다 이소강도 분할 성능을 뛰어나게 할 수 있는가? 동시에 1볼륨당 90초 이내의 빠른 추론을 유지할 수 있는가?
• RQ5 제안된 훈련 전략이 강한 강도 대비가 없는 조건에서 CSF, GM, WM 간의 클래스 불균형을 효과적으로 완화하고 일반화 능력을 향상시키는가?

주요 결과

• 제안된 독점적 다중 레이블 훈련 전략과 Fβ 손실 함수는 공식 iSeg 챌린지 테스트 세트에서 CSF에 대해 96.0%, GM에 대해 92.6%, WM에 대해 90.7%의 최고 수준의 Dice 유사도 계수(DSC)를 기록했다.
• 이 방법은 iSeg 챌린지의 모든 1라운드 및 2라운드 제출물, 특히 DenseSeg 및 HyperDenseNet과 같은 DenseNet 기반 모델들을 모두 능가했다.
• 모든 레이블 평균 DSC는 93.1%였으며, 평균 ASD는 0.26 mm, HD는 7.5 mm로 높은 정확도와 강건성을 입증했다.
• 1볼륨당 추론 시간이 90초 이내였으며, 높은 성능에도 불구하고 임상 적용에 실용적임을 입증했다.
• 시각적 평가와 정량적 지표는 독점적 다중 레이블 접근 방식이 단일 레이블 훈련 대비 이소강도 영역에서의 잘못된 분류를 크게 감소시켰음을 확인했다.
• 전연결 설계와 패치 융합 전략 덕분에 임의의 입력 크기로도 일반화 능력을 보였다.