[논문 리뷰] Automatic Brain Tumor Segmentation with Scale Attention Network

Yading Yuan|arXiv (Cornell University)|2020. 11. 06.

Advanced Neural Network Applications참고 문헌 20인용 수 6

한 줄 요약

이 논문은 다중 모odal 3D MRI에서 자동 뇌 종양 세그멘테이션을 위한 스케일 어텐션 네트워크(SA-Net)를 제안한다. 기존 U-Net의 스킵 커넥션을 전체 스케일 스킵 커넥션으로 대체하고, 다양한 스케일의 특징을 적응적으로 가중하는 어텐션 메커니즘을 통합하였다. 이 방법은 BraTS 2020 챌린지에서 전체 종양에 대해 평균 DSC 0.8828, 종양 핵심에 대해 0.8433, 강화된 종양에 대해 0.8177을 기록하며 3위를 차지하였다.

ABSTRACT

Automatic segmentation of brain tumors is an essential but challenging step for extracting quantitative imaging biomarkers for accurate tumor detection, diagnosis, prognosis, treatment planning and assessment. Multimodal Brain Tumor Segmentation Challenge 2020 (BraTS 2020) provides a common platform for comparing different automatic algorithms on multi-parametric Magnetic Resonance Imaging (mpMRI) in tasks of 1) Brain tumor segmentation MRI scans; 2) Prediction of patient overall survival (OS) from pre-operative MRI scans; 3) Distinction of true tumor recurrence from treatment related effects and 4) Evaluation of uncertainty measures in segmentation. We participate the image segmentation challenge by developing a fully automatic segmentation network based on encoder-decoder architecture. In order to better integrate information across different scales, we propose a dynamic scale attention mechanism that incorporates low-level details with high-level semantics from feature maps at different scales. Our framework was trained using the 369 challenge training cases provided by BraTS 2020, and achieved an average Dice Similarity Coefficient (DSC) of 0.8828, 0.8433 and 0.8177, as well as 95% Hausdorff distance (in millimeter) of 5.2176, 17.9697 and 13.4298 on 166 testing cases for whole tumor, tumor core and enhanced tumor, respectively, which ranked itself as the 3rd place among 693 registrations in the BraTS 2020 challenge.

연구 동기 및 목표

• 다중 모달리틱 3D MRI 스캔에서 정확한 자동 뇌 종양 세그멘테이션에 도전하는 것은 진단, 예후 평가 및 치료 계획 수립에 있어 필수적이다.
• 표준 U-Net 아키텍처의 한계를 극복하기 위해 동일한 스케일에서만 특징 융합이 이루어지므로, 다중 스케일 정보를 충분히 활용하지 못하는 문제를 해결하고자 한다.
• 낮은 수준의 세부 정보와 높은 수준의 의미 정보를 모든 스케일에서 융합할 수 있도록 스케일 단위 스킵 커넥션을 전체 스케일 스킵 커넥션으로 대체하여 특징 통합을 향상시키고자 한다.
• 특징 스케일 간의 중요도를 적응적으로 강조하고 덜 관련성이 있는 스케일은 억제함으로써 모델의 강건성과 성능을 향상시키기 위해 어텐션 메커니즘을 도입하고자 한다.
• 제한된 GPU 자원 조건에서도 효율적인 훈련이 가능하고 파rameter 수를 줄인 상태에서 최신 기술 수준의 세그멘테이션 성능를 달성하고자 한다.

제안 방법

• 제안된 SA-Net는 인코더-디코더 아키텍처를 사용하며, 인코더의 모든 스케일에서 생성된 특징 맵을 해당 디코더 레이어에 연결하는 전체 스케일 스킵 커넥션을 통해 다중 스케일 특징 융합을 가능하게 한다.
• 스케일 어텐션 블록을 도입하여 잔차 블록 내에서 압축-확장 메커니즘을 사용해 각 스케일의 기여도를 동적으로 조정하는 특징 채널에 대한 어텐션 가중치를 학습한다.
• 모델는 3D 컨볼루션과 배치 정규화를 통한 잔차 학습을 사용하여 훈련 안정성과 기울기 흐름 향상을 도모한다.
• 369개의 BraTS 2020 훈련 케이스를 대상으로 딱딱한 손실과 교차 엔트로피 손실의 조합을 사용해 엔드 투 엔드로 훈련되며, 무작위 강도 스케일링을 통한 데이터 증강 기법이 적용된다.
• 추론 과정에서는 128×128×128 크기의 8개의 겹치는 패치를 사용하는 슬라이딩 윈도우 전략을 적용하고, 겹치는 영역에서는 출력을 평균화한 후 임계값 0.5로 이진 마스크를 생성한다.
• 검증 및 테스트 세트에서 일반화 능력과 최종 성능 향상을 위해 5폴드 교차 검증과 전체 훈련 세트에서 선택된 11개 모델의 앙상블을 사용하였다.

실험 결과

연구 질문

• RQ1 모든 스케일의 특징을 융합하는 전체 스케일 스킵 커넥션은 기존의 스케일 단위 스킵 커넥션을 사용하는 U-Net 대비 뇌 종양 세그멘테이션 정확도를 향상시킬 수 있는가?
• RQ2 특징 스케일을 적응적으로 가중하는 어텐션 메커니즘의 통합은 종양 세그멘테이션 성능과 강건성 향상에 기여하는가?
• RQ3 제안된 SA-Net는 표준 U-Net 대비 더 적은 파라미터 수와 낮은 계산 비용으로 높은 성능을 달성할 수 있는가?
• RQ4 BraTS 2020 챌린지에서 모델은 미리 보지 못한 테스트 데이터에 대해 어떻게 일반화되는가? 특히 DSC와 하우스도르프 거리 측면에서 어떻게 되는가?
• RQ5 모델 앙상블은 BraTS 2020 검증 및 테스트 세트에서 세그멘테이션 성능 향상에 얼마나 기여하는가?

주요 결과

• SA-Net는 BraTS 2020 테스트 세트에서 전체 종양에 대해 평균 DSC 0.8828, 종양 핵심에 대해 0.8433, 강화된 종양에 대해 0.8177을 기록하여 총 693개의 제출 중 3위를 차지하였다.
• 11개 모델의 앙상블는 전체 종양에 대해 95% 하우스도르프 거리를 5.2176 mm로 줄였으며, 종양 핵심에 대해선 17.9697 mm, 강화된 종양에 대해선 13.4298 mm로 개선하여 경계 정확도 향상을 보였다.
• 훈련 세트에서 5폴드 교차 검증을 통해 기준 U-Net(스케일 단위 스킵 커넥션) 대비 SA-Net이 모든 종양 영역에서 평균 DSC를 1.47% 향상시켰다.
• SA-Net는 훈련 가능한 파라미터 수를 U-Net의 1780만 개에서 1650만 개로 줄여 파라미터 효율성 향상을 입증하였다.
• 어텐션 메커니즘이 특징 스케일의 중요도를 적응적으로 조정함으로써 더 정보가 많은 특징을 강조하고 덜 관련성이 있는 특징은 억제함으로써 일반화 능력 향상에 기여하였다.
• 겹치는 패치 평균화 전략을 사용한 슬라이딩 윈도우 추론 전략은 복잡한 종양 형태를 띤 영역에서 경계 정확도 향상에 기여하였다.