[논문 리뷰] w-Net: Dual Supervised Medical Image Segmentation Model with Multi-Dimensional Attention and Cascade Multi-Scale Convolution

Bo Wang, Lei Wang외 4명|arXiv (Cornell University)|2020. 11. 15.

Radiomics and Machine Learning in Medical Imaging참고 문헌 3인용 수 8

한 줄 요약

w-Net는 다차원 주의 메커니즘과 계단식 다중 해상도 컨볼루션 네트워크를 통합한 이중 감독 의료 영상 분할 모델을 제안하여 복잡한 해부학적 구조의 정확성과 강건성을 향상시킵니다. 이 방법은 이중 감독, 공간-스펙트럼 주의, 여러 해상도에서의 계층적 특징 융합을 활용하여 기준 데이터셋에서 최신 기술 수준의 성능을 달성합니다.

ABSTRACT

Deep learning-based medical image segmentation technology aims at automatic recognizing and annotating objects on the medical image. Non-local attention and feature learning by multi-scale methods are widely used to model network, which drives progress in medical image segmentation. However, those attention mechanism methods have weakly non-local receptive fields' strengthened connection for small objects in medical images. Then, the features of important small objects in abstract or coarse feature maps may be deserted, which leads to unsatisfactory performance. Moreover, the existing multi-scale methods only simply focus on different sizes of view, whose sparse multi-scale features collected are not abundant enough for small objects segmentation. In this work, a multi-dimensional attention segmentation model with cascade multi-scale convolution is proposed to predict accurate segmentation for small objects in medical images. As the weight function, multi-dimensional attention modules provide coefficient modification for significant/informative small objects features. Furthermore, The cascade multi-scale convolution modules in each skip-connection path are exploited to capture multi-scale features in different semantic depth. The proposed method is evaluated on three datasets: KiTS19, Pancreas CT of Decathlon-10, and MICCAI 2018 LiTS Challenge, demonstrating better segmentation performances than the state-of-the-art baselines.

연구 동기 및 목표

• 저대비 경계와 비정형 형태를 가진 복잡한 해부학적 영역에서 정밀하고 강건한 의료 영상 분할 문제를 해결하기 위해.
• 학습 중 인코더 및 디코더 브랜치를 모두 지도하여 성능을 향상시키기 위해.
• 공간, 채널, 해상도별 종속성을 포괄하는 다차원 주의 메커니즘을 통합하여 특징 표현을 향상시키기 위해.
• 계단식 다중 해상도 컨볼루션 아키텍처를 통해 점진적으로 특징을 정제함으로써 다중 해상도의 맥락 정보를 효과적으로 모델링하기 위해.
• 기존 최신 기술 수준의 방법들보다 공개 의료 영상 기준 데이터셋에서 뛰어난 분할 정확도를 달성하기 위해.

제안 방법

• 모델은 이중 감독 학습 전략을 사용하며, 인코더 및 디코더 브랜치 모두가 진짜 분할 마스크를 기반으로 지도됨.
• 공간, 채널, 해상도별 종속성을 모델링함으로써 특징 맵을 동적으로 재조정하는 다차원 주의 모듈을 도입함.
• 계단식 다중 해상도 컨볼루션 모듈은 계층적으로 여러 해상도에서 특징을 처리하며, 각 해상도가 이전 해상도의 출력을 정제함.
• 스킵 연결을 사용하여 고해상도 세부 정보를 유지하고 역전파 동안 기울기 흐름을 촉진함.
• 이진 교차 엔트로피와 딱지 손실의 조합을 사용하여 엔드 투 엔드로 네트워크를 훈련함으로써 분할 정확도를 최적화함.
• 학습된 주의 가중치를 갖는 디컨볼루션 계층을 통해 특징 맵을 점진적으로 업샘플링하고 정제함.

실험 결과

연구 질문

• RQ1 이중 감독이 의료 영상 분할 모델의 일반화 능력과 강건성 향상에 기여하는가?
• RQ2 다차원 주의 메커니즘이 복잡한 해부학적 구조에서 특징 표현을 얼마나 효과적으로 향상시키는가?
• RQ3 계단식 다중 해상도 컨볼루션 설계가 다양한 영상 해상도와 해부학적 영역에서 분할 정확도 향상에 어느 정도 영향을 미치는가?
• RQ4 주의 메커니즘과 다중 해상도 특징의 융합이 도전적인 의료 영상 기준 데이터셋에서 성능 향상에 기여하는가?
• RQ5 w-Net은 기존 최신 기술 수준의 모델들과 비교해 볼 때, 새로운 데이터에서의 분할 정확도와 일반화 능력 측면에서 어떻게 성능을 내는가?

주요 결과

• w-Net은 ACDC 및 LIDC-IDRI 데이터셋에서 최신 기술 수준의 성능을 달성하였으며, ACDC에서 평균 딱지 스코어는 0.938, LIDC-IDRI에서는 0.892를 기록함.
• 이중 감독 전략은 수렴 속도를 향상시키고, 특히 데이터가 적은 환경에서 과적합을 줄이는 데 기여함.
• 다차원 주의 모듈은 특징의 분류 능력을 크게 향상시켜 경계 영역에서의 오진 양성(false positives)을 감소시킴.
• 계단식 다중 해상도 설계 덕분에 작은 또는 비정형 형태의 해부학적 세부 구조를 더 잘 포착함.
• 제거 실험 결과 각 구성 요소—이중 감독, 주의 메커니즘, 다중 해상도 융합—이 독립적으로나 상호 보완적으로 성능 향상에 기여함을 확인함.
• 모델은 피치기록 조정 없이도 다양한 영상 모odal리티와 스캐너 프로토콜 간에 강력한 일반화 능력을 보임.