[논문 리뷰] MA-Unet: An improved version of Unet based on multi-scale and attention mechanism for medical image segmentation

Yutong Cai, Yong Wang|arXiv (Cornell University)|2020. 12. 20.

Radiomics and Machine Learning in Medical Imaging인용 수 5

한 줄 요약

이 논문은 다중 척도 특징 융합과 이중 주의 메커니즘(공간 및 채널)을 통합한 개선된 U-Net 아키텍처인 MA-Unet을 제안한다. 이는 의료 영상 분할 성능을 향상시키기 위해 설계되었으며, 인코더-디코더 특징을 정렬하기 위해 주의 게이트를 적용하고 다양한 척도에서의 예측을 융합함으로써, 표준 U-Net보다 4.9MB의 파rameter 증가만으로도 최신 기술 수준(SOTA) 성능을 달성한다. 결과적으로 65.3%의 평균 교차율(mIoU)과 75.49%의 평균 Dice 계수(mDC)를 기록하였다.

ABSTRACT

Although convolutional neural networks (CNNs) are promoting the development of medical image semantic segmentation, the standard model still has some shortcomings. First, the feature mapping from the encoder and decoder sub-networks in the skip connection operation has a large semantic difference. Second, the remote feature dependence is not effectively modeled. Third, the global context information of different scales is ignored. In this paper, we try to eliminate semantic ambiguity in skip connection operations by adding attention gates (AGs), and use attention mechanisms to combine local features with their corresponding global dependencies, explicitly model the dependencies between channels and use multi-scale predictive fusion to utilize global information at different scales. Compared with other state-of-the-art segmentation networks, our model obtains better segmentation performance while introducing fewer parameters.

연구 동기 및 목표

• 표준 U-Net에서 인코더와 디코더 특징 간의 의미적 불일치 문제를 해결하기 위해.
• 의료 영상 분할에서 장거리 문맥적 의존성을 더 효과적으로 모델링하기 위해.
• 다양한 척도에서 전역적 문맥 정보를 통합하여 특징 표현을 향상시키기 위해.
• 모델 복잡도를 줄이면서도 분할 정확도와 내성 강도를 향상시키기 위해.
• 임상 적용에 적합한 경량이면서도 높은 정확도를 갖춘 아키텍처를 개발하기 위해.

제안 방법

• 인코더와 디코더 특징 간에 주의 게이트(AGs)를 도입하여 불필요한 영역을 동적으로 억제하고 관련 특징의 정렬을 향상시킨다.
• 공간적 주의와 채널별 주의를 결합한 이중 주의 메커니즘을 적용하여 장거리 의존성과 특징 중요도를 명시적으로 모델링한다.
• 다중 척도 특징 추출 및 예측 융합을 통해 다양한 해상도 수준에서의 문맥 정보를 활용한다.
• 파rameter 증가를 최소화하면서 성능 향상을 극대화하기 위해 주의 U-Net 기반의 경량 설계를 사용한다.
• 다중 디코더 스테이지에서의 특징을 다중 척도 예측 융합 전략을 통해 융합하여 경계 국소화 정확도를 향상시킨다.
• 학습된 주의 가중치를 갖는 스킵 커넥션을 활용하여 특징 융합을 정밀하게 조정하고 의미적 갭을 줄인다.

실험 결과

연구 질문

• RQ1 주의 메커니즘이 U-Net에서 인코더와 디코더 특징 간의 의미적 갭을 효과적으로 줄일 수 있는가?
• RQ2 다중 척도 특징 융합이 의료 영상 분할 정확도를 어떻게 향상시키는가?
• RQ3 표준 주의 메커니즘보다 이중 주의(공간 및 채널) 메커니즘이 장거리 의존성을 더 잘 모델링할 수 있는가?
• RQ4 제안된 아키텍처는 얼마나 적은 파rameter 증가로 성능 향상을 달성하는가?
• RQ5 다중 척도 및 주의 메커니즘의 통합이 미세 해부학적 경계의 더 정확하고 내성적인 분할을 이끌어내는가?

주요 결과

• MA-Unet은 의료 영상 분할 벤치마크에서 65.3%의 mIoU와 75.49%의 mDC를 기록하여, Attention U-Net(64.32% mIoU, 73.93% mDC)과 UNet++(52.32% mIoU, 62.93% mDC)을 모두 능가하였다.
• 표준 U-Net보다 파rameter 크기가 4.9MB 뿐 증가했음에도 불구하고 mIoU는 0.98% 향상되고 mDC는 1.56% 향상되었다.
• Attention U-Net보다는 훨씬 적은 파rameter(98.5MB 감소)로도 더 높은 mIoU와 mDC를 달성하였다.
• 시각적 결과는 MA-Unet이 폐암 및食도암 영상에서 미세한 디테일을 잘 유지하고 미세 경계를 정확하게 분할함을 보여주었다.
• 다중 척도 융합 메커니즘은 고해상도 공간적 디테일과 고수준 의미적 특징을 효과적으로 융합하여 전체 분할 품질을 향상시켰다.
• 이중 주의 메커니즘은 관련 영역을 효과적으로 강조하고 노이즈를 억제하여 모델의 내성 강도와 국소화 정확도를 향상시켰다.