[논문 리뷰] DCSAU-Net: A Deeper and More Compact Split-Attention U-Net for Medical Image Segmentation

Qing Xu, Ma, Zhicheng외 2명|arXiv (Cornell University)|2022. 02. 02.

Advanced Neural Network Applications인용 수 14

한 줄 요약

DCSAU-Net는 의료 영상 분할을 위한 더 깊고 더 컴act한 U-Net 아키텍처로, 주요 특징 보존(PFC) 전략과 컴팩트 스플릿-어텐션(CSA) 블록을 도입하여 특징 표현을 향상시킨다. 깊이 분리형 컨볼루션과 다중 경로 어텐션 메커니즘을 활용하여, 네 가지 의료 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하며, 특히 고품질이 낮은 영상에서 mIoU와 F1 스코어가 향상된다.

ABSTRACT

Deep learning architecture with convolutional neural network (CNN) achieves outstanding success in the field of computer vision. Where U-Net, an encoder-decoder architecture structured by CNN, makes a great breakthrough in biomedical image segmentation and has been applied in a wide range of practical scenarios. However, the equal design of every downsampling layer in the encoder part and simply stacked convolutions do not allow U-Net to extract sufficient information of features from different depths. The increasing complexity of medical images brings new challenges to the existing methods. In this paper, we propose a deeper and more compact split-attention u-shape network (DCSAU-Net), which efficiently utilises low-level and high-level semantic information based on two novel frameworks: primary feature conservation and compact split-attention block. We evaluate the proposed model on CVC-ClinicDB, 2018 Data Science Bowl, ISIC-2018 and SegPC-2021 datasets. As a result, DCSAU-Net displays better performance than other state-of-the-art (SOTA) methods in terms of the mean Intersection over Union (mIoU) and F1-socre. More significantly, the proposed model demonstrates excellent segmentation performance on challenging images. The code for our work and more technical details can be found at https://github.com/xq141839/DCSAU-Net.

연구 동기 및 목표

• 다양한 영상 복잡도에서 표준 U-Net이 충분한 저수준 및 고수준 의미적 특징을 포착하지 못하는 한계를 해결하기 위해.
• 모델 파라미터와 계산 비용을 줄이면서도 의료 영상 분할 정확도를 유지하거나 향상시키기 위해.
• 공간적 및 채널별 정보를 보존하는 어텐션 기반의 컴act한 아키텍처를 통해 다중 척도 특징 표현을 향상시키기 위해.
• 보조 감독 없이도 복잡하고 저품질의 의료 영상에서 잘 일반화되는 경량이며 학습 가능한 모델을 개발하기 위해.

제안 방법

• 깊이 분리형 컨볼루션을 사용한 주요 특징 보존(PFC) 메커니즘을 도입하여 큰 커널 크기(7×7)로 풍부한 저수준 특징을 보존하고 수신 영역을 확장한다.
• 입력 특징을 다양한 경로로 분할하고, 각 경로에 대해 채널별 어텐션을 적용하는 컴팩트 스플릿-어텐션(CSA) 블록을 제안한다.
• 더 깊은 네트워크 학습 중에 기울기 소실 문제를 완화하기 위해 PFC 및 CSA 블록 모두에 잔차 연결을 활용한다.
• 에코더와 디코더 간의 스킵 연결을 통해 고수준 및 저수준 특징을 융합하여 정밀한 국소화를 가능하게 한다.
• 초기 마스크나 윤곽 감독이 필요 없이 표준 Dice 손실을 사용하여 학습한다.
• 모델의 효율성을 높이기 위해 파라미터 수와 계산량을 최소화하면서도 높은 성능을 유지한다.

실험 결과

연구 질문

• RQ1 더 깊고 더 컴팩트한 U-Net 아키텍처가 의료 영상 분할에서 기존 최신 기술 수준 모델을 능가할 수 있는가?
• RQ2 주요 특징 보존 기법의 통합이 저수준 레이어에서 특징 표현을 어떻게 향상시키는가?
• RQ3 컴팩트 스플릿-어텐션 메커니즘이 다중 척도 특징 학습과 분할 정확도를 어느 정도 향상시키는가?
• RQ4 제안된 아키텍처는 기존 모델이 실패하는 복잡하거나 저품질의 의료 영상에서도 높은 성능을 유지하는가?
• RQ5 더 적은 파라미터와 계산량으로 더 빠른 수렴과 더 나은 일반화 성능을 달성할 수 있는가?

주요 결과

• DCSAU-Net는 CVC-ClinicDB, 2018 Data Science Bowl, ISIC-2018, SegPC-2021를 포함한 네 가지 의료 영상 분할 벤치마크에서 최신 기술 수준 성능을 달성한다.
• 기타 최신 기술 수준 방법보다 더 높은 mIoU와 F1 스코어를 기록하며, 특히 다중 클래스 분할 작업에서 뛰어난 성능을 보인다.
• 불량한 염색, 흐림, 낮은 대비성 등 도전적인 영상에서는 기준 모델 대비 더 정확하고 형태를 잘 유지하는 마스크를 생성한다.
• 초기 20 에포크 내로 다른 최신 기술 수준 방법보다 더 빠른 수렴을 보이며, 학습 효율성이 향상됨을 시사한다.
• 절단 실험 결과, PFC와 CSA 구성 요소 모두 성능 향상에 기여하며, 특히 CSA 블록이 다중 척도 특징 표현을 향상시킴을 확인한다.
• 더 깊은 구조임에도 불구하고 파라미터 수가 적고 추론 시간이 짧아 자원 제약이 있는 장치에 배포하기에 적합하다.