[논문 리뷰] CMUNeXt: An Efficient Medical Image Segmentation Network based on Large Kernel and Skip Fusion

Fenghe Tang, Jianrui Ding외 3명|arXiv (Cornell University)|2023. 08. 02.

Advanced Neural Network Applications인용 수 9

한 줄 요약

CMUNeXt는 큰 커널 깊이별 합성곱을 사용하고 역 bottleneck 및 Skip-Fusion 블록으로 글로벌 컨텍스트를 효율적으로 포착하고 인코더-디코더 특징을 융합하는 경량의 완전 합성곱 U-형 의료 영상 분할 네트워크로, 초음파 데이터셋에서 낮은 계산량과 빠른 추론으로 강력한 정확도를 달성합니다.

ABSTRACT

The U-shaped architecture has emerged as a crucial paradigm in the design of medical image segmentation networks. However, due to the inherent local limitations of convolution, a fully convolutional segmentation network with U-shaped architecture struggles to effectively extract global context information, which is vital for the precise localization of lesions. While hybrid architectures combining CNNs and Transformers can address these issues, their application in real medical scenarios is limited due to the computational resource constraints imposed by the environment and edge devices. In addition, the convolutional inductive bias in lightweight networks adeptly fits the scarce medical data, which is lacking in the Transformer based network. In order to extract global context information while taking advantage of the inductive bias, we propose CMUNeXt, an efficient fully convolutional lightweight medical image segmentation network, which enables fast and accurate auxiliary diagnosis in real scene scenarios. CMUNeXt leverages large kernel and inverted bottleneck design to thoroughly mix distant spatial and location information, efficiently extracting global context information. We also introduce the Skip-Fusion block, designed to enable smooth skip-connections and ensure ample feature fusion. Experimental results on multiple medical image datasets demonstrate that CMUNeXt outperforms existing heavyweight and lightweight medical image segmentation networks in terms of segmentation performance, while offering a faster inference speed, lighter weights, and a reduced computational cost. The code is available at https://github.com/FengheTan9/CMUNeXt.

연구 동기 및 목표

• 경계/임상 제약에서 경량 의료 분할에서 글로벌 컨텍스트 추출의 필요성에 대한 동기 부여.
• 대형 커널 블록과 역 bottleneck 설계로 효율적인 글로벌 정보 혼합을 위한 완전 합성곱 CMUNeXt 아키텍처를 제안.
• Smooth하고 효과적인 인코더-디코더 특징 융합을 가능하게 하는 Skip-Fusion 블록 도입.
• CMUNeXt가 초음파 유방 및 갑상선 데이터셋에서 계산 대비 정확도 측면에서 우수한 성능을 달성함을 입증하고 오픈 소스 코드 및 벤치마크를 제공.

제안 방법

• CMUNeXt 블록 도입: residual 구성에서 GELU 및 BatchNorm이 있는 두 개의 역 bottleneck 포인트와 함께 깊이별 대형 커널 합성곱.
• 표준 스킵 연결을 Skip-Fusion 블록으로 교체: 인코더-디코더 특징 융합을 위한 두 개의 역 bottleneck 포인트와 함께 그룹 합성곱.
• 스템(stem)으로부터 다섯 수준의 U-형 인코더-디코더를 사용하고, 디코더에서 최대 풀링으로 다운샘플링, 바이리니어 업샘플링을 적용.
• 데이터 증강을 사용한 256x256 크기로 resized된 이미지에서 BCE와 Dice 손실의 결합과 표준 SGD 최적화로 학습.
• 정확도와 계산량의 균형을 맞추기 위해 서로 다른 채널 구성과 커널 설정을 가진 세 가지 CMUNeXt 변형(S, L, baseline) 제공.

실험 결과

연구 질문

• RQ1 대형 커널을 갖춘 완전 합성곱 경량 네트워크가 초음파 데이터에서 Transformer 기반 및 무거운 CNN 기반의 의료 분할 모델과 동등하거나 더 나은 성능을 낼 수 있는가?
• RQ2 제안된 CMUNeXt 블록이 U-Net 유사 아키텍처에서 최소 매개변수로 효과적인 글로벌 컨텍스트 결합을 가능하게 하는가?
• RQ3 Skip-Fusion 블록이 엣지 디바이스 제약하에서 인코더-디코더 특징 융합 및 전반적인 분할 성능을 향상시키는가?
• RQ4 CMUNeXt 변형들이 서로 다른 초음파 데이터셋에서 정확도, 매개변수 수, FLOPs, FPS를 어떻게 균형 있게 트레이드오프하는가?

주요 결과

• CMUNeXt는 무거운 벤치마크보다 더 적은 매개변수와 더 낮은 계산으로 최첨단 세분화 성능에 근접하거나 이를 능가한다.
• CMUNeXt-S는 ultrasound 데이터셋에서 경쟁력 있는 IoU 및 F1 점수와 함께 빠른 추론(FPS가 높음)을 제공한다.
• CMUNeXt-L은 CMU-Net 및 TransUNet에 비해 매개변수 및 FLOPs를 줄이면서도 FPS를 증가시키며 강력한 성능을 제공한다.
• 변형 연구에서 전통적인 컨벌루션을 CMUNeXt 블록으로 대체하고 Skip-Fusion 블록을 추가하면 점진적으로 분할 정확도가 향상되고 효율성은 유지된다.
• 인덕티브 바이어스가 보존된 대형 커널 합성곱은 의료 영상에서 글로벌 컨텍스트를 효과적으로 포착하여 병변 위치 지정을 정밀하게 돕는다.
• 다양한 데이터셋에서 U-Net 및 UNeXt와 비교했을 때 CMUNeXt의 학습 안정성이 향상되고 수렴 속도가 빨라진다.