[논문 리뷰] Channel prior convolutional attention for medical image segmentation

Hejun Huang, Zuguo Chen외 3명|arXiv (Cornell University)|2023. 06. 08.

Advanced Neural Network Applications인용 수 12

한 줄 요약

채널 프라이어 컨볼루션 주의(CPCA)를 도입하여 의료 영상 분할에서 동적 채널 및 공간 주의력을 가능하게 하며 CPCANet에 통합, ACDC 및 피부 병변 데이터셋에서 더 낮은 계산으로 더 높은 Dice 점수 달성.

ABSTRACT

Characteristics such as low contrast and significant organ shape variations are often exhibited in medical images. The improvement of segmentation performance in medical imaging is limited by the generally insufficient adaptive capabilities of existing attention mechanisms. An efficient Channel Prior Convolutional Attention (CPCA) method is proposed in this paper, supporting the dynamic distribution of attention weights in both channel and spatial dimensions. Spatial relationships are effectively extracted while preserving the channel prior by employing a multi-scale depth-wise convolutional module. The ability to focus on informative channels and important regions is possessed by CPCA. A segmentation network called CPCANet for medical image segmentation is proposed based on CPCA. CPCANet is validated on two publicly available datasets. Improved segmentation performance is achieved by CPCANet while requiring fewer computational resources through comparisons with state-of-the-art algorithms. Our code is publicly available at \url{https://github.com/Cuthbert-Huang/CPCANet}.

연구 동기 및 목표

• 의료 영상 분할에서 저대비와 장기 형태 변이로 더 적응적인 주의 메커니즘 필요성을 동기화.
• CPCA를 제안하여 채널 및 공간 차원에서 주의를 동적으로 분배하면서 채널 프라이어를 보존.
• CPCA를 CPCANet 분할 네트워크에 통합하고 심장 및 피부 병변 분할을 위한 두 공개 데이터셋에서 평가.
• 최첨단 방법과 비교해 더 낮은 계산 비용으로 분할 성능 향상 입증.

제안 방법

• 채널 주의에 이어 공간 주의를 순차적으로 적용하여 Channel Prior Convolutional Attention (CPCA) 제안.
• 다중 해상 수용 필드를 가진 단일 채널별 공간 맵을 생성하는 깊이별 합성곱 기반 다지점 공간 주의 모듈 사용.
• 공유 MLP를 이용한 평균 풀링 및 최대 풀링으로 채널 서술자를 얻어 채널 주의 계산.
• 채널 주의 맵과의 원소별 곱으로 채널 프라이어를 얻고, 깊이별 합성곱을 적용하여 공간 주의 맵 도출.
• 채널 혼합과 최종 피처 재가중화를 통해 정제된 피처를 얻고, 이를 융합.
• 자체 주의(self-attention)를 CPCA로 대체하고 CNN 기반 경량 디코더를 사용하는 ViT 유사 인코더로 CPCANet 구축; 4단계 인코더–디코더 피라미드 사용.

실험 결과

연구 질문

• RQ1 CPCA가 낮은 대조의 의료 영상에서 분할을 개선하는 동적 per-channel 공간 주의를 제공할 수 있는가?
• RQ2 CPCA를 CNN 디코더와 함께 Vision Transformer 백본에 통합하면 기존의 CNN/Transformer 하이브리드보다 정확도와 효율이 더 나은가?
• RQ3 의료 데이터셋에서 CPCA가 CBAM과 SE에 비해 분할 정확도 및 계산 비용 측면에서 어떤 차이가 있는가?
• RQ4 CPCA의 성능에 가장 영향을 주는 아키텍처 선택(커널 크기, 채널 혼합, 디코더 설계)은 무엇인가?

주요 결과

방법	평균 DSC	RV DSC	Myo DSC	LV DSC	FLOPs (G)	DSC↑	HD95↓
TransUNet	89.71	-	88.86	84.54	24.73
SwinUNet	90.00	-	88.55	85.62	95.83
MT-UNet	90.43	-	86.64	89.04	44.79
MISSFormer	90.86	-	89.55	88.04	-
UNet-2022	92.21	2.555	90.07	90.49	18.00
nnUNet	92.40	1.225	90.67	90.40	14.22
CPCANet(ours)	92.60	1.097	91.01	90.52	10.62

• CPCANet은 자동화된 심장 진단(A-CDC) 및 피부 병변 분할에서 여러 기준선보다 더 높은 평균 Dice 유사 계수(DSC)를 달성하면서 FLOPs를 낮춤.
• ACDC에서 CPCANet 평균 DSC = 92.60%로 HD95 = 1.097 mm, FLOPs = 10.62 G로 nnUNet보다 정확도와 효율성 모두에서 우수.
• 피부 병변 분할에서 CPCANet가 DSC = 93.7% 및 IoU = 88.8%를 달성하여 nnUNet 및 BAT 기준선보다 우수.
• 분리형 채널 주의가 공간 매핑의 동적 특성에서 핵심임을 확인하는 변수 제거 실험에서 CPCA가 순차적 채널 주의가 단일 또는 병렬 주의보다 우수하다는 점을 보임.
• 공간 주의 분기들의 커널 크기 선택([7,11,21] 등)가 최상의 성능을 보이며, 채널 혼합이 DSC 및 영역 집중을 크게 향상시킴.
• 인코더에서 Self-attention을 CPCA로 대체하고 CNN 디코더를 사용하면 계산 요구량이 낮아지면서도 강력한 성능을 보임.