[논문 리뷰] D2A U-Net: Automatic Segmentation of COVID-19 Lesions from CT Slices with Dilated Convolution and Dual Attention Mechanism

Xiangyu Zhao, Peng Zhang외 7명|arXiv (Cornell University)|2021. 02. 10.

COVID-19 diagnosis using AI참고 문헌 30인용 수 6

한 줄 요약

이 논문은 확장 컨볼루션과 이중 주의 메커니즘(GAM 및 DAM)을 조합한 딥러닝 모델인 D2A U-Net을 제안하여 CT 영상에서 코로나19 폐 병변의 자동 분할 성능을 향상시킨다. 이 방법은 특징 표현과 수신 영역을 향상시켜 사전 학습된 ResNeXt-50 백본을 사용할 경우 0.7298의 Dice 스코어를 달성하며, 거짓 양성 결과를 크게 줄이고 재현율을 향상시킨다.

ABSTRACT

Coronavirus Disease 2019 (COVID-19) has caused great casualties and becomes almost the most urgent public health events worldwide. Computed tomography (CT) is a significant screening tool for COVID-19 infection, and automated segmentation of lung infection in COVID-19 CT images will greatly assist diagnosis and health care of patients. However, accurate and automatic segmentation of COVID-19 lung infections remains to be challenging. In this paper we propose a dilated dual attention U-Net (D2A U-Net) for COVID-19 lesion segmentation in CT slices based on dilated convolution and a novel dual attention mechanism to address the issues above. We introduce a dilated convolution module in model decoder to achieve large receptive field, which refines decoding process and contributes to segmentation accuracy. Also, we present a dual attention mechanism composed of two attention modules which are inserted to skip connection and model decoder respectively. The dual attention mechanism is utilized to refine feature maps and reduce semantic gap between different levels of the model. The proposed method has been evaluated on open-source dataset and outperforms cutting edges methods in semantic segmentation. Our proposed D2A U-Net with pretrained encoder achieves a Dice score of 0.7298 and recall score of 0.7071. Besides, we also build a simplified D2A U-Net without pretrained encoder to provide a fair comparison with other models trained from scratch, which still outperforms popular U-Net family models with a Dice score of 0.7047 and recall score of 0.6626. Our experiment results have shown that by introducing dilated convolution and dual attention mechanism, the number of false positives is significantly reduced, which improves sensitivity to COVID-19 lesions and subsequently brings significant increase to Dice score.

연구 동기 및 목표

• 변동성이 큰 병변 형태와 흐린 경계로 인해 여전히 어려움을 겪고 있는 CT 영상에서 코로나19 폐 병변의 정확하고 자동적인 분할을 해결하기 위해.
• 특징 표현과 모델 주의 메커니즘의 향상을 통해 작은 또는 명확하지 않은 병변에 대한 민감도를 높이고 거짓 양성을 줄이기 위해.
• 확장 컨볼루션과 이중 주의 모듈을 통합한 U-Net 기반 아키텍처를 개발하여 기존 최고 수준의 모델들보다 분할 성능을 향상시키기 위해.
• 모델의 성능을 오픈소스 데이터셋에서 평가하고, U-Net 변종(사전 학습되지 않은 모델 포함)과 비교하기 위해.
• 각 구성 요소(GAM, RAB, 사전 학습된 백본)의 기여도를 분석하기 위해 추론 실험을 수행하기 위해.

제안 방법

• 디코더에 확장 컨볼루션 모듈을 적용하여 수신 영역을 확장하고 다양한 크기의 병변에 대한 분할 성능을 향상시킨다.
• 새로운 게이트 주의 모듈(GAM)을 도입하여 인코더 특징과 의미가 풍부한 게이트 신호를 융합함으로써 스킵 커넥션의 정밀도를 향상시킨다.
• 디코더에 디코더 주의 모듈(DAM)을 적용하여 업샘플링된 특징 맵을 정밀하게 다듬고, 흐린 경계나 작은 병변의 표현을 향상시킨다.
• 잔차 주의 블록(RAB)은 하이브리드 확장 컨볼루션과 DAM을 결합하여 디코더에서 수신 영역를 확장하고 특징 정밀도를 동시에 향상시킨다.
• 스킵 커넥션과 디코더 특징에 대해 별도로 작용하는 이중 주의 메커니즘을 통해 인코더와 디코더 레벨 간의 의미 갭을 줄인다.
• VGG 스타일의 백본과 더 깊은 ResNeXt-50(32×4d) 백본을 모두 사용하여 전이 학습 유무에 관계없이 아키텍처를 평가한다.

실험 결과

연구 질문

• RQ1 확장 컨볼루션과 이중 주의 메커니즘의 통합이 CT 영상에서 코로나19 폐 병변의 분할 정확도를 향상시킬 수 있는가?
• RQ2 제안된 게이트 주의 모듈(GAM)은 표준 U-Net의 스킵 커넥션에 비해 특징 표현을 어떻게 향상시키는가?
• RQ3 디코더 주의 모듈(DAM)이 경계가 흐리거나 명확하지 않은 병변의 분할 성능을 얼마나 향상시키는가?
• RQ4 확장 컨볼루션과 주의 메커니즘을 통합한 잔차 주의 블록(RAB)이 병변 분할에서 표준 U-Net 블록보다 우월한가?
• RQ5 추론 실험을 통해 각 구성 요소(GAM, RAB, 사전 학습된 백본)가 전체 성능에 기여하는 정도는 어떠한가?

주요 결과

• 사전 학습된 ResNeXt-50(32×4d) 백본을 사용한 제안된 D2A U-Net은 Dice 스코어 0.7298과 재현율 스코어 0.7071을 기록하며, 최고 수준의 기존 모델들을 초월한다.
• 사전 학습된 백본 없이도 단순화된 D2A U-Net은 Dice 스코어 0.7047과 재현율 0.6626을 기록하며, 사전 학습되지 않은 인기 있는 U-Net 변종들을 뛰어넘는다.
• 추론 실험 결과, 게이트 주의 모듈(GAM)이 성능 향상에 크게 기여하며, U-Net의 Dice 스코어 0.6384에서 GAM 도입 시 0.6771로 상승한다.
• GAM과 RAB의 조합은 상호 보완적인 성능 향상을 가져오며, Dice 스코어가 0.7047로 상승하여 개별 기여도의 합을 초월한다.
• 사전 학습된 백본 사용은 성능을 추가로 향상시키며, 픽셀 오차를 0.0323에서 0.0311로 감소시키고 재현율을 0.7071로 높인다.
• 시각적 비교 결과, D2A U-Net은 U-Net, Attention U-Net, U-Net++에 비해 더 정확하고 민감한 분할 마스크를 생성하며, 특히 작은 또는 흐린 병변에 대해 뛰어난 성능을 보인다.