[논문 리뷰] Densely Connected Recurrent Residual (Dense R2UNet) Convolutional Neural Network for Segmentation of Lung CT Images

Kaushik Dutta|arXiv (Cornell University)|2021. 02. 01.

COVID-19 diagnosis using AI참고 문헌 25인용 수 6

한 줄 요약

이 논문은 폐 CT 영상 분할에서 특징 전파를 향상시키기 위해 순환 잔차 블록과 밀집 연결을 통합한 새로운 U-Net 기반 아키텍처인 Dense R2UNet을 제안한다. 잔차 학습, 순환 컨볼루션, 밀집 연결을 결합함으로써, Lung Lesion 데이터셋에서 SOTA 성능을 달성하여, DSC가 0.981 ± 0.009로 U-Net과 ResUNet을 모든 지표에서 능가한다.

ABSTRACT

Deep Learning networks have established themselves as providing state of art performance for semantic segmentation. These techniques are widely applied specifically to medical detection, segmentation and classification. The advent of the U-Net based architecture has become particularly popular for this application. In this paper we present the Dense Recurrent Residual Convolutional Neural Network(Dense R2U CNN) which is a synthesis of Recurrent CNN, Residual Network and Dense Convolutional Network based on the U-Net model architecture. The residual unit helps training deeper network, while the dense recurrent layers enhances feature propagation needed for segmentation. The proposed model tested on the benchmark Lung Lesion dataset showed better performance on segmentation tasks than its equivalent models.

연구 동기 및 목표

• 폐 CT 분할에서 annotation이 제한된 의료 영상 데이터와 클래스 불균형 문제를 해결하기 위해.
• 더 나은 분할 정확도를 위해 U-Net 기반 아키텍처에서 특징 학습과 정보 흐름을 향상시키기 위해.
• 최소한의 파라미터 증가로도 높은 성능을 유지하는 더 깊고 안정적인 네트워크를 개발하기 위해.
• 의료 영상 분할에서 잔차 학습, 순환 컨볼루션, 밀집 연결을 결합할 경우의 효과를 평가하기 위해.

제안 방법

• 깊은 네트워크의 훈련을 안정화하기 위해 잔차 블록을 사용한 U-Net 인코더-디코더 아키텍처를 사용한다.
• 각 인코더 및 디코더 블록에 순환 잔차 유닛을 적용하여 순환 과정에서 시간 단계 간 특징 재사용을 가능하게 한다.
• 같은 특징 맵 크기의 모든 레이어를 밀집 연결으로 연결하여 최대한의 특징 전파와 기울기 흐름을 촉진한다.
• 멀티스케일 특징 추출을 위해 인코더에는 2x2 최대 풀링, 디코더에는 3x3 역컨볼루션 레이어를 사용한다.
• 각 컨볼루션 후에 ReLU 활성화 함수를 적용하고, 최종 분할 확률 예측에 시그모이드 출력을 사용한다.
• 작은 데이터셋 크기로 인한 과적합을 방지하기 위해 공간 드롭아웃을 적용하고, 이진 교차 엔트로피 손실를 사용하며, DSC를 평가 지표로 사용한다.

실험 결과

연구 질문

• RQ1 표준 U-Net과 비교해 볼 때, 순환 잔차 유닛과 밀집 연결의 통합이 폐 CT 영상 분할 성능 향상에 기여하는가?
• RQ2 제안된 Dense R2UNet 아키텍처가 기존의 U-Net 변종보다 더 나은 특징 학습과 기울기 흐름을 달성하는가?
• RQ3 DSC, 정밀도, 재현율, AUC 측면에서 기준 폐 분할 데이터셋에서 모델의 성능은 어떠한가?
• RQ4 깊은 아키텍처를 사용할 경우, 공간 드롭아웃이 작은 의료 영상 데이터셋에서 과적합을 어느 정도 완화하는가?

주요 결과

• Dense R2UNet는 DSC가 0.981 ± 0.009로, U-Net(0.976 ± 0.009)과 ResUNet(0.977 ± 0.007)보다 유의미하게 높은 성능을 기록했다.
• 모델은 Jaccard 점수 0.961 ± 0.016를 기록하여 예측된 마스크와 진짜 마스크 간의 강한 겹침을 나타냈다.
• 정밀도는 0.982 ± 0.009에 도달했고, 재현율은 0.988 ± 0.018에 도달하여 참 양성 및 참 음성 영역을 높은 정확도로 식별했다.
• 민감도(재현율)와 특이도는 모두 0.98 이상이었으며, 각각 0.994 ± 0.002와 0.988 ± 0.018였고, 이는 폐 구조의 강력한 탐지 능력을 확인했다.
• 모델은 AUC가 0.989 ± 0.008를 기록하여 모든 임계값에서 뛰어난 분류 성능를 보였다.
• 그림 3의 정성적 결과는 Dense R2UNet가 진짜 마스크에 매우 가까운 분할 출력을 생성하며 경계 오류를 최소화하고 있음을 보여준다.