[논문 리뷰] Dual-Consistency Semi-Supervised Learning with Uncertainty Quantification for COVID-19 Lesion Segmentation from CT Images

Yanwen Li, Luyang Luo외 3명|arXiv (Cornell University)|2021. 04. 07.

COVID-19 diagnosis using AI참고 문헌 37인용 수 4

한 줄 요약

이 논문은 흉부 CT 영상에서 코로나19 병변 분할을 위한 불확실성 정량화를 통한 이중일致성 준지도 학습 프레임워크인 UDC-Net을 제안한다. 이는 레이블이 없는 데이터의 활용도를 높이기 위해 이미지 수준의 변환 동일성과 특징 수준의 편미네이션 불변성을 강제로 적용하며, 신뢰도와 공감 불확실성의 조합을 통해 강력한 일관성 정규화를 유도한다. 결과적으로 77.4%의 Dice 스코어를 달성하여 완전히 지도 학습된 V-Net 기반 모델(71.1%)보다 6.3% 높고, 준지도 학습 방법 중 최고 성능을 기록한다.

ABSTRACT

The novel coronavirus disease 2019 (COVID-19) characterized by atypical pneumonia has caused millions of deaths worldwide. Automatically segmenting lesions from chest Computed Tomography (CT) is a promising way to assist doctors in COVID-19 screening, treatment planning, and follow-up monitoring. However, voxel-wise annotations are extremely expert-demanding and scarce, especially when it comes to novel diseases, while an abundance of unlabeled data could be available. To tackle the challenge of limited annotations, in this paper, we propose an uncertainty-guided dual-consistency learning network (UDC-Net) for semi-supervised COVID-19 lesion segmentation from CT images. Specifically, we present a dual-consistency learning scheme that simultaneously imposes image transformation equivalence and feature perturbation invariance to effectively harness the knowledge from unlabeled data. We then quantify the segmentation uncertainty in two forms and employ them together to guide the consistency regularization for more reliable unsupervised learning. Extensive experiments showed that our proposed UDC-Net improves the fully supervised method by 6.3% in Dice and outperforms other competitive semi-supervised approaches by significant margins, demonstrating high potential in real-world clinical practice.

연구 동기 및 목표

• 흉부 CT 영상에서 코로나19 병변 분할을 위한 전문가가 레이블링한 볼륨 단위 레이블이 부족한 문제를 해결하기 위해.
• 풍부한 레이블이 없는 CT 데이터를 활용하여 준지도 학습의 효율성을 향상시키기 위해.
• 신뢰도 및 공감 불확실성을 정량화하고 통합함으로써 일관성 정규화에 통합하여 모델의 강건성을 향상시키기 위해.
• 불규칙하고 모호한 병변 윤곽을 가진 실제 임상 환경에서도 잘 일반화되는 방법을 개발하기 위해.
• 대규모 코로나19 CT 데이터셋에서 기존 준지도 학습 분할 방법을 초월하는 성능을 내기 위해.

제안 방법

• 동일한 스캔의 다중 증강된 시각을 사용하여 입력 변환에 대한 예측 일관성을 보장하는 이미지 수준의 변환 동일성 원칙을 적용하는 이중일치 학습 기법을 제안한다.
• 에코더에서 유도된 훼손된 특징을 보조 디코더에 입력하여 특징 수준의 편미네이션 불변성을 실현하며, 주 디코더와 일관된 예측을 내도록 한다.
• 다중 디코더 V-Net 아키텍처를 도입하여, 여러 디코더의 예측 결과를 바탕으로 두 가지 형태의 불확실성(신뢰도 불확실성: 예측 평균, 공감 불확실성: 예측 표준편차)을 계산한다.
• 일관성 정규화 과정에서 저신뢰도 또는 높은 변동성(일관성 없는) 예측을 걸러내기 위해 학습된 불확실성 지표 함수를 사용하여 학습 안정성을 향상시킨다.
• 레이블이 있는 데이터에는 지도 학습 손실을 적용하고, 레이블이 없는 데이터에는 일관성 손실을 적용하며, 불확실성 가중치를 통해 노이즈가 많거나 불확실한 샘플을 억제한다.
• 입력 공간과 특징 공간 양쪽에서 일관성 정규화를 적용하는 3D 다중 디코더 U-Net 기반 백본을 사용하여 강건하고 불변하는 표현을 학습한다.

실험 결과

연구 질문

• RQ1 입력 공간과 특징 공간 양쪽에서 일관성을 동시에 강제로 적용하는 이중일치 학습 기법이 자원이 제한된 환경에서 준지도 병변 분할 성능을 향상시킬 수 있는가?
• RQ2 다중 디코더 출력 기반의 불확실성 정량화가 준지도 분할에서 일관성 정규화의 신뢰성 향상에 기여하는가?
• RQ3 신뢰도와 공감 불확실성을 통합함으로써 모호한 병변 경계에서의 과적합을 줄이고 일반화 성능를 향상시킬 수 있는가?
• RQ4 제안된 방법은 제한된 레이블 데이터에서 기존 최신 준지도 분할 모델 대비 분할 정확도와 강건성 측면에서 어떻게 비교되는가?
• RQ5 실제 임상 적용 환경에서 성능을 유지하면서 레이블 데이터 의존도를 얼마나 줄일 수 있는가?

주요 결과

• UDC-Net은 77.4% ± 0.14의 Dice 스코어를 기록하여 완전히 지도 학습된 V-Net 기반 모델(71.1%)보다 6.3% 높은 성능을 달성한다.
• Mean Teacher, UA-MT, TCSM, CCT 등 다른 최신 준지도 모델보다 최소 1.8% 높은 Dice 스코어와 2.2% 높은 Jaccard 스코어를 기록한다.
• 레이블이 32장, 레이블이 없는 데이터가 140장일 때 UDC-Net은 75.0%의 Dice 스코어와 61.5%의 Jaccard 스코어를 기록하며, 레이블 데이터를 두 배로 사용한 CCT의 성능을 재현한다.
• 레이블이 65장, 레이블이 없는 데이터가 708장일 때 UDC-Net은 77.4%의 Dice 스코어와 64.5%의 Jaccard 스코어를 기록하며, 레이블이 없는 데이터를 다섯 배로 사용한 CCT보다 뛰어난 성능을 보인다.
• 모델은 평균 표면 거리(ASD)가 3.9 mm로, 비교된 모든 방법보다 유의미하게 낮아 윤곽 정확도가 뛰어나다는 것을 나타낸다.
• 절단 실험 결과, 단일 불확실성보다 병합된 이중 불확실성(신뢰도 + 공감)이 더 효과적이며, 상호보완적인 지침을 제공하고 강건성을 향상시킨다는 것이 확인되었다.