[논문 리뷰] Dual-Decoder Consistency via Pseudo-Labels Guided Data Augmentation for Semi-Supervised Medical Image Segmentation

Yuanbin Chen, Tao Wang외 7명|arXiv (Cornell University)|2023. 08. 31.

Image Retrieval and Classification TechniquesComputer Science인용 수 3

한 줄 요약

이 논문은 제한된 레이블 데이터에서 성능을 햖थ기 위해 일관성 정규화와 가짜 레이블 유도 데이터 증강을 활용한 이중 디코더 아키텍처를 가진 DCPA라는 준지도 학습 의료 영상 분할 방법을 제안한다. 교사 네트워크로부터 생성된 가짜 레이블을 사용하고, 마이크스업 유사 전략을 활용해 훈련 데이터를 증강함으로써, 특히 3개의 기준 데이터셋에서 레이블이 5%일 경우에도 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

While supervised learning has achieved remarkable success, obtaining large-scale labeled datasets in biomedical imaging is often impractical due to high costs and the time-consuming annotations required from radiologists. Semi-supervised learning emerges as an effective strategy to overcome this limitation by leveraging useful information from unlabeled datasets. In this paper, we present a novel semi-supervised learning method, Dual-Decoder Consistency via Pseudo-Labels Guided Data Augmentation (DCPA), for medical image segmentation. We devise a consistency regularization to promote consistent representations during the training process. Specifically, we use distinct decoders for student and teacher networks while maintain the same encoder. Moreover, to learn from unlabeled data, we create pseudo-labels generated by the teacher networks and augment the training data with the pseudo-labels. Both techniques contribute to enhancing the performance of the proposed method. The method is evaluated on three representative medical image segmentation datasets. Comprehensive comparisons with state-of-the-art semi-supervised medical image segmentation methods were conducted under typical scenarios, utilizing 10% and 20% labeled data, as well as in the extreme scenario of only 5% labeled data. The experimental results consistently demonstrate the superior performance of our method compared to other methods across the three semi-supervised settings. The source code is publicly available at https://github.com/BinYCn/DCPA.git.

연구 동기 및 목표

• 의료 영상 데이터의 레이블이 부족한 문제를 해결하기 위해, 방사선 전문의로부터 확보하는 데 비용이 많이 들고 시간이 오래 걸리는 레이블을 줄이기 위해.
• 비라벨 데이터를 효과적으로 활용해 준지도 학습 의료 영상 분할의 일반화 및 강인성을 향상시키기 위해.
• 저데이터 환경에서 데이터 불균형과 노이즈가 많은 가짜 레이블로 인한 성능 저하를 완화하기 위해.
• 새로운 이중 디코더 아키텍처와 유도된 데이터 증강을 통해 모델의 일관성과 분할 정확도를 향상시키기 위해.
• 극도의 레이블 부족 조건, 예를 들어 레이블이 5%일 경우에도 강력하게 작동하는 견고한 프레임워크를 구축하기 위해.

제안 방법

• 공유 인코더와 학생 및 교사 네트워크를 위한 두 개의 별도 디코더를 가진 평균 교사 프레임워크를 사용한다.
• 비라벨 데이터에 대해 교사 네트워크가 가짜 레이블을 생성하고, 이를 라벨이 있는 샘플과 비라벨 샘플을 혼합하는 데이터 증강을 유도하는 데 사용한다.
• 가중 평균을 사용해 라벨이 있는 샘플과 가짜 레이블이 있는 샘플을 혼합하는 마이크스업 스타일의 데이터 증강 전략을 적용하여 훈련의 다양성을 향상시킨다.
• 두 디코더 간의 일관성 정규화를 적용하여 예측에 대한 일치를 강제함으로써 모델의 강인성을 향상시킨다.
• 온도 계수를 가진 쇼핑크 기반 함수를 적용하여 가짜 레이블의 신뢰도를 정밀하게 조정하고 경계의 명확성을 향상시킨다.
• 디코더 간 일관성 손실을 사용하고, 학생 및 교사 네트워크를 종합적으로 최적화한다.

실험 결과

연구 질문

• RQ1 일관성 정규화를 갖춘 이중 디코더 아키텍처가 저레이블 환경에서 준지도 학습 의료 영상 분할 성능을 향상시킬 수 있는가?
• RQ2 라벨 데이터가 부족한 상황에서 가짜 레이블 유도 데이터 증강이 모델의 일반화 능력을 얼마나 효과적으로 향상시키는가?
• RQ3 다양한 데이터셋에서 견고한 성능을 내기 위해 최적의 약한 증강 수와 쇼핑크 온도 계수는 얼마인가?
• RQ4 극도의 레이블 부족 조건, 예를 들어 레이블이 5%일 경우 성능은 어떻게 되는가?
• RQ5 제안된 방법이 다양한 의료 영상 분할 시나리오에서 기존 최신 기술 수준의 준지도 학습 방법을 초월할 수 있는가?

주요 결과

• DCPA는 모든 평가 설정에서 3개의 공개 의료 영상 분할 데이터셋에서 6개의 최신 기술 수준 방법을 모두 능가한다. 이는 레이블이 5%일 경우에도 포함된다.
• 레이블이 5%일 경우 DCPA는 패닉레아스-CT 데이터셋에서 83.05%의 딱스 점수를 기록하여 극도의 저데이터 환경에서도 뛰어난 성능을 보였다.
• K=2개의 약한 증강을 사용했을 때 최고의 성능을 기록했으며, 저레이블 조건에서 증강 수에 민감함을 보였다.
• 쇼핑크 함수의 온도 계수 T=0.1일 때 최고의 결과를 얻었으며, 신뢰도와 경계 명확성 간의 균형을 잘 잡았다.
• 이중 디코더 일관성 손실이 성능 향상에 크게 기여했으며, 특히 가짜 레이블 유도 데이터 증강과 조합했을 때 두드러진 효과를 보였다.
• 다양한 데이터셋과 레이블 비율에서 견고성을 보였으며, 기준 모델 대비 딱스 점수에서 일관된 향상을 보였다.