[논문 리뷰] Positional Contrastive Learning for Volumetric Medical Image Segmentation

Dewen Zeng, Yawen Wu외 7명|arXiv (Cornell University)|2021. 06. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 26인용 수 6

한 줄 요약

이 논문은 체적 의료 영상 분할을 위한 새로운 비지도 학습 프레임워크인 위치 대비 학습(PCL)을 제안한다. 이는 3D 볼륨 내 공간적 위치 기반으로 대조 쌍을 생성하여 거짓 음성 쌍을 감소시킨다. 인접한 슬라이스를 양성 쌍으로 간주하고 먼 슬라이스를 음성 쌍으로 간주함으로써 PCL은 표현 학습을 향상시키며, CT 및 MRI 데이터셋에서 반지도 학습 및 전이 학습 설정에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

The success of deep learning heavily depends on the availability of large labeled training sets. However, it is hard to get large labeled datasets in medical image domain because of the strict privacy concern and costly labeling efforts. Contrastive learning, an unsupervised learning technique, has been proved powerful in learning image-level representations from unlabeled data. The learned encoder can then be transferred or fine-tuned to improve the performance of downstream tasks with limited labels. A critical step in contrastive learning is the generation of contrastive data pairs, which is relatively simple for natural image classification but quite challenging for medical image segmentation due to the existence of the same tissue or organ across the dataset. As a result, when applied to medical image segmentation, most state-of-the-art contrastive learning frameworks inevitably introduce a lot of false-negative pairs and result in degraded segmentation quality. To address this issue, we propose a novel positional contrastive learning (PCL) framework to generate contrastive data pairs by leveraging the position information in volumetric medical images. Experimental results on CT and MRI datasets demonstrate that the proposed PCL method can substantially improve the segmentation performance compared to existing methods in both semi-supervised setting and transfer learning setting.

연구 동기 및 목표

• 기존 3D 의료 영상 분할을 위한 대조 학습 방법에서 발생하는 해부학적 유사성으로 인해 발생하는 높은 거짓 음성 쌍 비율을 해결하기 위해.
• 슬라이스 위치의 위치적 맥락을 통합하여 체적 의료 영상에서의 비지도 표현 학습을 향상시키기 위해.
• 라벨이 부족한 경우에도 비라벨 체적 데이터를 더 효과적으로 활용하여 최종 분할 성능을 향상시키기 위해.
• 다양한 3D 의료 영상 데이터셋에서 반지도 학습 및 전이 학습 시나리오에서 기존 대조 학습 기반 모델들을 능가하기 위해.

제안 방법

• PCL는 3D 볼륨 내에서 z축 방향의 상대적 위치에 기반해 공간적으로 가까운 슬라이스에서 양성 쌍을 생성한다.
• 먼 거리에 있는 슬라이스 간의 쌍을 음성 쌍으로 형성함으로써 해부학적 유사성으로 인한 거짓 음성 쌍의 가능성을 줄인다.
• 표준 데이터 증강(예: 회전, 자르기)을 슬라이스에 적용한 후, 표현 공간에서 대조 손실을 계산한다.
• 대조 손실은 양성 쌍의 표현을 가까이 모으고 음성 쌍의 표현을 서로 멀리 떼어내는 데 사용된다.
• PCL에서 사전 훈련된 인코더는 라벨이 매우 적은 샘플만을 사용하여 최종 분할 작업에 대해 미세조정된다.
• 프레임워크는 네 가지 3D 의료 영상 데이터셋(CHD, ACDC, MMWHS, HVSMR)에서 교차 검증 및 전이 학습 프로토콜을 사용하여 평가된다.

실험 결과

연구 질문

• RQ1 3D 의료 볼륨 내 위치 정보가 해부학적 유사성으로 인한 거짓 음성 쌍 감소를 통해 대조 학습의 품질을 향상시킬 수 있는가?
• RQ2 제한된 감독 하에서 PCL은 기존 대조 학습 방법과 비교해 분할 정확도에서 어떻게 성능을 냈는가?
• RQ3 반지도 학습 및 전이 학습 설정에서 PCL은 다양한 영상 모odalities와 해부학적 구조에 대해 잘 일반화되는가?
• RQ4 양성 쌍 선택 기준으로 공간적 근접성을 사용할 경우, 분할 기반 또는 무작위 샘플링 전략에 비해 얼마나 더 우수한 성능을 내는가?

주요 결과

• ACDC 데이터셋에서 PCL은 라벨이 2개 뿐인 조건에서 0.929의 Dice 스코어를 기록했으며, 같은 설정에서 다음으로 우수한 방법(GCL)보다 0.016 높았다.
• CHD 데이터셋에서 PCL은 GCL 대비 최대 0.04의 분할 Dice 스코어 향상을 기록했으며, 특히 라벨 수가 적은 저샷 영역(2~4개 라벨)에서 두드러진 성능 향상을 보였다.
• 전이 학습에서, CHD에서 훈련한 모델을 MMWHS로 전이할 때 PCL은 라벨이 16개 뿐인 조건에서 0.869의 Dice 스코어를 기록했으며, 최고의 베이스라인(GCL)을 0.018 초월했다.
• HVSMR에서 PCL은 8개의 라벨 샘플로 0.857의 Dice 스코어를 기록했으며, 다음으로 우수한 방법(GCL)보다 0.014 높아, 다양한 영상 프로토콜 간의 강력한 일반화 능력을 입증했다.
• SimCLR는 ACDC에서 랜덤 초기화보다 성능이 열 劣하므로, 표준 증강 기반 대조 학습은 3D 의료 데이터에서 과도한 거짓 음성 쌍을 초래함을 시사한다.
• PCL의 성능 향상은 라벨 데이터가 극히 부족할 때 가장 두드러지며, 이는 PCL가 비라벨 데이터를 효과적으로 활용하여 샘플 효율성을 향상시킨다는 것을 시사한다.