[논문 리뷰] Contrastive Semi-Supervised Learning for 2D Medical Image Segmentation

Prashant Pandey, Ajey Pai외 5명|arXiv (Cornell University)|2021. 06. 12.

Domain Adaptation and Few-Shot Learning참고 문헌 29인용 수 8

한 줄 요약

이 논문은 의사결정적 레이블이 부족한 2D 의료 영상 분할 문제를 해결하기 위해, 가짜 레이블이 부여된 영역에서 유도된 의미적 인식 영역 패치에 대해 대비 학습을 적용하고, 확인 편향을 완화하며 특징 클러스터링을 향상시키기 위한 새로운 일致성 정규화 기법을 결합한 대비적 준지도 학습 방법을 제안한다. 이 방법은 네 개의 공개 및 한 개의 새로운 조직병리학 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Contrastive Learning (CL) is a recent representation learning approach, which encourages inter-class separability and intra-class compactness in learned image representations. Since medical images often contain multiple semantic classes in an image, using CL to learn representations of local features (as opposed to global) is important. In this work, we present a novel semi-supervised 2D medical segmentation solution that applies CL on image patches, instead of full images. These patches are meaningfully constructed using the semantic information of different classes obtained via pseudo labeling. We also propose a novel consistency regularization (CR) scheme, which works in synergy with CL. It addresses the problem of confirmation bias, and encourages better clustering in the feature space. We evaluate our method on four public medical segmentation datasets and a novel histopathology dataset that we introduce. Our method obtains consistent improvements over state-of-the-art semi-supervised segmentation approaches for all datasets.

연구 동기 및 목표

• 2D 분할 문제에서 레이블이 제한된 의료 영상 문제를 준지도 학습을 통해 해결하고자 한다.
• 전체 영상 수준의 표현이 아닌 국소적이고 클래스에 특화된 특징에 집중하여 의료 영상의 표현 학습을 향상시키고자 한다.
• 가짜 레이블링 동안 발생하는 확인 편향을 줄이기 위해 새로운 일치성 정규화 기법을 도입하고자 한다.
• 대비 학습과 일치성 정규화를 동시에 최적화하여 특징 공간의 클러스터링을 향상시키고자 한다.
• 새로운 조직병리학 데이터셋을 포함한 다양한 의료 영상 데이터셋에서 방법의 유효성을 검증하고자 한다.

제안 방법

• 교수 모델이 생성한 가짜 레이블을 기반으로 관심 영역에서 영역 패치를 생성하여 의미적으로 관련성이 있는 패치를 확보한다.
• 의미적으로 유의미한 이러한 패치에 대해 대비 학습을 적용하여 특징 공간 내에서 동일 클래스 내의 응집성과 이질 클래스 간의 분리성을 강화한다.
• 동일한 패치의 다양한 증강에 대해 일관된 예측을 유도하는 일치성 정규화 기법을 도입하여 확인 편향을 감소시킨다.
• 학습 중 대비 손실와 일치성 정규화 손실을 동시에 최적화하여 특징 품질 향상과 모델 일반화 능력을 향상시킨다.
• 교수-학습자 프레임워크를 사용하여 교수 모델이 학습자에게 가짜 레이블을 제공하고, 학습자는 분할 및 대비 목표를 조합하여 업데이트된다.
• 의료 영상에 특화된 데이터 증강 전략을 활용하여 대비 학습을 위한 양성 및 음성 샘플 쌍을 생성한다.

실험 결과

연구 질문

• RQ1 전체 영상 수준의 대비 학습 대비 의미적 인식 패치에 대한 대비 학습이 2D 의료 영상 분할의 표현 학습에 개선을 이끌 수 있는가?
• RQ2 제안된 일치성 정규화 기법이 준지도 학습 중 확인 편향을 효과적으로 줄일 수 있는가?
• RQ3 대비 학습과 일치성 정규화의 공동 최적화가 특징 공간 내 클러스터링을 어떻게 향상시키는가?
• RQ4 이 방법은 조직병리학을 포함한 다양한 의료 영상 도메인으로 일반화되는가?
• RQ5 이 방법은 공개 및 새로 도입된 의료 분할 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하는가?

주요 결과

• 제안된 방법은 네 개의 공개 의료 영상 데이터셋에서 최신 기술 수준(SOTA) 준지도 분할 접근법보다 일관된 개선을 보였다.
• 의미적 인식 패치의 사용은 무작위 또는 전체 영상 수준의 패치 샘플링 대비 특징 표현 품질을 크게 향상시켰다.
• 새로운 일치성 정규화 기법은 확인 편향을 효과적으로 감소시켜 더 견고한 가짜 레이블링과 모델 일반화 능력을 향상시켰다.
• 새로 도입된 조직병리학 데이터셋에서도 강력한 일반화 능력을 보이며 다양한 의료 영상 도메인에의 적용 가능성을 확인했다.
• 대비 학습과 일치성 정규화의 공동 최적화는 임bedding 공간 내 특징의 더 나은 클러스터링을 이끌었으며, 이를 통해 분할 정확도 향상으로 이어졌다.
• 추가적인 추론 시간 구성 요소나 복잡한 아키텍처 수정 없이도 최신 기술 수준(SOTA) 성능을 달성했다.