[논문 리뷰] Enhancing Pseudo Label Quality for Semi-Supervised Domain-Generalized Medical Image Segmentation

Huifeng Yao, Xiaowei Hu외 1명|arXiv (Cornell University)|2022. 01. 21.

AI in cancer detection인용 수 11

한 줄 요약

이 논문은 반도체 영상 분할에서의 도메인 일반화를 위한 신뢰도 인식형 크로스 가짜 감독 방법을 제안하며, 푸리에 변환 기반 데이터 증강 기법을 통합하여 가짜 라벨 품질을 향상시킨다. 교차 도메인 통계 패턴을 활용하고 가짜 라벨의 분산을 정규화함으로써, 도메인 레이블이 없더라도 라벨이 2%에 불과한 M&Ms 데이터셋에서 기존 방법보다 11.67% 높은 디스크 스코어를 달성하며 최신 기술 수준을 확립한다.

ABSTRACT

Generalizing the medical image segmentation algorithms to unseen domains is an important research topic for computer-aided diagnosis and surgery. Most existing methods require a fully labeled dataset in each source domain. Although some researchers developed a semi-supervised domain generalized method, it still requires the domain labels. This paper presents a novel confidence-aware cross pseudo supervision algorithm for semi-supervised domain generalized medical image segmentation. The main goal is to enhance the pseudo label quality for unlabeled images from unknown distributions. To achieve it, we perform the Fourier transformation to learn low-level statistic information across domains and augment the images to incorporate cross-domain information. With these augmentations as perturbations, we feed the input to a confidence-aware cross pseudo supervision network to measure the variance of pseudo labels and regularize the network to learn with more confident pseudo labels. Our method sets new records on public datasets, i.e., M&Ms and SCGM. Notably, without using domain labels, our method surpasses the prior art that even uses domain labels by 11.67% on Dice on M&Ms dataset with 2% labeled data. Code is available at https://github.com/XMed-Lab/EPL_SemiDG.

연구 동기 및 목표

• 미리 알 수 없는 도메인에서 테스트할 때 도메인 레이블에 접근할 수 없음에도 불구하고 도메인 이동 문제를 해결하기 위해.
• 알 수 없는 분포에서 유래한 비라벨 이미지의 가짜 라벨 품질을 향상시키기 위해.
• 각 도메인의 완전한 라벨 데이터가 필요 없이 다양한 의료 영상 도메인 간에 효과적으로 일반화되는 방법을 개발하기 위해.
• 기존의 도메인 일반화 및 반도체 학습 방법보다 성능을 유지하거나 향상시키면서 도메인 레이블 의존도를 제거하기 위해.

제안 방법

• 다양한 도메인 간 저수준 통계 정보를 추출하기 위해 푸리에 변환 기반 데이터 증강 기법을 도입하고, 비라벨 이미지를 교차 도메인 특성으로 증강한다.
• 증강된 이미지를 원본 입력과 변형된 입력 간 예측 분산을 측정하기 위한 편향으로 활용한다.
• 높은 분산을 가진 가짜 라벨에 대해 벌점을 주는 신뢰도 인식 정규화 손실을 구현하여 더 일관되고 신뢰할 수 있는 예측을 선호한다.
• 공유된 가중치를 가지되 초기화가 다른 이중 네트워크 아키텍처를 사용하여 크로스 가짜 감독 신호를 생성하고 개선한다.
• 크로스 가짜 감독과 분산 기반의 신뢰도 정규화를 조합하여 알 수 없는 도메인에서 온 비라벨 데이터의 가짜 라벨 신뢰도를 향상시킨다.
• 라벨이 있는 데이터와 신뢰도 정규화된 가짜 라벨이 부여된 비라벨 데이터를 조합하여 모델을 종단 간(end-to-end)으로 훈련시킨다.

실험 결과

연구 질문

• RQ1 알 수 없는 도메인에서 온 비라벨 의료 영상에 대해 반도체 학습 설정에서 가짜 라벨 품질을 효과적으로 향상시킬 수 있는가?
• RQ2 도메인 레이블 없이도 교차 도메인 통계 패턴을 어떻게 활용하여 가짜 라벨의 일관성을 향상시킬 수 있는가?
• RQ3 신뢰도 인식 분산 정규화가 도메인 일반화 의료 영상 분할에서 모델의 일반화 능력을 향상시키는가?
• RQ4 도메인 레이블이 가용하지 않을 경우 반도체 학습 방법이 완전히 라벨링된 학습 또는 도메인 적응 방법을 초월할 수 있는가?

주요 결과

• 제안된 방법은 라벨이 2%에 불과한 M&Ms 데이터셋에서 기존 방법보다 11.67% 높은 82.61%의 신뢰도 지수(Dice score)를 달성하며 새로운 최고 기록을 수립한다.
• M&Ms 데이터셋에서 라벨이 2%일 경우, 이전 최고 성능 방법 대비 약 12% 향상된 디스크 스코어를 기록한다.
• SCGM 데이터셋에서 라벨이 20%일 경우, 이전 최고 성능 방법 대비 디스크 스코어가 7% 향상된다.
• 제거 실험 결과 각 구성 요소—푸리에 증강, 신뢰도 인식 정규화, 크로스 가짜 감독—가 성능 향상에 기여하고 있음을 확인한다.
• 시각적 비교 결과, 이전 최고 기록 방법(Meta, Liu 등 2021b)보다 본 방법이 진짜 라벨에 더 가까운 가짜 라벨과 최종 분할 결과를 생성한다.
• 목표 도메인(예: M&Ms의 도메인 A)이 소스 도메인과 시각적으로 다를 경우에도 효과적으로 일반화되며, 도메인 이동에 대한 강력한 내성적 특성을 보여준다.