[논문 리뷰] Dual-Task Mutual Learning for Semi-Supervised Medical Image Segmentation

Yichi Zhang, Jicong Zhang|arXiv (Cornell University)|2021. 03. 08.

Advanced Neural Network Applications참고 문헌 28인용 수 9

한 줄 요약

이 논문은 이중 작업 상호 학습 프레임워크를 제안하여 반감독 의료 영상 분할을 수행한다. 이는 두 개의 네트워크를 동시에 훈련시켜 분할 확률 맵과 부호 거리 맵을 예측함으로써 상호 보완적 학습과 기하학적 형태 정규화를 가능하게 한다. 비라벨 데이터에 대해 교차 작업 일致성을 강제함으로써, 기존 방법들을 능가하는 최신 기술 수준의 성능을 달성하였으며, 왼쪽 심방 분할 데이터셋에서 라벨이 부여된 스캔 16장과 비라벨 스캔 64장만을 사용하여 Dice 점수 90.12%를 기록하였다.

ABSTRACT

The success of deep learning methods in medical image segmentation tasks usually requires a large amount of labeled data. However, obtaining reliable annotations is expensive and time-consuming. Semi-supervised learning has attracted much attention in medical image segmentation by taking the advantage of unlabeled data which is much easier to acquire. In this paper, we propose a novel dual-task mutual learning framework for semi-supervised medical image segmentation. Our framework can be formulated as an integration of two individual segmentation networks based on two tasks: learning region-based shape constraint and learning boundary-based surface mismatch. Different from the one-way transfer between teacher and student networks, an ensemble of dual-task students can learn collaboratively and implicitly explore useful knowledge from each other during the training process. By jointly learning the segmentation probability maps and signed distance maps of targets, our framework can enforce the geometric shape constraint and learn more reliable information. Experimental results demonstrate that our method achieves performance gains by leveraging unlabeled data and outperforms the state-of-the-art semi-supervised segmentation methods.

연구 동기 및 목표

• 큰 규모의 레이블이 부여된 의료 영상 데이터에 대한 의존도를 줄이기 위해, 이를 확보하는 데 비용과 시간이 많이 들기 때문이다.
• 풍부한 비라벨 데이터를 효과적으로 활용하여 반감독 의료 영상 분할 성능을 향상시키기 위해.
• 노이즈가 포함된 애너테이션을 유발할 수 있는 편의적 라벨링 방법의 한계를 해결하기 위해.
• 두 개의 서로 다른 그러나 상호 보완적인 작업 간의 협동 학습을 통해 모델의 강건성과 일반화 능력을 향상시키기 위해.

제안 방법

• 프레임워크는 두 개의 별도 네트워크로 구성되며, 하나는 분할 확률 맵 예측(의미 분할 작업)을 위해, 다른 하나는 부호 거리 맵 회귀(기하학적 형태 제약 작업)를 위해 사용된다.
• 양 네트워크는 라벨이 부여된 데이터에 대해 지도 학습 손실을 적용함으로써 안정적인 초기화와 작업별 표현 학습을 보장한다.
• 비라벨 데이터에 대해 비지도 교차 작업 일치 손실을 적용하여, 동일한 입력에 대해 두 네트워크의 예측 간 일致성을 강제한다.
• 부호 거리 맵의 사용은 경계 기하학을 코딩하고 형태 정규화를 지원하는 미분 가능하고 연속적인 감독 신호를 제공한다.
• 상호 학습은 작업 수준의 지식 교환을 통해 달성되며, 각 네트워크가 다른 네트워크의 예측을 정렬함으로써 상호로 향상된다.
• 두 출력을 통합된 훈련 목표로 통합하여 기하학적 일치성을 강화하고, 제한된 애너테이션에서도 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 분할 확률 맵과 부호 거리 맵의 공동 학습이 반감독 의료 영상 분할 성능을 향상시킬 수 있는가?
• RQ2 의미 분할과 경계 기하학 모델링이라는 서로 다른 두 작업 간의 상호 학습이 모델 일반화 능력을 어떻게 향상시키는가?
• RQ3 교차 작업 일치 정규화를 통해 비라벨 데이터를 얼마나 효과적으로 활용할 수 있는가?
• RQ4 제안된 이중 작업 프레임워크가 기존 최신 기술 수준의 반감독 분할 방법보다 분할 정확도와 강건성 측면에서 뛰어나게 성능을 발휘하는가?

주요 결과

• 제안된 방법은 라벨이 부여된 스캔 16장과 비라벨 스캔 64장만을 사용하여 왼쪽 심방 분할 데이터셋에서 Dice 점수 90.12%를 달성하였으며, 비교된 모든 최신 기술 수준의 방법들을 능가하였다.
• 각 작업을 별도로 훈련한 경우(각각 89.54% 및 89.65%)와 비교해 성능 향상이 유의미하게 높았으며(p < 0.05), 통계적으로 유의미한 개선이 있었다.
• 평균 표면 거리(ASD)는 1.82 박자, 95% 평균 하우스도르프 거리(95HD)는 7.01 박자로 감소하여 경계 정확도 향상을 보였다.
• 시각적 비교 결과, 제안된 방법이 기준 방법보다 진짜 값에 더 높은 겹침을 보이는 분할 마스크를 생성하였다.
• 제거 실험 결과, 교차 작업 일치 손실을 제거할 경우 성능 저하가 발생하여, 이 손실이 지식 전이 과정에서 핵심적인 역할을 함을 입증하였다.
• 라벨 데이터의 20%만으로도 근접한 상한 성능(91.14% Dice)을 달성하여 높은 데이터 효율성을 입증하였다.