[논문 리뷰] FocalMix: Semi-Supervised Learning for 3D Medical Image Detection

Dong Wang, Yuan Zhang외 2명|arXiv (Cornell University)|2020. 03. 20.

Radiomics and Machine Learning in Medical Imaging참고 문헌 34인용 수 14

한 줄 요약

FocalMix는 3D 의료 영상 검출을 위한 새로운 반감독 학습 프레임워크로, 현대적인 SSL 기법—특히 MixMatch—를 유사한 손실 함수의 소프트 타겟 일반화, 앵커 수준의 앙상블 예측, 이중 수준의 MixUp 증강 기법을 도입하여 병변 검출에 적응시켰다. 단 400장의 레이블이 없는 CT 스캔만을 사용하여도 감독 기반 기준 대비 최대 17.3%의 상대적 성능 향상을 달성한다.

ABSTRACT

Applying artificial intelligence techniques in medical imaging is one of the most promising areas in medicine. However, most of the recent success in this area highly relies on large amounts of carefully annotated data, whereas annotating medical images is a costly process. In this paper, we propose a novel method, called FocalMix, which, to the best of our knowledge, is the first to leverage recent advances in semi-supervised learning (SSL) for 3D medical image detection. We conducted extensive experiments on two widely used datasets for lung nodule detection, LUNA16 and NLST. Results show that our proposed SSL methods can achieve a substantial improvement of up to 17.3% over state-of-the-art supervised learning approaches with 400 unlabeled CT scans.

연구 동기 및 목표

• 3D 의료 영상의 레이블링 비용이 높다는 점을 고려해, 대량의 레이블이 없는 CT 스캔을 활용함으로써 문제를 해결하고자 한다.
• 이전에 분류 작업에 집중된 현대적인 반감독 학습(SSL) 기법을 더 복잡한 3D 병변 검출 작업에 적응시키고자 한다.
• SSL을 검출 작업에 적용할 때 발생하는 주요 과제를 해결하고자 한다. 이는 포화 손실에서의 하드 레이블 처리, 바운딩 박스에 대한 의사 레이블링, 의료 영상에서의 효과적인 데이터 증강을 포함한다.
• 레이블 데이터가 제한적인 경우에도 SSL이 검출 성능을 크게 향상시킬 수 있음을 입증하고, 대량의 레이블 데이터가 존재할 때도 효과성을 유지함을 보이고자 한다.

제안 방법

• 왜곡된 클래스 분포를 고려한 소프트 타겟 훈련 레이블을 지원하는 일반화된 포화 손실을 제안하여, SSL 프레임워크와의 호환성을 확보한다.
• 회전 및 반전된 이미지 패치의 예측을 집계함으로써 레이블이 없는 데이터에 대해 강력한 의사 레이블을 생성하기 위한 앵커 수준의 앙상블 전략을 도입한다.
• 3D 의료 영상에서 공간적 및 인스턴스 수준의 구조를 유지하기 위해 이미지 수준과 객체 수준 양쪽에서 MixUp 증강을 적용한다.
• 기본으로 수정된 MixMatch 프레임워크를 사용하여, 레이블이 없는 데이터에 대해 일致성 정규화와 신뢰도 기반 의사 레이블링을 통합한다.
• 이중 단계 훈련 과정을 활용한다: 먼저 레이블이 있는 데이터로 사전 훈련을 수행한 후, 제안된 구성 요소를 사용하여 레이블이 없는 데이터와 함께 공동 최적화를 수행한다.
• 최소한의 수정으로 UDA와 같은 다른 SSL 프레임워크로의 이식 가능성을 지원한다.

실험 결과

연구 질문

• RQ1 3D 의료 영상 검출과 같은, 이전에는 분류 및 세그멘테이션에 국한되었던 작업에 대해 반감독 학습을 효과적으로 적용할 수 있는가?
• RQ2 일반적으로 객체 검출에서 사용되는 포화 손실을 어떻게 일반화하여 SSL에서 사용 가능한 소프트 레이블을 지원할 수 있는가?
• RQ3 검출 작업에서 바운딩 박스에 대한 신뢰도 높은 의사 레이블을 생성하기 위한 효과적인 전략은 무엇인가?
• RQ4 3D 의료 영상 검출에 의미 있는 방식으로 데이터 증강을 적응시켜 SSL에서 일반화 성능을 향상시킬 수 있는가?
• RQ5 제안된 방법은 대량의 레이블 데이터가 이미 존재할 경우에도 성능 향상을 유지하는가?

주요 결과

• LUNA16 데이터셋의 400장의 레이블이 없는 CT 스캔만을 사용하여 훈련했을 때, 최신 감독 기반 방법 대비 CPM 점수에서 17.3%의 상대적 향상을 달성한다.
• LUNA16의 전체 533장의 레이블이 있는 스캔과 NLST에서 확보한 3,000장의 레이블이 없는 스캔을 사용할 경우, 완전히 감독 기반 기준 CPM 점수를 89.2%에서 90.7%로 향상시킨다.
• 제거 실험을 통해 소프트 타겟 손실, 앵커 수준의 앙상블, 이중 수준의 MixUp 각각이 성능 향상에 기여하고 있음을 확인한다.
• 대량의 레이블 데이터가 존재할 때도 일관된 성능 향상을 유지함으로써, 강건성과 확장성을 입증한다.
• 제안된 프레임워크는 UDA와 같은 다른 SSL 방법으로도 최소한의 변경으로도 적용 가능하므로, 잘 일반화된다는 점을 입증한다.