[논문 리뷰] Self-Learning to Detect and Segment Cysts in Lung CT Images without Manual Annotation

Ling Zhang, Vissagan Gopalakrishnan외 4명|arXiv (Cornell University)|2018. 01. 25.

Radiomics and Machine Learning in Medical Imaging참고 문헌 10인용 수 6

한 줄 요약

이 논문은 수동 레이블링 없이 폐 CT 영상에서 낭종 탐지 및 분할을 위한 자기학습 프레임워크를 제안한다. 초기 분할은 비지도 K-means 군집화와 그래프 컷을 사용하여 수행되며, 이후 U-Net 모델을 자신의 예측 결과를 가짜 레이블로 사용하여 반복적으로 학습함으로써 점차 향상된 성능을 달성한다. 이는 초기 비지도 기반 성능을 뛰어넘고, 검증되지 않은 데이터에서 반자동 방법보다도 뛰어난 성능을 보인다.

ABSTRACT

Image segmentation is a fundamental problem in medical image analysis. In recent years, deep neural networks achieve impressive performances on many medical image segmentation tasks by supervised learning on large manually annotated data. However, expert annotations on big medical datasets are tedious, expensive or sometimes unavailable. Weakly supervised learning could reduce the effort for annotation but still required certain amounts of expertise. Recently, deep learning shows a potential to produce more accurate predictions than the original erroneous labels. Inspired by this, we introduce a very weakly supervised learning method, for cystic lesion detection and segmentation in lung CT images, without any manual annotation. Our method works in a self-learning manner, where segmentation generated in previous steps (first by unsupervised segmentation then by neural networks) is used as ground truth for the next level of network learning. Experiments on a cystic lung lesion dataset show that the deep learning could perform better than the initial unsupervised annotation, and progressively improve itself after self-learning.

연구 동기 및 목표

• 낭종성 폐 병변에 대한 의료 영상 분할에서 높은 레이블링 비용과 전문가 레이블 데이터의 부족 문제를 해결하기 위해.
• 모든 수동 픽셀, 희소 또는 영상 수준의 레이블이 필요 없이 매우 약한 지도 학습 방법을 개발하기 위해.
• 비지도 분할에서 시작하여 자기학습을 통해 반복적으로 성능을 향상시키는 딥 러닝 모델을 가능하게 하기 위해.
• 딥 러닝 모델이 초기 가짜 레이블의 품질을 뛰어넘어 점차 분할 성능을 개선할 수 있는지 평가하기 위해.

제안 방법

• 초기 분할은 픽셀 강도와 국소 윈도우 통계량을 기반으로 한 공간적 K-means 군집화를 사용하고, 제곱 강도 차이를 근거로 하는 데이터 항목과 δ = 0.003를 갖는 부드러움 항목을 포함한 그래프 컷 최적화를 수행한다.
• 비지도 방법(SK-GC)에서 유도된 가짜 레이블이 U-Net 분할 네트워크의 학습 타겟으로 사용된다.
• 세 번의 연속된 U-Net 모델(UNet-level1에서 UNet-level3까지)이 순차적으로 학습되며, 각 후속 모델은 이전 모델의 예측 결과를 가짜 레이블로 사용한다.
• 학습률은 UNet-level1에 대해 1×10⁻⁷로 초기화하고, 이후 각 레벨에서 10배씩 감소시키며, 각 모델에 대해 50,000회 반복하고 미니배치 크기는 1로 설정한다.
• 딥 러닝이 원래 학습 레이블보다 더 나은 예측을 생성할 수 있다는 가설을 활용하여, 반복적 개선을 통해 자기 향상이 가능하도록 한다.
• 학습은 166개의 CT 볼륨에서 수행되며, 검증용으로 17개 볼륨을 별도로 보존한다; 성능 평가에는 Dice 계수와 낭종 점수의 절대 차이(ADCS)를 사용한다.

실험 결과

연구 질문

• RQ1 수동 레이블링 없이 딥 러닝 모델이 초기 비지도 분할 방법보다 더 나은 분할 성능을 달성할 수 있는가?
• RQ2 모델 예측 결과를 가짜 레이블로 사용한 순차적 자기학습이 낭종 분할 정확도를 점진적으로 향상시키는가?
• RQ3 전문가 레이블링 데이터가 없는 조건에서 제안된 방법이 기존의 반자동 또는 약한 지도 학습 방법보다 뛰어나게 성능을 발휘할 수 있는가?
• RQ4 여러 차례 반복 후 자기학습 과정이 어느 정도 안정화되거나 성능 저하가 발생하는가, 그리고 성능이 정체되는가?

주요 결과

• UNet-level1은 17개의 검증되지 않은 테스트 볼륨에서 75.41%의 Dice 점수와 3.65%의 ADCS를 기록하여 비지도 기반 교사(SK-GC)의 74.67% Dice, 3.71% ADCS를 초월했다.
• UNet-level2는 검증 데이터에서 최고의 성능을 기록하여 75.87%의 Dice와 3.38%의 ADCS를 달성했으며, 이는 자기학습이 분할 정확도를 향상시킨다는 것을 시사한다.
• 6개의 도전적인 CT 영상 셋에서 SK-GC와 UNet 간 ADCS가 높은 경우, UNet-level2는 82.65%의 Dice와 1.98%의 ADCS를 기록하여 SK-GC(70.39% Dice, 11.25% ADCS)와 논문 [5]의 반자동 방법(79.05% Dice, 5.19% ADCS)을 뛰어넘었다.
• UNet-level3에서 성능이 정체되었으며, 검증 데이터에서 74.94%의 Dice와 4.56%의 ADCS를 기록하여 두 번의 자기학습 반복 이후 수익 감소가 발생함을 시사한다.
• 전체 학습 과정은 약 17시간이 소요되었으며, 슬라이스당 추론 시간은 0.13초로 계산 가능성을 입증했다.
• 그림 3의 시각적 결과는 각 자기학습 수준에서 과분할과 과소분할가 감소하며, 특히 겹치는 낭종의 경계 정확도 향상이 뚜렷하다.