[논문 리뷰] DeepSEED: 3D Squeeze-and-Excitation Encoder-Decoder ConvNets for Pulmonary Nodule Detection.

Yuemeng Li, Hangfan Liu외 1명|arXiv (Cornell University)|2019. 04. 06.

Lung Cancer Diagnosis and Treatment인용 수 7

한 줄 요약

이 논문은 저선량 CT 스캔에서 폐 결절 검출을 향상시키기 위해 압축-확장 모듈과 영역 제안 네트워크를 갖춘 3D 인코더-디코더 CNN인 DeepSEED을 제안한다. 동적으로 스케일링된 교차 엔트로피 손실과 주의 기반 특징 학습을 통합함으로써, 기존의 최고 수준의 방법들보다 더 낮은 가짜 양성률을 달성하고 LIDC/IDRI 및 LUNA16 데이터셋에서 뛰어난 성능을 보였다.

ABSTRACT

Pulmonary nodule detection plays an important role in lung cancer screening with low-dose computed tomography (CT) scans. It remains challenging to build nodule detection deep learning models with good generalization performance due to unbalanced positive and negative samples. In order to overcome this problem and further improve state-of-the-art nodule detection methods, we develop a novel deep 3D convolutional neural network with an Encoder-Decoder structure in conjunction with a region proposal network. Particularly, we utilize a dynamically scaled cross entropy loss to reduce the false positive rate and combat the sample imbalance problem associated with nodule detection. We adopt the squeeze-and-excitation structure to learn effective image features and utilize inter-dependency information of different feature maps. We have validated our method based on publicly available CT scans with manually labelled ground-truth obtained from LIDC/IDRI dataset and its subset LUNA16 with thinner slices. Ablation studies and experimental results have demonstrated that our method could outperform state-of-the-art nodule detection methods by a large margin.

연구 동기 및 목표

• 부정(결절이 아닌) 샘플이 긍정(결절) 샘플보다 훨씬 많아지는 폐 결절 검출의 클래스 불균형 문제를 해결한다.
• 주의 메커니즘과 손실 재가중 기법을 활용하여 딥 러닝 모델의 일반화 성능을 향상시킨다.
• 압축-확장 기법을 통해 특징 맵 간의 상호의존성을 모델링하여 특징 표현을 향상시킨다.
• 정확한 국소화를 위해 인코더-디코더 구조와 영역 제안 네트워크를 결합한 견고한 3D 합성곱 신경망 아키텍처를 개발한다.
• 재현 가능성과 실세계 적용 가능성을 확보하기 위해 공개 데이터셋인 LIDC/IDRI 및 그 LUNA16 서브셋에서 방법을 검증한다.

제안 방법

• 저선량 CT 스캔에서 계층적인 부피 표현을 학습하기 위해 3D 인코더-디코더 합성곱 신경망 아키텍처를 사용한다.
• 채널 간 의존성을 모델링하고 정보가 많은 특징을 강화함으로써 특징 맵을 재조정하기 위해 압축-확장(SE) 블록을 통합한다.
• 후보 결절 영역을 생성하여 국소화 정확도를 향상시키기 위해 영역 제안 네트워크(RPN)를 활용한다.
• 예측 신뢰도에 따라 손실 가중치를 적응적으로 조정하는 동적으로 스케일링된 교차 엔트로피 손실을 적용한다. 이는 가짜 양성률을 감소시킨다.
• LIDC/IDRI 및 LUNA16의 참값 애너테이션을 사용하여 CT 볼륨의 3D 패치에서 종합적으로 모델을 훈련한다.
• 특징 맵 간의 상호의존 정보를 활용하여 특징 구별 능력과 모델의 견고성을 향상시킨다.

실험 결과

연구 질문

• RQ1 압축-확장 모듈을 갖춘 3D 인코더-디코더 네트워크가 저선량 CT 스캔에서 폐 결절 검출을 위한 특징 표현을 향상시킬 수 있는가?
• RQ2 동적으로 스케일링된 교차 엔트로피 손실이 불균형한 결절 검출에서 가짜 양성률을 효과적으로 감소시키는가?
• RQ3 표준 분류 헤드와 비교할 때 영역 제안 네트워크의 통합이 국소화 정확도를 얼마나 향상시키는가?
• RQ4 LUNA16 및 LIDC/IDRI와 같은 벤치마크 데이터셋에서 제안된 방법은 최고 수준의 모델들과 비교해 어떻게 성능을 내는가?
• RQ5 심각한 클래스 불균형 상황에서 주의 기반 특징 재조정과 손실 재가중이 함께 모델의 일반화 능력을 향상시키는가?

주요 결과

• 제안된 DeepSEED 모델은 LIDC/IDRI 및 LUNA16 데이터셋 모두에서 기존 최고 수준의 방법들을 능가하는 성능을 보였다.
• 동적으로 스케일링된 교차 엔트로피 손실을 사용함으로써, 훈련 중에 쉬운 부정 샘플의 가중치를 적응적으로 낮춤으로써 가짜 양성률이 크게 감소하였다.
• 압축-확장 기법은 채널 간 의존성을 명시적으로 모델링하여 특징 표현을 향상시켜 검출 민감도를 향상시켰다.
• 3D 인코더-디코더 아키텍처와 영역 제안 네트워크의 조합은 작은 결절의 더 정확한 국소화를 가능하게 하였다.
• 절단 실험 결과, 주의 메커니즘과 동적 손실 모두 성능 향상에 독립적으로 기여하며 상호 보완적인 효과를 보였다.
• 모델는 얇은 슬라이스 CT 스캔에도 잘 일반화되어 다양한 영상 프로토콜에 대한 견고성을 보였다.