[논문 리뷰] Lung Cancer Screening Using Adaptive Memory-Augmented Recurrent Networks

Aryan Mobiny, Supratik Moulik외 1명|arXiv (Cornell University)|2017. 10. 11.

COVID-19 diagnosis using AI참고 문헌 48인용 수 12

한 줄 요약

이 논문은 CT 영상에서 적응형 폐 결절 분류를 위한 메모리 보강형 순환 신경망(MANN)을 제안하며, 방사선 전문의의 피드백으로부터 빠른 재학습이 가능하고 데이터 분포 변화에 강건한 성능을 제공한다. 또한 순환 신경망을 통해 계산된 비일관성 밀도 함수(IDF)를 도입하여 노이즈 레이블을 탐지하고 제거하며, 합성 데이터에서 95%의 노이즈를 제거하고, 방사선 전문의가 재평가한 이미지 중 63%가 잘못 분류된 것으로 확인하였다.

ABSTRACT

In this paper, we investigate the effectiveness of deep learning techniques for lung nodule classification in computed tomography scans. Using less than 10,000 training examples, our deep networks perform two times better than a standard radiology software. Visualization of the networks' neurons reveals semantically meaningful features that are consistent with the clinical knowledge and radiologists' perception. Our paper also proposes a novel framework for rapidly adapting deep networks to the radiologists' feedback, or change in the data due to the shift in sensor's resolution or patient population. The classification accuracy of our approach remains above 80% while popular deep networks' accuracy is around chance. Finally, we provide in-depth analysis of our framework by asking a radiologist to examine important networks' features and perform blind re-labeling of networks' mistakes.

연구 동기 및 목표

• CT 영상에서 폐 결절을 분류하는 데 있어 딥 러닝 모델과 방사선 전문의, 표준 방사선 소프트웨어를 체계적으로 비교하는 것.
• 딥 러닝 네트워크를 방사선 전문의의 피드백이나 데이터 분포 변화(예: 센서 해상도 또는 환자 집단의 변화)에 빠르게 적응시킬 수 있는 프레임워크를 개발하는 것.
• 모델 성능을 저하시킬 수 있는 폐 결절 데이터셋 내 노이즈가 많은 참값 레이블이라는 핵심 문제를 해결하는 것.
• 신규로 제안된 비일관성 밀도 함수(IDF)가 순환 신경망의 동적 특성을 활용하여 잘못 레이블링된 샘플을 효과적으로 식별할 수 있는지 검증하는 것.

제안 방법

• CT 영상에서 특징을 추출하기 위해 3D ResNet을 사용한 후, 순차적 피드백을 모델링하고 예측을 적응적으로 조정하기 위해 메모리 보강형 신경망(MANN)을 적용한다.
• MANN 학습 중 레이블 셔플링을 적용하여 이미지 특징과 레이블 간의 동적 바인딩을 강제함으로써 정적 매핑을 방지하고, 레이블 변경에 대한 반응성을 향상시킨다.
• 특정 샘플을 시드로 사용하고 잠재적으로 잘못된 레이블을 가질 경우, 테스트 샘플들 간의 예측 비일관성 정도를 측정하는 비일관성 밀도 함수(IDF)를 도입한다.
• 고정된 MANN에 시드 샘플을 입력하여, 정확한 레이블이 알려진 소규모 샘플 집합에서 잘못된 예측 수를 세어 IDF를 계산한다.
• 비일관성 수준이 높은 샘플은 잘못 레이블링된 것으로 간주하고, 95% 신뢰수준에서 가우시안 모델링을 적용하여 노이즈 레이블을 걸러낸다.
• 20%의 레이블 노이즈가 포함된 합성 MNIST 데이터와 실제 폐 결절 데이터를 대상으로 방법을 검증하며, 고-IDF 샘플은 방사선 전문의가 블라인드 방식으로 재평가하여 레이블을 재지정한다.

실험 결과

연구 질문

• RQ1 딥 러닝 모델은 CT 영상에서 폐 결절을 분류할 때 방사선 전문의와 표준 방사선 소프트웨어에 비해 얼마나 높은 성능을 보이는가?
• RQ2 새로운 스캐너나 환자 집단의 변화로 인한 데이터 분포 변화가 발생하더라도, 딥 러닝 모델이 방사선 전문의의 피드백이나 변화에 대해 신속하게 적응하면서도 높은 정확도를 유지할 수 있는가?
• RQ3 순환 신경망 기반의 비일관성 밀도 함수(IDF)는 폐 결절 데이터셋 내 노이즈 레이블을 효과적으로 탐지하고 제거할 수 있는가?
• RQ4 딥 러닝 모델이 범한 실수들은 임상적 의미가 있으며 방사선 전문의의 인식과 일관성이 있는가, 그리고 상호작용 피드백을 통해 이를 수정할 수 있는가?

주요 결과

• 크로스에러 측정 기준으로, 10,000개 미만의 예제로 학습된 경우조차도 표준 방사선 소프트웨어 대비 딥 러닝 모델이 4.8배 높은 성능을 보였다.
• 제안된 MANN 기반 분류기는 데이터 분포 변화 상황에서도 80% 이상의 정확도를 유지하는 반면, 표준 딥 러닝 모델의 정확도는 우연 수준까지 하락하였다.
• 20%의 레이블 노이즈가 포함된 합성 MNIST 데이터셋에서 비일관성 밀도 함수(IDF)는 95% 이상의 잘못 레이블링된 샘플을 성공적으로 식별하였다.
• 실제 폐 결절 데이터에서는 IDF에 의해 잘못 레이블링된 것으로 표시된 이미지 중 63%가 블라인드 재평가 과정에서 방사선 전문의에 의해 다른 레이블로 재지정되었으며, 이는 방법의 효과성을 확인하는 데 기여하였다.
• 네트워크 필터의 시각화 결과, 임상 지식과 방사선 전문의의 인식과 일치하는 의미 있는 특징이 관찰되었다.
• 방사선 전문의가 네트워크의 실수를 블라인드 방식으로 재평가한 결과, 모델의 오류는 전문가에게 매우 혼동스러웠으며, 이는 인간의 진단 과제와의 일치를 시사하였다.