[논문 리뷰] Holistic Interstitial Lung Disease Detection using Deep Convolutional Neural Networks: Multi-label Learning and Unordered Pooling

Mingchen Gao, Ziyue Xu외 4명|arXiv (Cornell University)|2017. 01. 19.

COVID-19 diagnosis using AI참고 문헌 27인용 수 9

한 줄 요약

이 논문은 수동으로 영역 관심(ROI)을 표시하지 않고도 전체 CT 슬라이스에서 다중 간질성 폐질환(ILD) 유형—기저귀, 섬유화, 꿀벌집, 기침—을 동시에 탐지할 수 있는 통합적이고 다중 레이블 딥 러닝 프레임워크를 제안한다. 이는 이진 교차 엔트로피 손실을 통한 다중 레이블 분류와 강력한 노름 손실을 사용한 다중 레이블 회귀를 활용하며, CNN 특징를 순서 없는 풀링을 위해 피셔 벡터 인코딩을 적용하여 높은 AUC(최대 0.988)와 F-스코어(최대 0.936)를 달성하였다. 658명의 환자 데이터셋에서 슬라이스당 추론 시간이 0.01초 미만이었다.

ABSTRACT

Accurately predicting and detecting interstitial lung disease (ILD) patterns given any computed tomography (CT) slice without any pre-processing prerequisites, such as manually delineated regions of interest (ROIs), is a clinically desirable, yet challenging goal. The majority of existing work relies on manually-provided ILD ROIs to extract sampled 2D image patches from CT slices and, from there, performs patch-based ILD categorization. Acquiring manual ROIs is labor intensive and serves as a bottleneck towards fully-automated CT imaging ILD screening over large-scale populations. Furthermore, despite the considerable high frequency of more than one ILD pattern on a single CT slice, previous works are only designed to detect one ILD pattern per slice or patch. To tackle these two critical challenges, we present multi-label deep convolutional neural networks (CNNs) for detecting ILDs from holistic CT slices (instead of ROIs or sub-images). Conventional single-labeled CNN models can be augmented to cope with the possible presence of multiple ILD pattern labels, via 1) continuous-valued deep regression based robust norm loss functions or 2) a categorical objective as the sum of element-wise binary logistic losses. Our methods are evaluated and validated using a publicly available database of 658 patient CT scans under five-fold cross-validation, achieving promising performance on detecting four major ILD patterns: Ground Glass, Reticular, Honeycomb, and Emphysema. We also investigate the effectiveness of a CNN activation-based deep-feature encoding scheme using Fisher vector encoding, which treats ILD detection as spatially-unordered deep texture classification.

연구 동기 및 목표

• 수동 ROI 표시가 필요 없는 완전 자동화된 대규모 ILD 스크리닝의 임상적 필요를 충족시키기 위해.
• 기존의 패치 기반 방법이 한 영역에서 하나의 ILD 유형만 탐지하고, 수작업이 많은 전처리가 필요하다는 한계를 극복하기 위해.
• 통합 입력을 통해 한 번의 CT 슬라이스에서 다중 공존 ILD 유형을 동시에 탐지할 수 있도록 하기 위해.
• 클래스 균형 조절과 순서 없는 특징 인코딩을 통합하여 모델의 강인성과 일반화 능력을 향상시키기 위해.
• 임상 환경에서 실시간 스크리닝에 적합한 계산 효율성이 뛰어난 방법을 개발하기 위해.

제안 방법

• ROI 추출을 생략하고 전체 CT 슬라이스를 직접 분류하기 위해 엔드 투 엔드 딥 컨volution 네트워크(CNN)를 사용한다.
• 각 ILD 유형을 독립적인 이진 예측으로 모델링하기 위해 요소별 이진 교차 엔트로피 손실을 통한 다중 레이블 분류를 적용한다.
• 강력한 노름(예: 투명 손실) 기반 연속값 손실 함수를 사용한 다중 레이블 회귀를 탐색하여 다중 레이블을 동시에 처리한다.
• CNN 활성화 맵을 순서 없는 압축된 깊은 특징 표현으로 풀기 위해 피셔 벡터(FV) 인코딩을 적용하여 무늬 분류 성능을 향상시킨다.
• 작은 클래스의 부족한 표현을 완화하고 F-스코어를 향상시키기 위해 가중치 손실 함수(β-요소)를 통한 클래스 균형 조절을 통합한다.
• 658명의 환자 CT 스캔을 포함한 공개 데이터셋을 사용하여 5개의 교차 검증을 수행하고 슬라이스 단위의 ILD 레이블을 기반으로 모델을 검증한다.

실험 결과

연구 질문

• RQ1 수동으로 표시된 ROI가 필요 없이 딥 CNN 모델이 단일 CT 슬라이스에서 다중 ILD 유형을 정확하게 탐지할 수 있는가?
• RQ2 강력한 노름 손실을 사용한 다중 레이블 회귀는 표준 다중 레이블 분류 대비 성능과 강인성 면에서 어떻게 비교되는가?
• RQ3 피셔 벡터 인코딩을 통한 순서 없는 풀링이 표준 공간적 순서 특징 풀링에 비해 탐지 정확도를 얼마나 향상시키는가?
• RQ4 클래스 균형 조절이 희귀 ILD 유형인 꿀벌집 유형의 F-스코어 향상에 얼마나 효과적인가?
• RQ5 통합적 접근 방식이 높은 진단 정확도를 유지하면서도 실시간 추론 속도를 달성할 수 있는가?

주요 결과

• 제안된 통합 다중 레이블 분류 모델은 기침 유형에 대해 F-스코어 0.936, 기저귀 유형에 대해 0.883을 기록하였으며, 모든 네 가지 ILD 유형에 대해 AUC가 0.98 초과를 달성하였다.
• 강력한 노름 손실을 사용한 다중 레이블 회귀 접근 방식은 전체 F-스코어 0.823을 기록하여 단일 레이블 기반 모델을 초월하였으며, 레이블 노이즈에 대한 강인성도 향상시켰다.
• 클래스 균형 조절은 전체 F-스코어를 약 5% 향상시켰으며, 특히 희귀한 꿀벌집 유형에서 가장 두드러진 개선이 관찰되었고(F-스코어 0.431에서 0.507로 상승), 성능 향상이 두드러졌다.
• 통합적 방법은 슬라이스당 평균 0.01초 이내로 처리하였으며, 패치 기반 방법의 평균 22.64초 대비 극적으로 빠른 속도를 확보하여 대규모 데이터셋의 거의 실시간 스크리닝을 가능하게 하였다.
• 피셔 벡터 인코딩은 공간적 배치에 영향을 받지 않는 무늬 패턴을 효과적으로 포착하여, 표준 공간 풀링 대비 다중 레이블 탐지 작업에서 성능 향상을 크게 이룩하였다.
• 이 방법은 단일 슬라이스에서 공존하는 다중 ILD 유형을 성공적으로 탐지하여, 단일 레이블 탐지 기반의 기존 접근 방식을 뛰어넘는 임상적 유의성을 입증하였다.