[논문 리뷰] Adaptive Feature Selection Guided Deep Forest for COVID-19 Classification with Chest CT

Liang Sun, Zhanhao Mo외 15명|arXiv (Cornell University)|2020. 05. 07.

COVID-19 diagnosis using AI참고 문헌 27인용 수 18

한 줄 요약

이 논문은 흉부 CT 영상에서 코로나19를 분류하기 위해 위치 기반 특징과 딥 포레스트 아키텍처를 활용하여 고수준 표현을 학습하면서도 특징의 중복을 적응적으로 줄이는 적응형 특징 선택 지도 딥 포레스트(AFS-DF) 모델을 제안한다. 이 방법은 1,495건의 코로나19 및 1,027건의 CAP 사례로 구성된 데이터셋에서 91.79% 정확도, 93.05% 민감도, 89.95% 특이도, 96.35% AUC를 달성하여 라소, 엘라스틱넷, 표준 딥 포레스트와 같은 기준 모델들을 능가한다.

ABSTRACT

Chest computed tomography (CT) becomes an effective tool to assist the diagnosis of coronavirus disease-19 (COVID-19). Due to the outbreak of COVID-19 worldwide, using the computed-aided diagnosis technique for COVID-19 classification based on CT images could largely alleviate the burden of clinicians. In this paper, we propose an Adaptive Feature Selection guided Deep Forest (AFS-DF) for COVID-19 classification based on chest CT images. Specifically, we first extract location-specific features from CT images. Then, in order to capture the high-level representation of these features with the relatively small-scale data, we leverage a deep forest model to learn high-level representation of the features. Moreover, we propose a feature selection method based on the trained deep forest model to reduce the redundancy of features, where the feature selection could be adaptively incorporated with the COVID-19 classification model. We evaluated our proposed AFS-DF on COVID-19 dataset with 1495 patients of COVID-19 and 1027 patients of community acquired pneumonia (CAP). The accuracy (ACC), sensitivity (SEN), specificity (SPE) and AUC achieved by our method are 91.79%, 93.05%, 89.95% and 96.35%, respectively. Experimental results on the COVID-19 dataset suggest that the proposed AFS-DF achieves superior performance in COVID-19 vs. CAP classification, compared with 4 widely used machine learning methods.

연구 동기 및 목표

• 강력한 모델을 훈련하기 위한 의료 영상 데이터의 제한 문제를 해결하기 위해.
• 흉부 CT 영상의 위치 기반 특징에서 고수준 표현을 활용하여 분류 성능을 향상시키기 위해.
• 작업 기반 적응형 특징 선택 메커니즘을 딥 포레스트 프레임워크에 통합하여 특징 중복을 줄이고 모델의 해석 가능성을 향상시키기 위해.
• 기존 방법들인 라소, 엘라스틱넷, 표준 딥 포레스트보다 작은 규모의 의료 영상 데이터셋에서 뛰어난 성능을 보이는 기계학습 모델을 개발하기 위해.

제안 방법

• 解剖학적 사전 지식에 기반한 수작업 특징 추출 방법을 사용하여 흉부 CT 영상에서 위치 기반 특징을 추출한다.
• 추출된 특징에서 계층적 고수준 표현을 학습하기 위해 딥 포레스트 모델을 활용하여, 제한된 훈련 데이터로도 효과적인 표현 학습을 가능하게 한다.
• 각 딥 포레스트 레이어의 훈련된 결정 트리로부터 특징 중요도를 계산하고 반복적으로 관련성이 낮은 특징을 제거하는 적응형 특징 선택 전략을 도입한다.
• 특징 선택과 분류를 통합된 프레임워크로 통합하여, 훈련 중 모델의 내부 성능 피드백에 따라 특징 제거가 유도되도록 한다.
• 1,495건의 코로나19 및 1,027건의 CAP 사례로 구성된 데이터셋에서 AFS-DF 모델을 엔드 투 엔드로 훈련하여 분류 성능 최적화를 도모한다.
• 10겹 교차검증을 사용하여 방법을 검증하고, 표준 지표를 사용하여 라소, 엘라스틱넷, 표준 딥 포레스트와의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 위치 기반 특징을 활용한 흉부 CT 영상에서 코로나19 대 비코로나19 폐렴을 분류하는 데 있어, 적응형 특징 선택 메커니즘이 딥 포레스트 모델의 성능을 향상시킬 수 있는가?
• RQ2 딥 포레스트 아키텍처를 통한 고수준 표현 학습 통합이 작은 의료 영상 데이터셋에서 분류 정확도와 강건성을 향상시키는가?
• RQ3 기존 기계학습 방법들인 라소와 엘라스틱넷과 비교할 때, 제안된 AFS-DF 모델은 코로나19 진단에서 민감도, 특이도 및 AUC 측면에서 어떻게 성능을 내는가?
• RQ4 AFS-DF 모델이 선택한 깊이 있는 특징들이 기존 분류기인 로지스틱 회귀(LR), 서포트 벡터 머신(SVM), 랜덤 포레스트(RF)의 성능을 얼마나 향상시키는가?

주요 결과

• AFS-DF 모델은 테스트 세트에서 91.79% 정확도, 93.05% 민감도, 89.95% 특이도, 96.35% AUC를 달성하여 라소, 엘라스틱넷, 표준 딥 포레스트를 모두 능가했다.
• 동일한 선택된 깊이 있는 특징을 사용할 때, AFS-DF는 로지스틱 회귀(LR)보다 1.38%p, SVM보다 1.15%p, 랜덤 포레스트(RF)보다 1.11%p 정확도에서 향상되었다.
• t-SNE 시각화를 통해 마지막 레이어의 특징 표현이 더 분류에 유용한 것으로 나타나, 특징 선택 메커니즘이 중복을 효과적으로 줄였음을 입증했다.
• AFS-DF가 선택한 깊이 있는 특징은 기존 모델의 성능을 크게 향상시켜, 선택된 특징들이 고수준의 분류 정보를 담고 있음을 시사한다.
• 모델 내부의 숲 중요도 점수에 기반한 적응형 특징 선택 과정이, 작은 데이터셋에서 모델의 일반화 능력과 강건성을 향상시키는 데 기여했다.