[论文解读] Adaptive Feature Selection Guided Deep Forest for COVID-19 Classification with Chest CT

Liang Sun, Zhanhao Mo+15 more|arXiv (Cornell University)|May 7, 2020

COVID-19 diagnosis using AI参考文献 27被引用 18

一句话总结

该论文提出了一种基于自适应特征选择的深度随机森林（AFS-DF）模型，用于从胸部CT扫描中对COVID-19进行分类。该方法利用位置特定特征，并结合深度随机森林架构，学习高层表示，同时自适应地减少特征冗余。在包含1,495例COVID-19和1,027例CAP病例的数据集上，该方法实现了91.79%的准确率、93.05%的敏感度、89.95%的特异度以及96.35%的AUC，优于Lasso、ElasticNet和标准深度随机森林等基线方法。

ABSTRACT

Chest computed tomography (CT) becomes an effective tool to assist the diagnosis of coronavirus disease-19 (COVID-19). Due to the outbreak of COVID-19 worldwide, using the computed-aided diagnosis technique for COVID-19 classification based on CT images could largely alleviate the burden of clinicians. In this paper, we propose an Adaptive Feature Selection guided Deep Forest (AFS-DF) for COVID-19 classification based on chest CT images. Specifically, we first extract location-specific features from CT images. Then, in order to capture the high-level representation of these features with the relatively small-scale data, we leverage a deep forest model to learn high-level representation of the features. Moreover, we propose a feature selection method based on the trained deep forest model to reduce the redundancy of features, where the feature selection could be adaptively incorporated with the COVID-19 classification model. We evaluated our proposed AFS-DF on COVID-19 dataset with 1495 patients of COVID-19 and 1027 patients of community acquired pneumonia (CAP). The accuracy (ACC), sensitivity (SEN), specificity (SPE) and AUC achieved by our method are 91.79%, 93.05%, 89.95% and 96.35%, respectively. Experimental results on the COVID-19 dataset suggest that the proposed AFS-DF achieves superior performance in COVID-19 vs. CAP classification, compared with 4 widely used machine learning methods.

研究动机与目标

• 为解决在训练鲁棒的COVID-19分类模型时医疗影像数据有限的挑战。
• 通过利用胸部CT扫描中的位置特定特征学习高层表示，提升分类性能。
• 通过与深度随机森林框架集成的任务驱动自适应特征选择机制，减少特征冗余并增强模型可解释性。
• 开发一种机器学习模型，在小规模医疗影像数据集上优于传统方法（如Lasso、ElasticNet和标准深度随机森林）。

提出的方法

• 利用基于解剖学先验知识的手工方法，从胸部CT图像中提取位置特定特征。
• 采用深度随机森林模型，从提取的特征中学习分层的高层表示，实现在训练数据有限情况下的有效表征学习。
• 引入一种自适应特征选择策略，通过每层深度随机森林中训练的决策树计算特征重要性，并迭代剪枝不相关特征。
• 将特征选择与分类整合为统一框架，其中特征剪枝由模型训练过程中的内部性能反馈指导。
• 在包含1,495例COVID-19和1,027例CAP病例的数据集上，端到端训练AFS-DF模型，以优化分类性能。
• 使用10折交叉验证验证该方法，并通过标准指标与Lasso、ElasticNet和标准深度随机森林进行性能比较。

实验结果

研究问题

• RQ1 自适应特征选择机制是否能提升深度随机森林模型在使用胸部CT扫描对COVID-19与社区获得性肺炎（CAP）进行分类时的性能？
• RQ2 通过深度随机森林架构实现高层表示学习，是否能提升在小规模医疗影像数据集上的分类准确率与鲁棒性？
• RQ3 在COVID-19诊断的敏感度、特异度和AUC方面，所提出的AFS-DF模型与传统机器学习方法（如Lasso和ElasticNet）相比表现如何？
• RQ4 AFS-DF模型所选择的深层特征在多大程度上提升了传统分类器（如逻辑回归LR、支持向量机SVM和随机森林RF）的性能？

主要发现

• AFS-DF模型在测试集上实现了91.79%的准确率、93.05%的敏感度、89.95%的特异度以及96.35%的AUC，优于Lasso、ElasticNet和标准深度随机森林。
• 当使用相同的选定深层特征时，AFS-DF方法相较于逻辑回归（LR）准确率提升1.38个百分点，相较于SVM提升1.15个百分点，相较于随机森林（RF）提升1.11个百分点。
• 特征选择机制有效减少了冗余，t-SNE可视化显示最后一层特征具有更优的判别性表示。
• 使用AFS-DF选择的深层特征显著提升了传统模型的性能，表明所选特征包含高层且具有判别性的信息。
• 基于内部森林重要性评分的自适应特征选择过程，有助于提升小样本数据集上的模型泛化能力与鲁棒性。