[论文解读] Efficient Multi-objective Evolutionary 3D Neural Architecture Search for COVID-19 Detection with Chest CT Scans

Xin He, Shihao Wang+3 more|arXiv (Cornell University)|Jan 26, 2021

COVID-19 diagnosis using AI参考文献 48被引用 5

一句话总结

该论文提出EMARS，一种用于胸部CT扫描中COVID-19检测的高效多目标进化3D神经架构搜索框架。通过利用权重重用和一种新颖的'潜在'目标，EMARS仅用8小时便搜索出轻量化且高精度的模型，得到的3.39 MB模型在性能上超越了更大的人工设计模型（如ResNet3D101和DenseNet3D121），同时通过类别激活映射实现了可解释性。

ABSTRACT

COVID-19 pandemic has spread globally for months. Due to its long incubation period and high testing cost, there is no clue showing its spread speed is slowing down, and hence a faster testing method is in dire need. This paper proposes an efficient Evolutionary Multi-objective neural ARchitecture Search (EMARS) framework, which can automatically search for 3D neural architectures based on a well-designed search space for COVID-19 chest CT scan classification. Within the framework, we use weight sharing strategy to significantly improve the search efficiency and finish the search process in 8 hours. We also propose a new objective, namely potential, which is of benefit to improve the search process's robustness. With the objectives of accuracy, potential, and model size, we find a lightweight model (3.39 MB), which outperforms three baseline human-designed models, i.e., ResNet3D101 (325.21 MB), DenseNet3D121 (43.06 MB), and MC3\_18 (43.84 MB). Besides, our well-designed search space enables the class activation mapping algorithm to be easily embedded into all searched models, which can provide the interpretability for medical diagnosis by visualizing the judgment based on the models to locate the lesion areas.

研究动机与目标

• 为应对长期潜伏期和高昂检测成本带来的迫切需求，开发更快捷、成本更低的COVID-19检测方法。
• 自动化设计用于胸部CT扫描分类的高效3D神经架构，减少对人工架构设计的依赖。
• 通过一种新颖的多目标优化框架（引入新目标'潜在'）提升搜索效率与鲁棒性。
• 通过在所有搜索到的模型中支持类别激活映射，确保医学诊断中的可解释性。
• 发现轻量化但高精度的模型，使其在尺寸和性能上均优于现有的人工设计架构。

提出的方法

• 设计一个专用于胸部CT扫描的定制3D神经架构搜索空间，支持高效模型搜索与可解释性。
• 实施权重重用策略，大幅降低计算成本，使整个搜索过程在8小时内完成。
• 引入一种新的目标函数称为'潜在'，以增强多目标搜索过程的鲁棒性。
• 同时优化三个目标：模型准确率、潜在值和模型大小，以平衡性能与效率。
• 将类别激活映射（CAM）集成到所有搜索到的架构中，以可视化病灶定位，支持医学诊断中的可解释性。
• 采用进化多目标优化方法探索搜索空间，识别Pareto最优架构。

实验结果

研究问题

• RQ1 自动化3D神经架构搜索框架是否能在保持极低模型尺寸的同时，实现对胸部CT扫描中COVID-19检测的高准确率？
• RQ2 所提出的'潜在'目标如何提升多目标搜索过程的稳定性和效率？
• RQ3 该搜索框架能否生成比现有人工设计模型（如ResNet3D101和DenseNet3D121）更小且更准确的模型？
• RQ4 通过类别激活映射，能在多大程度上保持并集成可解释性到自动搜索出的模型中？
• RQ5 在实际时间范围内（例如8小时）完成全面的3D架构搜索是否可行，通过权重重用与多目标优化实现？

主要发现

• EMARS框架仅用8小时便完成3D神经架构搜索，相比传统方法显著提升了效率。
• 所搜索到的模型大小仅为3.39 MB，远小于ResNet3D101（325.21 MB）、DenseNet3D121（43.06 MB）和MC3_18（43.84 MB）。
• 所提出的模型在分类准确率上优于上述三个人工设计基线模型，证明了其在小尺寸下仍具备卓越性能。
• 所有搜索到的模型均集成类别激活映射，可可视化病灶区域，显著增强临床诊断中的可解释性。
• 引入'潜在'目标显著提升了多目标搜索过程的稳定性和鲁棒性。
• 精心设计的搜索空间不仅支持高搜索效率，还能在所有发现的架构中无缝集成可解释性技术。