[论文解读] A Voting-Stacking Ensemble of Inception Networks for Cervical Cytology Classification

Linyi Qian, Qian Huang+2 more|arXiv (Cornell University)|Aug 5, 2023

Cervical Cancer and HPV ResearchMedicine被引用 3

一句话总结

本文提出一种基于三支Inception网络的投票-堆叠集成模型，用于宫颈细胞学分类，通过利用投票集成中误分类样本训练元学习器，实现在SIPakMed、Herlev和Mendeley数据集上100%的准确率，通过改进的特征融合与鲁棒性，超越了当前最先进方法。

ABSTRACT

Cervical cancer is one of the most severe diseases threatening women's health. Early detection and diagnosis can significantly reduce cancer risk, in which cervical cytology classification is indispensable. Researchers have recently designed many networks for automated cervical cancer diagnosis, but the limited accuracy and bulky size of these individual models cannot meet practical application needs. To address this issue, we propose a Voting-Stacking ensemble strategy, which employs three Inception networks as base learners and integrates their outputs through a voting ensemble. The samples misclassified by the ensemble model generate a new training set on which a linear classification model is trained as the meta-learner and performs the final predictions. In addition, a multi-level Stacking ensemble framework is designed to improve performance further. The method is evaluated on the SIPakMed, Herlev, and Mendeley datasets, achieving accuracies of 100%, 100%, and 100%, respectively. The experimental results outperform the current state-of-the-art (SOTA) methods, demonstrating its potential for reducing screening workload and helping pathologists detect cervical cancer.

研究动机与目标

• 解决单一深度学习模型在宫颈细胞学分类中的局限性，包括准确率低和模型规模大。
• 通过实现高度准确的宫颈细胞图像自动分类，减轻病理学家的筛查工作负担。
• 通过引入新型集成策略，克服同质模型中泛化能力差和特征冗余的问题。
• 通过两阶段集成框架，选择性地在误分类样本上重新训练，提升分类性能。
• 在多样化的公开宫颈细胞学数据集上，展示该方法的鲁棒性与可扩展性。

提出的方法

• 通过统一缩放进行图像预处理，并应用联合在线与离线数据增强，以提升泛化能力。
• 使用三支预训练的Inception系列模型（InceptionV3、InceptionResNetV2、Xception）作为同质基学习器进行特征提取。
• 应用投票策略聚合基学习器的预测结果，将输出冲突的样本识别为元学习的候选样本。
• 仅在误分类样本上训练线性元学习器，以优化预测结果，并减少正确分类样本的干扰。
• 通过在投票-堆叠集成输出上重新训练元学习器，实现多级堆叠集成框架，进一步提升性能。
• 通过在ImageNet上初始化基模型并在宫颈细胞学数据集上微调，采用迁移学习以改善特征表示。

实验结果

研究问题

• RQ1 投票-堆叠集成策略是否能在宫颈细胞学分类中超越单模型方法，实现更高的分类准确率？
• RQ2 与标准堆叠方法相比，仅在误分类样本上选择性地重新训练元学习器是否能提升模型性能？
• RQ3 所提出的投票-堆叠框架在基准宫颈细胞学数据集上与现有最先进方法相比表现如何？
• RQ4 多级堆叠框架在多大程度上进一步提升了宫颈细胞分类的准确率与鲁棒性？
• RQ5 所提出的集成方法是否可泛化至宫颈细胞学以外的其他医学图像分类任务？

主要发现

• 所提出的投票-堆叠集成模型在SIPakMed数据集上实现了100%的准确率、精确率、召回率与F1值，全面超越所有先前最先进方法。
• 在Herlev数据集上，该方法在所有评估指标上均达到100%准确率，展现出卓越的鲁棒性与泛化能力。
• Mendeley数据集的评估结果确认了所有指标均达100%，且显著优于先前的SOTA方法，如FuzzyDistanceEnsemble（99.68%准确率）和ExemplarPyramid（99.47%准确率）。
• 五折交叉验证结果显示，无论训练集大小为10%、20%或30%，模型性能均保持一致，所有情况下均维持100%准确率。
• 多级堆叠集成通过在投票-堆叠集成输出上重新训练元学习器，进一步提升了准确率，证实了分层集成设计的有效性。
• 该方法在帕拉基底细胞与异常细胞等具有挑战性的细胞类别上也表现出色，表明其在多样化细胞学特征上具备强大的判别能力。