[论文解读] Coronary Heart Disease Diagnosis Based on Improved Ensemble Learning

Kuntoro Adi Nugroho, Noor Akhmad Setiawan+1 more|arXiv (Cornell University)|Jul 6, 2020

Artificial Intelligence in Healthcare参考文献 40被引用 4

一句话总结

本研究提出了一种用于冠心病诊断的混合级联集成学习方法，结合C4.5和RIPPER作为元学习器，以朴素贝叶斯作为基学习器，利用自助采样法（bagging）和随机子空间法（random subspace）构建集成模型。与独立算法及Rotation Forest相比，采用松耦合策略的级联泛化显著提升了诊断准确率，尽管基模型之间的多样性有所降低。

ABSTRACT

Accurate diagnosis is required before performing proper treatments for coronary heart disease. Machine learning based approaches have been proposed by many researchers to improve the accuracy of coronary heart disease diagnosis. Ensemble learning and cascade generalization are among the methods which can be used to improve the generalization ability of learning algorithm. The objective of this study is to develop heart disease diagnosis method based on ensemble learning and cascade generalization. Cascade generalization method with loose coupling strategy is proposed in this study. C4. 5 and RIPPER algorithm were used as meta-level algorithm and Naive Bayes was used as baselevel algorithm. Bagging and Random Subspace were evaluated for constructing the ensemble. The hybrid cascade ensemble methods are compared with the learning algorithms in non-ensemble mode and non-cascade mode. The methods are also compared with Rotation Forest. Based on the evaluation result, the hybrid cascade ensemble method demonstrated the best result for the given heart disease diagnosis case. Accuracy and diversity evaluation was performed to analyze the impact of the cascade strategy. Based on the result, the accuracy of the classifiers in the ensemble is increased but the diversity is decreased.

研究动机与目标

• 通过机器学习技术提升冠心病诊断的准确性。
• 研究级联泛化与集成学习对诊断性能的影响。
• 将所提出的混合级联集成方法与非集成及非级联基线模型进行比较。
• 评估集成分类器中准确率与多样性之间的权衡。
• 展示在医学诊断中，级联泛化所采用的松耦合策略的有效性。

提出的方法

• 本研究采用具有松耦合策略的级联泛化框架，以整合多个基学习器。
• 使用朴素贝叶斯作为个体分类器的基层级学习算法。
• 应用C4.5和RIPPER作为元层级算法，以整合基模型的预测结果。
• 采用自助采样法与随机子空间法，构建多样化且稳健的基集成成员。
• 所提出的混合级联集成方法通过两级学习架构整合预测结果，以提升泛化能力。
• 该方法与非集成模型及Rotation Forest进行对比，以开展性能分析。

实验结果

研究问题

• RQ1 与独立学习算法相比，所提出的级联集成方法是否能提升冠心病诊断的准确率？
• RQ2 在级联泛化中采用松耦合策略如何影响集成模型的性能？
• RQ3 所提出的集成模型中，准确率与多样性之间的权衡关系如何？
• RQ4 所提出的混合级联集成方法与Rotation Forest在冠心病诊断中的表现有何差异？
• RQ5 自助采样法与随机子空间法在多大程度上提升了集成模型的鲁棒性？

主要发现

• 在所评估的所有方法中，混合级联集成方法在给定的冠心病数据集上达到了最高的诊断准确率。
• 由于采用了级联泛化策略，集成中各独立分类器的准确率均有所提升。
• 尽管准确率提高，但基分类器之间的多样性降低，表明性能与集成多样性之间存在权衡。
• 所提出的方法在分类准确率方面优于非集成模型及Rotation Forest。
• 自助采样法与随机子空间法在构建多样化且稳定的基学习器方面发挥了有效作用。
• 结果证实，采用松耦合策略的级联泛化能够增强医学诊断任务中的泛化能力。