[论文解读] Fast Imbalanced Classification of Healthcare Data with Missing Values

Talayeh Razzaghi, Oleg Roderick+2 more|arXiv (Cornell University)|Mar 21, 2015

Imbalanced Data Classification Techniques参考文献 19被引用 17

一句话总结

本文提出了一种多层级代价敏感SVM框架，结合期望最大化插补方法，以解决大规模、类别不平衡的医疗数据集在存在缺失值情况下的快速、高精度分类问题。该方法在真实临床数据（含缺失特征和类别不平衡）上，相较于标准SVM和逻辑回归，显著提升了计算效率与分类性能，G-mean最高达到0.8016。

ABSTRACT

In medical domain, data features often contain missing values. This can create serious bias in the predictive modeling. Typical standard data mining methods often produce poor performance measures. In this paper, we propose a new method to simultaneously classify large datasets and reduce the effects of missing values. The proposed method is based on a multilevel framework of the cost-sensitive SVM and the expected maximization imputation method for missing values, which relies on iterated regression analyses. We compare classification results of multilevel SVM-based algorithms on public benchmark datasets with imbalanced classes and missing values as well as real data in health applications, and show that our multilevel SVM-based method produces fast, and more accurate and robust classification results.

研究动机与目标

• 解决大规模、类别不平衡的医疗数据集在存在缺失值时的分类挑战，此类问题通常会降低模型性能。
• 克服传统机器学习方法在临床数据中因稀疏性、类别不平衡和缺失数据而表现受限的局限性。
• 开发一种可扩展、高效的分类框架，确保在真实临床应用中保持高准确率与鲁棒性。
• 提升对罕见但关键临床结局（如财务风险或患者对干预措施的响应）的预测建模能力。
• 通过整合多源临床与行政数据，展示先进机器学习在循证医疗中的实际价值。

提出的方法

• 提出一种多层级框架，通过分层数据划分与并行处理，实现对大规模数据集的SVM扩展。
• 在SVM中引入代价敏感学习，通过为少数类分配更高的误分类惩罚，以应对类别不平衡问题。
• 应用期望最大化（EM）插补方法，结合迭代回归，以估计缺失值，保持数据分布并减少偏差。
• 将EM插补与多层级SVM相结合，构建统一的处理流程，实现对缺失数据与类别不平衡问题的同步处理。
• 采用核化SVM，使用径向基函数（RBF）或线性核，将特征映射到高维空间以实现更好的分离效果。
• 通过多层级分解优化训练过程，降低计算复杂度，同时保持模型准确率。

实验结果

研究问题

• RQ1 多层级代价敏感SVM框架能否在保持高分类准确率的同时，有效处理存在缺失值的类别不平衡医疗数据？
• RQ2 与标准SVM或逻辑回归相比，EM插补与多层级SVM的集成在真实临床数据集上的性能提升程度如何？
• RQ3 所提出方法在大规模、多源临床数据上，能在多大程度上减少计算时间而不牺牲模型鲁棒性？
• RQ4 该方法是否能显著提升对罕见但具有临床意义结局（如患者对干预措施无响应或财务风险）的预测能力？
• RQ5 该框架能否推广至其他涉及稀疏、类别不平衡及不完整数据的医疗分类问题？

主要发现

• 所提出的多层级加权SVM（MLWSVM）在患者干预响应预测任务中达到0.8016的G-mean，优于自适应逻辑回归（0.7516）和标准多层级SVM（0.8012）。
• MLWSVM将敏感度（SN）提升至0.9739，特异度（SP）提升至0.6598，表明在干预响应预测中对少数类患者的检测能力显著增强。
• 该方法在干预数据集上实现了0.8495的准确率，较基线逻辑回归模型提升约10%。
• 由于采用多层级分解，MLWSVM展现出卓越的计算效率，可在不损失预测质量的前提下快速处理大规模数据集。
• EM插补与代价敏感SVM的集成显著降低了缺失值带来的偏差，提升了在多个真实医疗数据集上的模型鲁棒性。
• 该框架在公开基准数据集和真实临床数据上均表现出强大的泛化能力，涵盖财务风险预测与患者干预响应建模等任务。