[论文解读] An Ensemble Classifier for Predicting the Onset of Type II Diabetes

John Semerdjian, Spencer Frank|arXiv (Cornell University)|Aug 24, 2017

Artificial Intelligence in Healthcare参考文献 4被引用 3

一句话总结

本研究提出一种集成分类器，结合五种机器学习模型，利用来自NHANES调查数据的16个生活方式和人口统计学特征预测2型糖尿病发病。尽管采用了集成方法，梯度提升分类器单独实现的AUC最高，达到0.84，优于集成模型的0.834，表明在计算资源受限的情况下，模型加权和超参数调优存在局限性。

ABSTRACT

Prediction of disease onset from patient survey and lifestyle data is quickly becoming an important tool for diagnosing a disease before it progresses. In this study, data from the National Health and Nutrition Examination Survey (NHANES) questionnaire is used to predict the onset of type II diabetes. An ensemble model using the output of five classification algorithms was developed to predict the onset on diabetes based on 16 features. The ensemble model had an AUC of 0.834 indicating high performance.

研究动机与目标

• 利用来自NHANES数据集的易于获取的调查和生活方式数据，提高2型糖尿病发病预测的准确性。
• 开发一种集成模型，结合多个分类器以提升预测性能，超越单一模型的表现。
• 解释模型输出，用于现实世界中的临床和公共卫生应用，特别是在早期疾病检测和预防性护理方面。
• 评估数据填补和超参数调优对模型性能的影响。
• 在模型调优和特征加权复杂性背景下，确定集成方法是否在该数据集上始终优于单一模型。

提出的方法

• 本研究使用5,515个NHANES调查样本（1999–2004年），包含16个选定特征，包括年龄、BMI、腰围、血糖水平以及生活方式因素。
• 标签通过两种标准分配：自我报告的糖尿病诊断和空腹血糖水平>126 mg/dL，其中4,600个样本通过后一标准被标记为糖尿病患者。
• 保留20%作为测试集，并在训练集上使用10折交叉验证与网格搜索进行超参数调优。
• 独立训练五种基础分类器（SVM、随机森林、梯度提升、KNN、逻辑回归），并将它们的预测概率在集成模型中进行平均，同时采用可调的决策阈值。
• 对于缺失值（特征中超过25%缺失）使用训练集中的均值（数值型）和众数（分类变量）进行填补。
• 集成模型采用各模型概率的无加权平均，最终决策阈值通过调优以实现75%的糖尿病患者召回率。

实验结果

研究问题

• RQ1 与单一模型相比，基于NHANES调查数据的多分类器集成是否能提高2型糖尿病发病预测的准确性？
• RQ2 在临床筛查背景下，平衡敏感性（召回率）与特异性的最优决策阈值是什么？
• RQ3 数据填补策略和超参数调优如何影响该数据集上的模型性能？
• RQ4 尽管理论上具有优势，为何集成模型的表现仍逊于独立的梯度提升分类器？
• RQ5 调查数据模型在多大程度上可实现高AUC值，而0.83–0.84是否可视为该数据模态的实际性能上限？

主要发现

• 集成分类器实现了0.834的AUC，表明其在从调查数据预测2型糖尿病发病方面具有较强的判别能力。
• 独立的梯度提升分类器表现优于集成模型，AUC达到0.84，为所有测试模型中的最高值。
• 根据随机森林识别出的前五位最重要特征为：年龄、腰围、糖尿病家族史、身高和总胆固醇。
• 选定决策阈值T=0.78，以实现75%的糖尿病患者召回率，即正确识别出100例实际糖尿病患者中的75例。
• 该召回率水平需将2,165名患者通知为潜在糖尿病患者，其中包括55%的非糖尿病患者，凸显了敏感性与特异性之间的权衡。
• 本研究认为，当前性能上限（AUC≈0.83–0.84）可能已接近该数据集上简单分类器的理论上限，而数据填补是未来关键的改进方向。