[论文解读] PCA-RF: An Efficient Parkinson's Disease Prediction Model based on Random Forest Classification

Ishu Gupta, Vartika Sharma+2 more|arXiv (Cornell University)|Mar 21, 2022

Parkinson's Disease Mechanisms and Treatments被引用 30

一句话总结

该论文提出 PCA-RF，一种帕金森病预测模型，使用 PCA 进行特征降维，随后再使用随机森林分类器，在 UCI 帕金森病数据集上在无需 PCA 时达到约 90% 的准确率，在使用 PCA 时达到约 77% 的准确率。

ABSTRACT

In this modern era of overpopulation disease prediction is a crucial step in diagnosing various diseases at an early stage. With the advancement of various machine learning algorithms, the prediction has become quite easy. However, the complex and the selection of an optimal machine learning technique for the given dataset greatly affects the accuracy of the model. A large amount of datasets exists globally but there is no effective use of it due to its unstructured format. Hence, a lot of different techniques are available to extract something useful for the real world to implement. Therefore, accuracy becomes a major metric in evaluating the model. In this paper, a disease prediction approach is proposed that implements a random forest classifier on Parkinson's disease. We compared the accuracy of this model with the Principal Component Analysis (PCA) applied Artificial Neural Network (ANN) model and captured a visible difference. The model secured a significant accuracy of up to 90%.

研究动机与目标

• 推动尽早预测帕金森病以减轻医疗负担并实现及时干预。
• 开发一种面向高维医疗数据的高准确性、可扩展的分类器，使用 PCA 进行特征降维。
• 将 PCA-RF 与 PCA+ANN 基线进行比较，以评估特征降维对分类器性能的影响。
• 利用 PySpark 处理高维数据并评估标准性能指标。

提出的方法

• 应用 PCA 从具有 754 个特征的帕金森病数据集中提取简化后的特征集。
• 在 PCA 降维后的特征上训练随机森林分类器以预测疾病状态。
• 在随机森林中使用基尼不纯度来引导决策树分裂。
• 使用准确度、灵敏度、特异性、精确度、F1 分数和 ROC 分析来评估模型性能。
• 在 PySpark 上实现该流程，并与 PCA+ANN 基线进行比较。

实验结果

研究问题

• RQ1 在给定数据集上，在随机森林之前应用 PCA 是提升还是降低帕金森病预测的性能？
• RQ2 在准确度及其他性能指标方面，PCA-RF 相较于 PCA+ANN 有何差异？
• RQ3 PCA 对模型性能的影响在不牺牲灵敏度和特异性等关键指标的前提下有哪些？
• RQ4 PCA-RF 方法对高维医疗数据集是否具有可扩展性？

主要发现

• 在无 PCA 的情况下，PCA-RF 达到 89.867% 的准确率、70.175% 的灵敏度、96.470% 的特异性、70.175% 的精确度，以及 77.669% 的 F1 分数。
• 在使用 PCA 时，PCA-RF 达到 76.651% 的准确率、55.555% 的灵敏度、80.628% 的特异性、35.087% 的精确度，以及 43.010% 的 F1 分数。
• ROC 分析显示所提出模型具有较高的真正率，表明较好的判别能力。
• 与 PCA+ANN 相比，在非 PCA 设置下 PCA-RF 表现更好，但在应用 PCA 时表现较差，突显了特征降维与分类器选择之间的相互作用。
• 研究在报告的各项指标中记录了 PCA-RF 与 PCA+ANN 基线之间显著的准确率差异。