[论文解读] Discriminant Analysis in Contrasting Dimensions for Polycystic Ovary Syndrome Prognostication

Abhishek Gupta, Himanshu B. Soni+2 more|arXiv (Cornell University)|Jan 9, 2022

Face and Expression Recognition被引用 4

一句话总结

本文提出使用线性判别分析（LDA）和二次判别分析（QDA）进行多囊卵巢综合征（PCOS）预后预测中的监督维数缩减与二分类。通过利用QDA中的类别特定协方差结构，该方法在测试数据上实现了95.92%的高准确率，通过优化特征分离并可视化类别可分性，展现出优于传统机器学习模型的性能。

ABSTRACT

A lot of prognostication methodologies have been formulated for early detection of Polycystic Ovary Syndrome also known as PCOS using Machine Learning. PCOS is a binary classification problem. Dimensionality Reduction methods impact the performance of Machine Learning to a greater extent and using a Supervised Dimensionality Reduction method can give us a new edge to tackle this problem. In this paper we present Discriminant Analysis in different dimensions with Linear and Quadratic form for binary classification along with metrics. We were able to achieve good accuracy and less variation with Discriminant Analysis as compared to many commonly used classification algorithms with training accuracy reaching 97.37% and testing accuracy of 95.92% using Quadratic Discriminant Analysis. Paper also gives the analysis of data with visualizations for deeper understanding of problem.

研究动机与目标

• 通过聚焦于维数缩减，利用机器学习提高PCOS的早期检测能力。
• 评估线性判别分析（LDA）和二次判别分析（QDA）作为PCOS二分类任务中监督维数缩减技术的有效性。
• 通过AUC、精确率-召回率和F1分数等综合指标，将LDA和QDA的性能与常见机器学习算法进行比较。
• 在降维空间中提供数据可分性的可视化与统计分析，以增强可解释性。
• 证明由于其灵活的协方差建模能力，QDA在PCOS预后中优于LDA及其他模型。

提出的方法

• 本研究应用线性判别分析（LDA），将特征投影到低维空间，通过最小化类内方差并最大化类间方差，以最大化类别可分性。
• 二次判别分析（QDA）作为LDA的变体，通过为每个类别估计独立的协方差矩阵，允许生成二次决策边界。
• LDA和QDA的判别函数均基于多元正态分布推导，其中QDA引入了类别特定的协方差矩阵和先验概率。
• 性能通过标准分类指标进行评估：准确率、精确率、召回率、F1分数、AUC和平均精确率，并对模型比较进行了精确率-召回率曲线和ROC曲线的可视化。
• 采用数据可视化技术，包括带椭圆轮廓的散点图，以说明判别空间中的类别可分性。
• 应用贝叶斯优化对超参数进行调优，以提升分类框架中的似然估计性能。

实验结果

研究问题

• RQ1 与标准机器学习模型相比，通过LDA和QDA实现的监督维数缩减是否能提升PCOS预后的准确率？
• RQ2 在PCOS数据背景下，QDA通过使用类别特定协方差矩阵，如何提升分类性能？
• RQ3 精确率-召回率曲线和ROC曲线在多大程度上反映了LDA和QDA在PCOS数据上的鲁棒性与泛化能力？
• RQ4 判别成分在降维特征空间中，对PCOS与非PCOS病例的可分性可视化效果如何？
• RQ5 在PCOS检测中，QDA与LDA及其他机器学习模型相比，其AUC和平均精确率的相对表现如何？

主要发现

• 二次判别分析（QDA）在测试集上达到了95.92%的准确率，优于线性判别分析及其他常用算法。
• QDA的训练准确率达到97.37%，表明模型在训练集上具有较强的拟合能力。
• QDA在AUC和精确率-召回率曲线下方面积方面优于LDA，表明其整体预测性能更优。
• QDA的精确率-召回率曲线在初始高精确率后出现更陡峭的下降，表明在不同阈值下均保持了稳定的正样本预测质量。
• 可视化结果表明，QDA的二次判别空间中类别可分性更清晰，PCOS（是）和非PCOS（否）标签的椭圆轮廓更为分明。
• 本研究证实，通过QDA实现的监督维数缩减可同时提升PCOS预后预测的分类准确率与可解释性。