[论文解读] Predicting Early Dropout: Calibration and Algorithmic Fairness Considerations

Marzieh Karimi-Haghighi, Carlos Castillo+2 more|arXiv (Cornell University)|Mar 16, 2021

Ethics and Social Impacts of AI参考文献 34被引用 9

一句话总结

该论文提出了一种校准的机器学习模型，利用注册时的数据（包括人口统计学信息、高中背景和入学成绩）预测本科生早期退学和表现不佳的情况。该模型在不同人口群体中均表现出良好的性能，AUC得分为0.77–0.78，展示了公平的广义假阳性率和假阴性率，并有效降低了假阳性率，同时未损害模型的校准性。

ABSTRACT

In this work, the problem of predicting dropout risk in undergraduate studies is addressed from a perspective of algorithmic fairness. We develop a machine learning method to predict the risks of university dropout and underperformance. The objective is to understand if such a system can identify students at risk while avoiding potential discriminatory biases. When modeling both risks, we obtain prediction models with an Area Under the ROC Curve (AUC) of 0.77-0.78 based on the data available at the enrollment time, before the first year of studies starts. This data includes the students' demographics, the high school they attended, and their admission (average) grade. Our models are calibrated: they produce estimated probabilities for each risk, not mere scores. We analyze if this method leads to discriminatory outcomes for some sensitive groups in terms of prediction accuracy (AUC) and error rates (Generalized False Positive Rate, GFPR, or Generalized False Negative Rate, GFNR). The models exhibit some equity in terms of AUC and GFNR along groups. The similar GFNR means a similar probability of failing to detect risk for students who drop out. The disparities in GFPR are addressed through a mitigation process that does not affect the calibration of the model.

研究动机与目标

• 开发一种机器学习系统，利用注册时可获取的数据预测大学生早期退学和表现不佳的情况。
• 确保模型的预测结果具有良好校准性，提供可靠的概率估计，而非原始得分。
• 通过分析不同敏感人口群体在预测准确性（AUC）和误差率（GFPR、GFNR）方面的差异，评估算法公平性。
• 在不损害模型校准性的前提下，减轻假阳性率中的不公平差异。
• 评估模型在不同人口群体中是否能保持对高风险学生的公平检测能力。

提出的方法

• 模型使用注册时的特征：学生的人口统计学信息、所读高中以及入学平均成绩。
• 训练机器学习算法以预测两个结果：退学和表现不佳，生成校准后的概率估计。
• 通过适当的概率评分技术确保模型校准，避免依赖原始预测得分。
• 计算广义假阳性率（GFPR）和广义假阴性率（GFNR），以评估不同人口群体间的公平性。
• 应用缓解过程以减少GFPR中的差异，同时不降低模型校准性。
• 使用受试者工作特征曲线下面积（AUC）进行性能评估，并通过子群分析评估公平性。

实验结果

研究问题

• RQ1 基于注册时数据训练的机器学习模型能否以高准确率预测早期退学和表现不佳？
• RQ2 预测结果在不同人口群体中的校准程度如何？
• RQ3 在敏感群体之间，假阳性率或假阴性率是否存在显著差异？
• RQ4 能否在不损害模型校准性的前提下，缓解GFPR中的公平性差异？
• RQ5 该模型是否在不同人口群体中保持对最终退学学生的公平检测率（GFNR）？

主要发现

• 仅使用注册时数据，该模型在预测退学和表现不佳方面AUC得分为0.77–0.78。
• 该模型校准良好，能为每位学生的风险提供可靠的概率估计。
• 不同人口群体之间的广义假阴性率（GFNR）差异极小，表明对退学学生的检测率相似。
• 观察到广义假阳性率（GFPR）存在差异，但通过公平性感知的后处理步骤成功得到缓解。
• 缓解过程保持了模型校准性，确保各群体的概率估计依然可靠。
• 结果表明，该模型在保持预测性能和公平性的同时，支持了公平的风险识别。