[论文解读] Data-Driven Exploration of Factors Affecting Federal Student Loan Repayment

Bin Luo, Qi Zhang+1 more|arXiv (Cornell University)|May 3, 2018

Higher Education Research Studies参考文献 14被引用 3

一句话总结

本研究利用机器学习和统计模型对美国大学评分卡数据集进行分析，识别影响联邦学生贷款偿还率的关键因素。研究发现，学生家庭年收入、佩尔助学金获得情况以及早期退学率是最重要的预测因子，且随机森林模型在预测准确度上优于线性模型和弹性网络模型（RMSE = 0.0153）。

ABSTRACT

Student loans occupy a significant portion of the federal budget, as well as, the largest financial burden in terms of debt for graduates. This paper explores data-driven approaches towards understanding the repayment of such loans. Using statistical and machine learning models on the College Scorecard Data, this research focuses on extracting and identifying key factors affecting the repayment of a student loan. The specific factors can be used to develop models which provide predictive capability towards repayment rate, detect irregularities/non-repayment, and help understand the intricacies of student loans.

研究动机与目标

• 利用数据驱动方法识别影响联邦学生贷款偿还率的最关键因素。
• 比较机器学习模型（随机森林、弹性网络）与传统线性模型在预测性能上的差异。
• 探究学生人口统计特征、机构特征以及经济援助在塑造偿还结果中的作用。
• 通过揭示联邦贷款数据中的潜在关系，为政策制定和贷款决策提供支持。
• 利用特征重要性与交叉验证技术，提升对偿还行为预测建模的准确性。

提出的方法

• 对大学评分卡数据集应用主成分分析（PCA），以降低维度并识别潜在因子。
• 采用带有L1和L2正则化的弹性网络回归，实现特征选择并提升模型泛化能力。
• 实施包含20棵决策树的随机森林回归模型，并采用10折交叉验证预测偿还率。
• 通过置换基的方差减少法计算特征重要性，以对预测因子进行排序。
• 使用均方根误差（RMSE）评估模型性能，并在不同模型间进行比较。
• 开展相关性分析与特征聚类，以验证模型结果并探索变量间的相互关系。

实验结果

研究问题

• RQ1 哪些学生、机构及经济援助因素最能预测联邦学生贷款偿还率？
• RQ2 与传统线性模型相比，随机森林和弹性网络等机器学习模型在预测贷款偿还方面的表现如何？
• RQ3 家庭收入、佩尔助学金资格以及早期退学率在多大程度上影响偿还结果？
• RQ4 多种建模技术之间是否存在一致的特征重要性模式？
• RQ5 无监督或惩罚性特征选择方法是否能提升模型的准确度与可解释性？

主要发现

• 随机森林模型表现最佳，RMSE为0.0153，优于线性回归和弹性网络模型。
• 家庭年收入（FAMINC）是最关键的预测因子，表明家庭收入越高，违约风险越低。
• 佩尔助学金获得情况（PCTPELL）为第二重要的特征，表明经济援助显著提高偿还可能性。
• 早期退学率（WDRAW_ORIG_YR2_RT）以及黑人和白人学生在校生比例（UGDS_BLACK, UGDS_WHITITENH）也是主要预测因子。
• 弹性网络模型识别出“援助”和“学校”类别具有相关性，而这些未在仅依赖相关性分析时被突出显示。
• 不同模型间特征重要性具有一致性，其中“学生”和“完成情况”类别在预测能力上占据主导地位。