[論文レビュー] Data-Driven Exploration of Factors Affecting Federal Student Loan Repayment

Bin Luo, Qi Zhang+1 more|arXiv (Cornell University)|May 3, 2018

Higher Education Research Studies参考文献 14被引用数 3

ひとこと要約

本研究では、米国大学スコアカードデータセットを用いて機械学習および統計モデルを適用し、連邦学生ローン返済率に影響を与える要因を同定した。主な要因として、学生の家族収入、ペル奨学金受給状況、早期退学率が最も予測能が高く、ランダムフォレストが線形モデルおよびエラスティック・ネットモデルを上回る予測精度（RMSE = 0.0153）を示した。

ABSTRACT

Student loans occupy a significant portion of the federal budget, as well as, the largest financial burden in terms of debt for graduates. This paper explores data-driven approaches towards understanding the repayment of such loans. Using statistical and machine learning models on the College Scorecard Data, this research focuses on extracting and identifying key factors affecting the repayment of a student loan. The specific factors can be used to develop models which provide predictive capability towards repayment rate, detect irregularities/non-repayment, and help understand the intricacies of student loans.

研究の動機と目的

• データドリブンな手法を用いて、連邦学生ローン返済率に最も影響を与える要因を同定すること。
• 機械学習モデル（ランダムフォレスト、エラスティック・ネット）の予測性能を従来の線形モデルと比較すること。
• 学生のデモグラフィック要因、教育機関の特徴、財政支援の役割が返済結果に与える影響を検討すること。
• 連邦ローンデータ内の潜在的関係を解明することで、政策立案および貸付意思決定を支援すること。
• 特徴量の重要度と交差検証技術を用いて、返済行動の予測モデリングを改善すること。

提案手法

• 大学スコアカードデータセットにおける潜在的要因を特定し次元削減するために主成分分析（PCA）を適用した。
• L1およびL2正則化を用いたエラスティック・ネット回帰を用い、特徴量選択を実施し、モデルの汎化性能を向上させた。
• 20本の決定木と10分割交差検証を用いたランダムフォレスト回帰を実装し、返済率を予測した。
• 順列ベースの分散低減法を用いて特徴量の重要度を計算し、予測要因の順位付けを行った。
• 予測誤差の評価に決定係数（RMSE）を用い、複数のモデル間で性能を比較した。
• 相関分析および特徴量クラスタリングを実施し、モデルの妥当性を検証するとともに、変数間の関係を探索した。

実験結果

リサーチクエスチョン

• RQ1 学生、教育機関、財政支援のどの要因が連邦学生ローン返済率を最も強く予測するか？
• RQ2 ランダムフォレストやエラスティック・ネットといった機械学習モデルは、従来の線形モデルと比較して返済予測にどの程度優れているか？
• RQ3 家族収入、ペル奨学金受給状況、早期退学率が返済結果にどの程度の影響を及ぼすか？
• RQ4 複数のモデリング手法において、特徴量の重要度に一貫性があるか？
• RQ5 教師なしまたはペナルティ付き特徴量選択手法は、モデルの精度および解釈可能性を向上させることができるか？

主な発見

• ランダムフォレストモデルが最も優れた性能を示し、RMSE = 0.0153を達成した。線形回帰およびエラスティック・ネットモデルを上回った。
• 家族収入（FAMINC）が最も重要な予測要因であり、高額な家族収入はデフォルトリスクの低減と強く相関していることを示した。
• ペル奨学金受給状況（PCTPELL）が2番目に重要な特徴量であり、財政支援が返済可能性を著しく向上させることを示唆した。
• 早期退学率（WDRAW_ORIG_YR2_RT）およびブラック系および白人系学生の登録割合（UGDS_BLACK, UGDS_WHITENH）も上位の予測要因であった。
• エラスティック・ネットモデルは「支援（Aid）」および「学校（School）」カテゴリを関連する要因として特定したが、相関分析のみではその特徴は浮き彫りにされなかった。
• 複数のモデルで特徴量の重要度が一貫しており、「学生（Student）」および「修了（Completion）」カテゴリの特徴量が予測力の中心を占めていた。