[논문 리뷰] Data-Driven Exploration of Factors Affecting Federal Student Loan Repayment

Bin Luo, Qi Zhang외 1명|arXiv (Cornell University)|2018. 05. 03.

Higher Education Research Studies참고 문헌 14인용 수 3

한 줄 요약

이 연구는 미국의 콜리지 스코어카드 데이터셋을 기반으로 기계학습 및 통계 모델을 사용하여 연방 학자금 대출 상환률에 영향을 주는 핵심 요인을 규명한다. 분석 결과, 학생 가구 소득, 펠 학자금 수혜 여부, 그리고 조기 이탈 비율이 가장 예측력 있는 요인으로 나타났으며, 랜덤 포레스트 모델이 선형 및 엘라스틱넷 모델보다 예측 정확도에서 뛰어났다 (RMSE = 0.0153).

ABSTRACT

Student loans occupy a significant portion of the federal budget, as well as, the largest financial burden in terms of debt for graduates. This paper explores data-driven approaches towards understanding the repayment of such loans. Using statistical and machine learning models on the College Scorecard Data, this research focuses on extracting and identifying key factors affecting the repayment of a student loan. The specific factors can be used to develop models which provide predictive capability towards repayment rate, detect irregularities/non-repayment, and help understand the intricacies of student loans.

연구 동기 및 목표

• 데이터 기반 방법을 활용하여 연방 학자금 대출 상환률에 가장 영향을 미치는 요인을 규명하는 것.
• 기계학습 모델(랜덤 포레스트, 엘라스틱넷)의 예측 성능를 기존 선형 모델과 비교하는 것.
• 학습자 인구통계학적 특성, 기관 특성, 재정 지원이 상환 결과에 미치는 영향을 분석하는 것.
• 연방 대출 데이터 내 잠재적 관계를 규명하여 정책 및 대출 결정을 지원하는 것.
• 특성 중요도 및 교차검증 기법을 활용하여 상환 행동 예측 모델링을 향상시키는 것.

제안 방법

• 콜리지 스코어카드 데이터셋의 잠재적 요인을 파악하고 차원을 축소하기 위해 주성분 분석(PCA)을 적용하였다.
• 특성 선택 및 모델 일반화를 향상시키기 위해 L1 및 L2 정규화를 적용한 엘라스틱넷 회귀를 사용하였다.
• 상환률을 예측하기 위해 20개의 결정 트리와 10중 교차검증을 적용한 랜덤 포레스트 회귀를 구현하였다.
• 특성 중요도를 계산하기 위해 순열 기반 분산 감소 기법을 활용하여 예측 변수를 순위화하였다.
• 예측 정확도 평가를 위해 루트 평균 제곱 오차(RMSE)를 계산하고, 다양한 모델 간 성능을 비교하였다.
• 모델 결과의 타당성을 검증하고 변수 간 상관관계를 탐색하기 위해 상관관계 분석 및 특성 클러스터링을 실시하였다.

실험 결과

연구 질문

• RQ1 학생, 기관, 재정 지원 요인이 연방 학자금 대출 상환률에 가장 강하게 영향을 주는 요인는 무엇인가?
• RQ2 랜덤 포레스트 및 엘라스틱넷과 같은 기계학습 모델은 기존 선형 모델 대비 대출 상환 예측에서 어떻게 성능을 발휘하는가?
• RQ3 가구 소득, 펠 학자금 수혜 여부, 조기 이탈 비율이 상환 결과에 어느 정도의 영향을 미치는가?
• RQ4 다양한 모델링 기법 간 일관된 특성 중요도 패턴이 존재하는가?
• RQ5 비지도 또는 정규화된 특성 선택 기법은 모델 정확도 및 해석 가능성 향상에 기여하는가?

주요 결과

• 랜덤 포레스트 모델이 가장 뛰어난 성능을 보였으며, RMSE는 0.0153이었다. 선형 회귀 및 엘라스틱넷 모델을 모두 앞섰다.
• 가구 소득(FAMINC)이 가장 중요한 예측 변수로 나타났으며, 이는 높은 가구 소득이 고립 위험과 강하게 관련되어 있음을 시사한다.
• 펠 학자금 수혜 여부(PCTPELL)가 두 번째로 중요한 특성으로 나타났으며, 이는 재정 지원이 상환 가능성을 크게 향상시킨다는 것을 의미한다.
• 조기 이탈 비율(WDRAW_ORIG_YR2_RT)과 흑인 및 백인 학생의 등록 비율(UGDS_BLACK, UGDS_WHITENH)도 상위 예측 변수로 나타났다.
• 엘라스틱넷 모델은 관련 카테고리로 'Aid'와 'School'을 특정하였으며, 이는 단순 상관관계 분석만으로는 드러나지 않았다.
• 모델 간 일관된 특성 중요도 패atters를 보였으며, 'Student' 및 'Completion' 카테고리가 예측 능력에서 지배적인 역할을 하였다.