[논문 리뷰] Evaluation of Fairness Trade-offs in Predicting Student Success

Hansol Lee, René F. Kizilcec|arXiv (Cornell University)|2020. 06. 30.

Online Learning and Analytics참고 문헌 9인용 수 9

한 줄 요약

이 연구는 미국의 연구 중심 대학에서 수집한 행정 데이터를 바탕으로 학생 성공 예측 모델에서 공정성의 상충 관계를 평가하며, 등급 기준 조정을 통해 기회 균등성을 향상시키는 후행적 접근을 적용한다. 공정성 기준 중 하나인 기회 균등성에 최적화하면, 인구집단 균형성과 정확도 예측 균형성의 공정성이 악화됨을 발견하여 교육 분야의 인공지능 시스템에서 공정성 기준 간의 본질적 상충관계를 입증한다.

ABSTRACT

Predictive models for identifying at-risk students early can help teaching staff direct resources to better support them, but there is a growing concern about the fairness of algorithmic systems in education. Predictive models may inadvertently introduce bias in who receives support and thereby exacerbate existing inequities. We examine this issue by building a predictive model of student success based on university administrative records. We find that the model exhibits gender and racial bias in two out of three fairness measures considered. We then apply post-hoc adjustments to improve model fairness to highlight trade-offs between the three fairness measures.

연구 동기 및 목표

• 실제 행정 데이터를 활용한 학생 성공 예측 모델에서의 공정성 상충 관계를 조사하기 위해.
• 후행적 임계값 조정이 인구집단 균형성, 기회 균등성, 정확도 예측 균형성의 세 가지 통계적 공정성 측정 기준에 미치는 영향을 평가하기 위해.
• 한 공정성 기준에 최적화할 경우 모델의 정확도와 성별 및 인종/민족 집단 간 공정성에 어떤 영향을 미치는지 조사하기 위해.
• 교육 예측 모델링에서 공정성 기준의 불가능성 결과가 실질적으로 어떤 의미를 갖는지 보여주기 위해.

제안 방법

• 2014년 가을학기부터 2019년 봄학기까지의 5,443명의 학생 기록을 기반으로 랜덤 포레스트 모델을 훈련시켰으며, 인구통계학적 정보, 시험 점수, 학점 평균(GPA), 이전 과목 성적 등의 특징을 사용하였다.
• 모델은 여섯 개의 필수 과목에서 중간 이상 성적을 받을 확률을 예측하였으며, 훈련에 78.4%의 데이터, 테스트에 21.6%의 데이터를 사용하였다.
• 기회 균등성을 달성하기 위해 후행적 임계값 조정을 적용하였으며, 남성과 여성 학생의 경우 각각 0.48과 0.58, 소수자 및 비소수자(URM) 학생의 경우 각각 0.46과 0.59의 임계값을 설정하였다.
• 공정성은 세 가지 지표를 사용해 평가하였다: 인구집단 균형성(동일한 양성 예측 비율), 기회 균등성(모든 집단 간 재현율 동일), 정확도 예측 균형성(모든 집단 간 정밀도 동일).
• 집단 간 차이의 통계적 유의성은 등비율 검정을 통해 평가하였으며, p-값은 p < 0.001, p < 0.05, p < 0.1로 보고되었다.

실험 결과

연구 질문

• RQ1 기본 예측 모델이 성별 및 인종/민족 집단 간 공정성 측면에서 학생 성공 예측 성능에 어떻게 영향을 미치는가?
• RQ2 후행적 임계값 조정을 통해 인구집단 균형성, 기회 균등성, 정확도 예측 균형성 간의 상충 관계는 어떻게 나타나는가?
• RQ3 기회 균등성에 최적화할 경우 다른 공정성 지표에서의 공정성은 어느 정도 영향을 받는가?
• RQ4 다른 공정성 지표에서의 불공정성을 악화시키지 않고, 한 공정성 기준에 대해 공정성을 확보할 수 있는가?

주요 결과

• 원래 모델은 심각한 편향을 보였다: URM 학생의 재현율은 비-URM 학생보다 20.2% 낮았으며(p < 0.001), 남성 학생의 재현율은 여성 학생보다 10.5% 낮았으며(p < 0.001), 이는 기회 균등성 원칙을 위반함을 의미한다.
• 기회 균등성을 달성하기 위해 임계값을 조정한 후, URM/비-URM 간 재현율 차이는 0.1%로 감소하였고, 남성/여성 간 차이는 -0.1%로 조정되어 공정성 향상이 성공적으로 이루어졌음을 나타낸다.
• 인구집단 균형성이 조정 후 향상되었으며, 양성 예측 비율의 차이가 URM 대비 비-URM에서 28.1%에서 8.0%로 감소하였고(p < 0.05), 성별 간 차이는 12.9%에서 1.0%로 감소하였다.
• 정확도 예측 균형성은 악화되었으며, URM 대비 비-URM의 정밀도 차이는 1.7%에서 6.8%로 증가하였고, 남성 대비 여성 간 차이는 5.2%에서 8.7%로 증가하여 비-URM 및 여성 학생이 더 높은 정밀도를 보였다.
• URM 학생의 모델 정확도는 약간 향상되어 0.695에서 0.736로 상승하였고, 비-URM 학생의 정확도는 유지되었으며, 전체 테스트 정확도는 0.73이었다.
• 결과적으로, 세 가지 공정성 지표를 동시에 만족시키는 것은 불가능하며, 한 지표의 공정성 향상이 다른 지표의 공정성 악화를 초래함을 확인하였고, 특히 정확도 예측 균형성에서의 악화가 두드러졌다.