[논문 리뷰] Algorithmic Fairness in Education

René F. Kizilcec, Hansol Lee|arXiv (Cornell University)|2020. 07. 10.

Online Learning and Analytics인용 수 32

한 줄 요약

데이터 기반 교육 시스템에서 편향의 원인을 분석하고 통계적, 유사도 기반, 인과적 공정성의 개념을 검토하며 정책 결정자와 개발자를 위한 권고를 제시하는 소개.

ABSTRACT

Data-driven predictive models are increasingly used in education to support students, instructors, and administrators. However, there are concerns about the fairness of the predictions and uses of these algorithmic systems. In this introduction to algorithmic fairness in education, we draw parallels to prior literature on educational access, bias, and discrimination, and we examine core components of algorithmic systems (measurement, model learning, and action) to identify sources of bias and discrimination in the process of developing and deploying these systems. Statistical, similarity-based, and causal notions of fairness are reviewed and contrasted in the way they apply in educational contexts. Recommendations for policy makers and developers of educational technology offer guidance for how to promote algorithmic fairness in education.

연구 동기 및 목표

• 데이터 기반 교육에서 공정성 연구의 동기를 부여하고 측정, 모델 학습, 행동에서 편향이 발생할 수 있는 위치를 식별한다.
• 교육 맥락에 적용 가능한 서로 다른 공정성 개념을 조사하고 대조한다.
• 교육의 공정성을 촉진하기 위한 정책 입안자 및 에듀테크 개발자를 위한 지침과 권고를 제공한다.

제안 방법

• 교육의 알고리즘 시스템의 핵심 구성요소(측정, 모델 학습, 행동)를 검토하여 편향 원인을 식별한다.
• 교육 맥락에서 통계적, 유사도 기반 및 인과적 공정성 개념의 비교와 대조.
• 교육에서 알고리즘적 공정성을 촉진하기 위한 정책 입안자 및 개발자를 위한 권고의 종합.

실험 결과

연구 질문

• RQ1 편향과 차별이 발생할 수 있는 교육의 알고리즘 시스템의 핵심 구성 요소는 무엇인가요(측정, 모델 학습, 행동)?
• RQ2 교육 맥락에서 통계적, 유사도 기반, 인과적 공정성의 개념은 어떻게 적용될 수 있는가요?
• RQ3 교육에서 알고리즘적 공정성을 촉진하기 위해 정책 결정자와 에듀테크 개발자에게 어떤 지침을 제공할 수 있는가요?

주요 결과

• 교육 알고리즘 시스템의 개발 및 배치에서 편향과 차별의 원인을 식별한다.
• 교육 환경에서 서로 다른 공정성 개념(통계적, 유사도 기반, 인과적)을 검토하고 대조한다.
• 교육에서 알고리즘적 공정성을 촉진하기 위한 정책 입안자 및 개발자에 대한 권고를 제시한다.