[論文レビュー] Algorithmic Fairness in Education

René F. Kizilcec, Hansol Lee|arXiv (Cornell University)|Jul 10, 2020

Online Learning and Analytics被引用数 32

ひとこと要約

データ主導の教育システムにおける偏りの源を分析し、統計的・類似性ベース・因果的な公正性の概念をレビューし、政策立案者と開発者への推奨を提供する導入。

ABSTRACT

Data-driven predictive models are increasingly used in education to support students, instructors, and administrators. However, there are concerns about the fairness of the predictions and uses of these algorithmic systems. In this introduction to algorithmic fairness in education, we draw parallels to prior literature on educational access, bias, and discrimination, and we examine core components of algorithmic systems (measurement, model learning, and action) to identify sources of bias and discrimination in the process of developing and deploying these systems. Statistical, similarity-based, and causal notions of fairness are reviewed and contrasted in the way they apply in educational contexts. Recommendations for policy makers and developers of educational technology offer guidance for how to promote algorithmic fairness in education.

研究の動機と目的

• データ主導の教育における公正性の研究を促進し、測定・モデル学習・行動において偏りが生じうる場所を特定する。
• 教育文脈に適用可能なさまざまな公正性の概念を調査・対比する。
• 教育の公正性を促進するための政策立案者と教育技術開発者への指針と提言を提供する。

提案手法

• 教育におけるアルゴリズム系システムのコア要素（測定・モデル学習・行動）を検討し、偏りの源を特定する。
• 教育文脈における統計的・類似性ベース・因果的な公正性概念の比較と対照。
• 教育におけるアルゴリズム公正性を促進するための政策立案者と開発者への提言を統合する。

実験結果

リサーチクエスチョン

• RQ1 偏りと差別が生じうる教育におけるアルゴリズム系システムの核心要素は何か（測定・モデル学習・行動）？
• RQ2 統計的・類似性ベース・因果的公正性の概念は教育文脈でどのように適用されるか？
• RQ3 教育におけるアルゴリズム公正性を促進するために、政策立案者と教育技術開発者へどのような指針を提供できるか？

主な発見

• 教育用アルゴリズムシステムの開発・展開における偏りと差別の源を特定する。
• 教育現場におけるさまざまな公正性の概念（統計的・類似性ベース・因果的）を検討・対比する。
• 教育におけるアルゴリズム公正性を促進するための政策立案者と開発者への提言を提供する。