[论文解读] Algorithmic Fairness in Education

René F. Kizilcec, Hansol Lee|arXiv (Cornell University)|Jul 10, 2020

Online Learning and Analytics被引用 32

一句话总结

一份介绍性文献，分析数据驱动教育系统中的偏见来源，并评述统计、基于相似性和因果的公平性概念，同时提出对政策制定者和开发者的建议。

ABSTRACT

Data-driven predictive models are increasingly used in education to support students, instructors, and administrators. However, there are concerns about the fairness of the predictions and uses of these algorithmic systems. In this introduction to algorithmic fairness in education, we draw parallels to prior literature on educational access, bias, and discrimination, and we examine core components of algorithmic systems (measurement, model learning, and action) to identify sources of bias and discrimination in the process of developing and deploying these systems. Statistical, similarity-based, and causal notions of fairness are reviewed and contrasted in the way they apply in educational contexts. Recommendations for policy makers and developers of educational technology offer guidance for how to promote algorithmic fairness in education.

研究动机与目标

• 推动对数据驱动教育中公平性的研究，并识别偏见可能在测量、模型学习和行动中产生的环节。
• 调查并对比在教育情境中适用的不同公平性概念。
• 为政策制定者和教育科技开发者提供促进教育公平的指南和建议。

提出的方法

• 对教育中算法系统的核心组成部分进行回顾：测量、模型学习和行动，以识别偏见来源。
• 在教育情境中对统计、基于相似性和因果的公平性概念进行比较与对照。
• 综合为政策制定者和开发者提出的促进教育中算法公平性的建议。

实验结果

研究问题

• RQ1 在教育中偏见和歧视可能产生的算法系统的核心组成部分是什么（测量、模型学习、行动）？
• RQ2 统计、基于相似性和因果的公平性概念在教育情境中如何应用？
• RQ3 可以向政策制定者和教育科技开发者提供哪些促进教育中算法公平性的指导？

主要发现

• 识别教育算法系统开发与部署中的偏见与歧视源头。
• 在教育情境中回顾并对比不同的公平性概念（统计、基于相似性、因果）。
• 为政策制定者和开发者提供促进教育中算法公平性的建议。