[论文解读] Equality of Learning Opportunity via Individual Fairness in Personalized Recommendations

Mirko Marras, Ludovico Boratto+2 more|arXiv (Cornell University)|Jun 7, 2020

Online Learning and Analytics参考文献 105被引用 47

一句话总结

本文提出了一种公平性感知的后处理方法，用于个性化课程推荐，以在个体个性化与学习机会均等之间取得平衡。通过将七个教育原则——熟悉度、有效性、可学性、多样性、质量、可管理性和可负担性——形式化为综合公平性度量，该方法在真实世界中包含40,000多名学习者和30,000门课程的数据集上，显著减少了学习者之间课程推荐中的系统性不平等，同时仅导致个性化性能的可忽略下降。

ABSTRACT

Online educational platforms are playing a primary role in mediating the success of individuals' careers. Therefore, while building overlying content recommendation services, it becomes essential to guarantee that learners are provided with equal recommended learning opportunities, according to the platform values, context, and pedagogy. Though the importance of ensuring equality of learning opportunities has been well investigated in traditional institutions, how this equality can be operationalized in online learning ecosystems through recommender systems is still under-explored. In this paper, we formalize educational principles that model recommendations' learning properties, and a novel fairness metric that combines them in order to monitor the equality of recommended learning opportunities among learners. Then, we envision a scenario wherein an educational platform should be arranged in such a way that the generated recommendations meet each principle to a certain degree for all learners, constrained to their individual preferences. Under this view, we explore the learning opportunities provided by recommender systems in a large-scale course platform, uncovering systematic inequalities. To reduce this effect, we propose a novel post-processing approach that balances personalization and equality of recommended opportunities. Experiments show that our approach leads to higher equality, with a negligible loss in personalization. Our study moves a step forward in operationalizing the ethics of human learning in recommendations, a core unit of intelligent educational systems.

研究动机与目标

• 在在线教育推荐系统中实现学习机会均等化。
• 识别并量化学习者之间课程推荐中的系统性不平等。
• 开发一种后处理方法，在不显著损害个性化的情况下提升公平性。
• 将教学法原则形式化为公平性度量，以监控和改善推荐中的公平性。

提出的方法

• 将七个教育原则——熟悉度、有效性、可学性、多样性、质量、可管理性和可负担性——定义为推荐课程的可度量属性。
• 通过使用归一化、基于倒数的公式，将这些原则组合成每个学习者的单一评分，构建综合公平性度量。
• 应用贪心优化算法对推荐列表进行后处理，以在保持个性化的同时最大化公平性。
• 使用Hellinger距离衡量熟悉度，使用基尼指数衡量可学性，使用归一化线性缩放衡量质量、可管理性和可负担性。
• 采用个性化（通过用户反馈评分）与平台原则一致性之间的凸组合来指导优化。
• 证明了目标函数的子模性，从而确保贪心优化具有(1−1/e)的近似保证。

实验结果

研究问题

• RQ1 现有在线教育平台的推荐系统在多大程度上导致了学习者之间学习机会的不平等？
• RQ2 如何通过结合质量、有效性及可负担性等教学法原则，正式衡量课程推荐中的公平性？
• RQ3 后处理方法是否能在不显著降低个性化性能的前提下提升推荐的公平性？
• RQ4 在大规模教育推荐系统中，公平性与个性化之间存在何种权衡？

主要发现

• 所提出的后处理方法显著提高了学习者之间推荐学习机会的均等性，公平性度量有明显改善。
• 该方法仅造成个性化性能的可忽略损失，用户反馈评分的排名得分几乎未下降。
• 基线推荐中观察到系统性不平等：学习者根据其交互历史，获得对高质量、更新及时且价格低廉课程的非均衡访问。
• 公平性度量有效捕捉了课程属性（如新鲜度、质量与成本）中的差异，揭示了标准协同过滤算法中的偏见。
• 贪心优化方法提供了接近最优的解，具有(1−1/e)的近似保证，确保计算效率。
• 在包含40,000多名学习者和30,000门课程的真实世界数据集上的实证评估证实，该方法在保持强个性化的同时，有效缩小了公平性差距。