[论文解读] Bias Disparity in Recommendation Systems

Virginia Tsintzou, Evaggelia Pitoura+1 more|arXiv (Cornell University)|Nov 4, 2018

Recommender Systems and Techniques参考文献 8被引用 22

一句话总结

本文提出了推荐系统中偏差差异（bias disparity）的概念，即算法推荐会放大或扭曲用户群体对项目类别的既有偏好。基于合成数据和真实世界数据（MovieLens 1M），研究发现协同过滤算法会加剧基于性别的类型偏好差异，并提出一种贪心重排序算法（GULM），在最小化效用损失的同时消除偏差差异，显著减少迭代推荐循环中的长期偏差放大现象。

ABSTRACT

Recommender systems have been applied successfully in a number of different domains, such as, entertainment, commerce, and employment. Their success lies in their ability to exploit the collective behavior of users in order to deliver highly targeted, personalized recommendations. Given that recommenders learn from user preferences, they incorporate different biases that users exhibit in the input data. More importantly, there are cases where recommenders may amplify such biases, leading to the phenomenon of bias disparity. In this short paper, we present a preliminary experimental study on synthetic data, where we investigate different conditions under which a recommender exhibits bias disparity, and the long-term effect of recommendations on data bias. We also consider a simple re-ranking algorithm for reducing bias disparity, and present some observations for data disparity on real data.

研究动机与目标

• 定义并形式化推荐系统中偏差差异的概念，其中输入偏差与输出偏差不同。
• 利用合成数据研究协同过滤算法中偏差差异出现的条件。
• 分析迭代推荐对数据偏差的长期影响，特别是在群体偏好不平衡存在的情况下。
• 使用带有性别和类型属性的MovieLens 1M数据集，在真实世界数据上评估偏差差异。
• 设计并评估一种后处理重排序算法（GULM），以在保持推荐效用的同时减少偏差差异。

提出的方法

• 本文将输入偏好比率 $ PR_S(G,C) $ 定义为群体 $ G $ 在类别 $ C $ 中的选择比例，将偏差 $ B_S(G,C) $ 定义为该比例与整体类别流行度的比值。
• 输出偏差类似地从推荐矩阵 $ R $ 计算得出，偏差差异通过输入偏差与输出偏差之间的差值来衡量。
• 提出一种贪心重排序算法（GULM），通过将过度代表类别的低效用推荐与代表性不足类别的高效用推荐进行交换，以最小化效用损失。
• 该算法按用户操作，将偏差类别中排名最低的项目与推荐集合外排名最高的项目配对，确保效用下降最小。
• 通过模拟推荐算法的迭代应用，结合依赖于效用的接受概率，研究长期偏差的演化过程。
• 实验在合成数据上进行，以研究不同偏好比率和群体不平衡下的偏差差异；同时在带有性别和电影类型属性的真实MovieLens 1M数据上进行实验。

实验结果

研究问题

• RQ1 协同过滤推荐系统在何种条件下会表现出输入偏好与输出推荐之间的偏差差异？
• RQ2 推荐算法的迭代应用如何影响数据偏差的长期演化？
• RQ3 后处理重排序算法在多大程度上能减少偏差差异，同时不显著降低推荐效用？
• RQ4 群体不平衡如何影响偏差差异的出现与持续存在？
• RQ5 效用感知的推荐接受机制对迭代推荐循环中偏差的稳定性与演化有何影响？

主要发现

• 在MovieLens 1M数据集中，男性用户对动作类电影的输入偏差为1.39，推荐中的偏差上升至1.67，表明存在显著的偏差差异。
• 女性用户对爱情类电影的输入偏差为0.58，但输出偏差下降至0.28，表明推荐可能低估了女性偏好。
• 即使在男性和女性用户群体平衡后，偏差差异依然存在，表明其并非仅由群体规模失衡引起。
• GULM重排序算法成功将偏差差异减少至接近零，同时仅造成极小的效用损失，实验结果已验证该效果。
• 重排序后，偏差在迭代推荐周期中保持稳定，仅在高偏好比率下出现小幅增加，表明对反馈循环具有鲁棒性。
• 本研究证明，偏差差异不仅存在，而且可以通过一种基于效用感知的贪心重排序策略系统性地纠正，同时保持推荐质量。