[论文解读] Exploring User Opinions of Fairness in Recommender Systems

Jessie J. Smith, Nasim Sonboli+2 more|arXiv (Cornell University)|Mar 13, 2020

Ethics and Social Impacts of AI参考文献 8被引用 5

一句话总结

本研究通过以用户为中心的方法，调查了多利益相关者推荐系统中消费者对公平性的感知，发现当潜在危害明显时，用户尤其重视提供方公平性——尤其是在住房、就业和贷款等高风险领域。其主要贡献在于识别出用户在个性化与公平性之间权衡的内在驱动因素，强调透明度与偏见意识设计对于建立推荐算法的信任与公平性至关重要。

ABSTRACT

Algorithmic fairness for artificial intelligence has become increasingly relevant as these systems become more pervasive in society. One realm of AI, recommender systems, presents unique challenges for fairness due to trade offs between optimizing accuracy for users and fairness to providers. But what is fair in the context of recommendation--particularly when there are multiple stakeholders? In an initial exploration of this problem, we ask users what their ideas of fair treatment in recommendation might be, and why. We analyze what might cause discrepancies or changes between user's opinions towards fairness to eventually help inform the design of fairer and more transparent recommendation algorithms.

研究动机与目标

• 理解消费者如何定义推荐系统中的公平性，特别是在涉及消费者和提供方等多方利益相关者的语境下。
• 研究推荐后果的感知如何影响用户在个性化与公平性之间进行权衡的意愿。
• 考察透明度与解释在塑造用户对推荐系统中公平对待感知方面的作用。
• 识别个人偏见和利益相关者视角如何影响用户对算法推荐公平性的看法。
• 通过将公平目标建立在用户价值观和期望的基础上，为设计更公平、更透明的推荐系统提供建议。

提出的方法

• 对30名参与者（主要为大学生）进行了深入的半结构化访谈，探讨他们对Netflix、Amazon和Kiva等熟悉推荐系统中公平性的看法。
• 采用主题分析法，识别用户在公平性、偏见、透明度和权衡等方面回应中的重复性模式与主题。
• 在高风险应用场景（如住房、求职、贷款平台）的语境下分析用户回应，评估感知风险如何影响其公平性偏好。
• 探讨解释与透明度如何影响用户对信任和公平性的感知，特别是在推荐为提升提供方多样性而被调整时。
• 分析个人背景与经验（如Etsy卖家身份）对用户公平性偏好和偏见意识的影响。
• 收集并分析用户对公平性是否应设为默认设置的反思，以及解释应如何设计以避免操纵。

实验结果

研究问题

• RQ1 当涉及消费者和提供方等多方利益相关者时，用户如何定义推荐系统中的公平性？
• RQ2 推荐后果的感知（如在住房、就业或贷款领域）如何影响用户在个性化与提供方公平性之间的偏好？
• RQ3 用户的个人偏见与经验在多大程度上塑造了其对算法推荐公平性的看法？
• RQ4 解释与透明度在多大程度上影响用户对推荐系统公平性与信任的感知？
• RQ5 将公平性设为默认设置在多大程度上有助于用户识别并正视其在推荐消费中的内在偏见？

主要发现

• 当推荐具有高风险后果（如在住房、就业或金融贷款领域）时，用户愿意为提升提供方公平性而牺牲一定程度的个性化。
• 参与者表示，Zillow和Indeed.com等系统应将公平性作为核心目标，因为有偏见的推荐可能导致系统性不公或造成伤害。
• 个人背景与经验（如Etsy卖家身份）显著影响用户对提供方的同理心，以及其对公平性高于个性化的偏好。
• 许多用户对看似操纵决策的解释感到不适，警告称设计不良的解释可能微妙地强化偏见，或‘洗脑’用户接受特定选择。
• 用户更青睐能解释‘为何’推荐偏离个性化以实现公平性的透明度，但拒绝那些旨在说服或改变行为的解释。
• 人们强烈支持将公平性设为系统默认选项，并允许用户选择退出，以此帮助用户识别并理解自身在推荐消费中的隐性偏见。