[论文解读] Towards Fair Personalization by Avoiding Feedback Loops

Gökhan Çapan, Özge Bozal+2 more|arXiv (Cornell University)|Dec 20, 2020

Recommender Systems and Techniques参考文献 22被引用 20

一句话总结

本文提出了一种公平的个性化框架，通过在偏好推断中显式建模系统性曝光，避免推荐系统中的反馈循环。采用带Thompson采样的Dirichlet-Luce模型，纠正因过度或不足呈现导致的偏差，实现准确的偏好估计，并发现最初被屏蔽的顶级选项，同时避免对推广项目过度估计。

ABSTRACT

Self-reinforcing feedback loops are both cause and effect of over and/or under-presentation of some content in interactive recommender systems. This leads to erroneous user preference estimates, namely, overestimation of over-presented content while violating the right to be presented of each alternative, contrary of which we define as a fair system. We consider two models that explicitly incorporate, or ignore the systematic and limited exposure to alternatives. By simulations, we demonstrate that ignoring the systematic presentations overestimates promoted options and underestimates censored alternatives. Simply conditioning on the limited exposure is a remedy for these biases.

研究动机与目标

• 解决由于内容过度或不足呈现而导致的自增强反馈循环所引发的交互式推荐系统中的公平性问题。
• 纠正因系统性曝光而产生的偏差偏好估计，例如对推广或热门项目过度估计，以及对极少呈现的选项低估。
• 确保所有选项，包括最初被屏蔽或不受欢迎的选项，都有公平的机会被发现和推荐。
• 开发一种对初始偏差具有鲁棒性的个性化系统，促进真实用户偏好的发现，避免过滤气泡。

提出的方法

• 本文采用Dirichlet-Luce模型对用户偏好进行贝叶斯推断，显式地将呈现的选项集合作为条件，以纠正曝光偏差。
• 利用Thompson采样基于偏好的后验样本生成呈现集合，从而实现对未充分呈现选项的探索，并平衡利用与探索。
• 系统使用满足Luce选择公理的离散选择模型来建模用户选择，确保选择概率与潜在偏好强度成比例。
• 偏好估计通过用户在呈现子集内的部分反馈在线更新，避免依赖完整项目集的反馈。
• 该方法与朴素的Dirichlet-Multinomial模型形成对比，后者忽略呈现结构，因此无法纠正曝光偏差。
• 使用蒙特卡洛方法近似Dirichlet-Luce模型中难以计算的量，尽管计算成本较高，但实现了实际应用。

实验结果

研究问题

• RQ1 在偏好推断中忽略系统性曝光会导致推荐系统中用户偏好的估计产生何种偏差？
• RQ2 在推断过程中显式建模呈现集合，能否纠正对过度呈现项目和不足呈现项目的估计偏差？
• RQ3 当初始被屏蔽的选项（如选项4和5）未被呈现时，推荐系统在多大程度上能发现并最终呈现用户的真实首选项？
• RQ4 系统初始的选择偏差如何影响长期偏好估计，是否能在时间推移中得到纠正？
• RQ5 将曝光结构纳入模型是否能提升公平性、发现能力以及对不公平比较的鲁棒性？

主要发现

• 基于呈现集合条件化的Dirichlet-Luce模型成功纠正了对推广选项（如始终包含在每次呈现中的选项3）的过度估计，而Dirichlet-Multinomial模型则存在过度估计。
• 当最初被屏蔽的选项（如选项4和5）未被呈现时，Dirichlet-Luce模型避免施加负向偏差，并最终学会呈现真实顶级选项；而Dirichlet-Multinomial模型无法恢复其真实偏好强度。
• Dirichlet-Luce模型通过随数据积累逐步调整偏好估计，纠正了因不公平比较（如反复将一个好选项与一个更优选项并列呈现）导致的初始误解。
• 基于Thompson采样的呈现机制优于贪婪策略，通过促进对未充分呈现选项的探索，实现对用户偏好的更好长期发现。
• 该模型对推广偏差和屏蔽偏差均表现出鲁棒性，表明在曝光上进行条件化是实现公平且准确个性化的重要前提。
• 尽管由于难以计算的期望值导致计算成本较高，但蒙特卡洛近似使得Dirichlet-Luce模型在实践中得以有效实现。