[论文解读] Fair Personalization

L. Elisa Celis|arXiv (Cornell University)|Jul 7, 2017

Advanced Bandit Algorithms Research参考文献 21被引用 5

一句话总结

本文提出了一种公平个性化框架，通过在上下文 bandit 优化中引入在线群体公平约束，平衡个性化内容选择中的效用与公平性。通过在不同用户类型之间对内容群体的曝光度施加边界限制，该方法实现了对数多边形（poly-logarithmic）遗憾——表明在几乎不损失效用和相关性的情况下，可以实现公平性。

ABSTRACT

Personalization is pervasive in the online space as, when combined with learning, it leads to higher efficiency and revenue by allowing the most relevant content to be served to each user. However, recent studies suggest that such personalization can propagate societal or systemic biases, which has led to calls for regulatory mechanisms and algorithms to combat inequality. Here we propose a rigorous algorithmic framework that allows for the possibility to control biased or discriminatory personalization with respect to sensitive attributes of users without losing all of the benefits of personalization.

研究动机与目标

• 解决由算法个性化可能导致的个性化在线内容中的系统性偏见问题。
• 开发一种正式的、算法化的框架，以控制与敏感用户属性相关的偏见个性化。
• 在确保用户群体间公平性的同时，保持个性化推荐的高效率与相关性。
• 探索在线学习设置中公平约束与效用损失之间的权衡。
• 为新闻推荐、广告投放和推荐系统等场景提供可适用的公平个性化理论基础。

提出的方法

• 作者将在线群体公平性定义为对内容群体概率分布的约束，确保每类用户都能获得不同内容类型的均衡曝光。
• 他们将内容选择问题建模为带有公平约束的上下文 bandit 问题，其中基于反馈（如点击）更新内容的概率分布。
• 该框架利用 bandit 凸优化方法，在每一步时间都满足公平约束的前提下，最大化期望反馈（如点击）。
• 约束条件被定义为对每类内容 i 的曝光比例下限 ℓᵢ 和上限 uᵢ，以确保任何群体都不会被系统性地排除。
• 该方法允许在内容群体内部进行个性化，但防止群体间的偏差，从而保持内容曝光的多样性。
• 理论分析表明，若约束结构设计得当，即使在公平约束下，遗憾边界仍可保持近似最优（即对数多边形）。

实验结果

研究问题

• RQ1 是否可以形式化定义并强制执行个性化内容选择中的公平性，而无需牺牲效用？
• RQ2 公平约束如何整合进类似上下文 bandit 的在线学习框架中？
• RQ3 在个性化推荐系统中，公平性与效用之间的权衡是什么？
• RQ4 是否可以在保持相关个性化的同时，对所有用户类型维持公平性？
• RQ5 公平约束如何影响在线学习算法的收敛性与性能？

主要发现

• 所提出的框架在随机 bandit 设置下实现了对数多边形遗憾，表明公平约束不会显著降低学习效率。
• 理论结果表明，公平约束可被有效利用以维持近似最优的遗憾，表明公平个性化在几乎不损失效用的前提下是可行的。
• 该框架确保任何用户类型都不会系统性地被剥夺对特定内容群体的曝光，从而缓解系统性偏见。
• 通过约束内容群体的概率分布，算法可防止导致信息茧房或回音室效应的极端个性化。
• 该方法允许在内容群体内部实现个性化，同时防止群体间的偏差，从而在保障相关性的同时实现公平性。
• 该方法适用于现实世界系统，如新闻推荐和在线广告，这些场景中已实证记录到内容曝光的偏见。