[论文解读] FairRec: Fairness-aware News Recommendation with Decomposed Adversarial Learning

Chuhan Wu, Fangzhao Wu+3 more|arXiv (Cornell University)|Jun 30, 2020

Recommender Systems and Techniques参考文献 32被引用 19

一句话总结

本文提出 FairRec，一种公平感知的新闻推荐框架，通过对抗学习和正交性正则化，将用户嵌入分解为与偏差相关和与偏差无关的组件。通过将敏感属性信息从无偏差嵌入中隔离并移除，FairRec 在基准数据集上仅带来最小的性能下降，显著提升了推荐的公平性。

ABSTRACT

News recommendation is important for online news services. Existing news recommendation models are usually learned from users' news click behaviors. Usually the behaviors of users with the same sensitive attributes (e.g., genders) have similar patterns and news recommendation models can easily capture these patterns. It may lead to some biases related to sensitive user attributes in the recommendation results, e.g., always recommending sports news to male users, which is unfair since users may not receive diverse news information. In this paper, we propose a fairness-aware news recommendation approach with decomposed adversarial learning and orthogonality regularization, which can alleviate unfairness in news recommendation brought by the biases of sensitive user attributes. In our approach, we propose to decompose the user interest model into two components. One component aims to learn a bias-aware user embedding that captures the bias information on sensitive user attributes, and the other aims to learn a bias-free user embedding that only encodes attribute-independent user interest information for fairness-aware news recommendation. In addition, we propose to apply an attribute prediction task to the bias-aware user embedding to enhance its ability on bias modeling, and we apply adversarial learning to the bias-free user embedding to remove the bias information from it. Moreover, we propose an orthogonality regularization method to encourage the bias-free user embeddings to be orthogonal to the bias-aware one to better distinguish the bias-free user embedding from the bias-aware one. For fairness-aware news ranking, we only use the bias-free user embedding. Extensive experiments on benchmark dataset show that our approach can effectively improve fairness in news recommendation with minor performance loss.

研究动机与目标

• 解决由与性别等敏感属性相关的用户点击模式偏差引发的新闻推荐中的公平性问题。
• 开发一种方法，将与偏差相关的信息从用户兴趣表征中解耦，以实现更公平的新闻排序。
• 通过对抗训练和正交性约束，确保无偏差用户嵌入与敏感属性信息稳健地解耦。
• 通过向用户推荐超越性别刻板印象偏好的多样化新闻内容，提升用户体验。

提出的方法

• 将用户兴趣模型分解为两个并行组件：一个用于学习与偏差相关的用户嵌入，另一个用于学习无偏差的用户嵌入。
• 在与偏差相关的嵌入上训练敏感属性预测器，以增强其捕捉用户属性相关偏差的能力。
• 对无偏差嵌入应用对抗学习，以最小化其关于敏感属性的信息，促进公平性。
• 引入正交性正则化项，强制要求与偏差相关的嵌入和无偏差嵌入之间保持正交性，从而提升解耦效果。
• 仅使用无偏差用户嵌入进行最终的新闻排序，以确保推荐的公平性。
• 通过结合预测损失、属性预测损失、对抗损失和正交性正则化项的多任务损失函数来优化整体模型。

实验结果

研究问题

• RQ1 将用户嵌入分解为与偏差相关和无偏差的组件，能否减少新闻推荐中的不公平性？
• RQ2 对抗学习在从无偏差用户嵌入中去除敏感属性信息方面有多有效？
• RQ3 正交性正则化在多大程度上提升了无偏差嵌入与敏感属性之间的解耦？
• RQ4 超参数设置（λG, λD, λA）为何种公平性与推荐性能之间的最佳权衡？

主要发现

• FairRec 显著提升了新闻推荐的公平性，如通过 Disparate Impact 和 Equal Opportunity Difference 等公平性度量指标所衡量。
• 在与偏差相关的嵌入上进行属性预测任务，增强了偏差建模能力，当 λG 设为 0.5 时，公平性提升效果更佳。
• 对无偏差嵌入应用对抗学习可有效减少属性泄露，当 λA 设为 0.5 时性能达到最优。
• 正交性正则化有效分离了无偏差嵌入与与偏差相关的嵌入，提升了公平性且未降低性能。
• 该模型在公平性与性能之间实现了有利的权衡，与基线模型相比，仅带来轻微的排名准确率下降（例如，NDCG@10）。
• 案例研究显示，FairRec 成功推荐了多样化的内容（例如，向男性用户推荐时尚类新闻，向女性用户推荐体育类新闻），有效减少了基于性别的推荐偏见。