[论文解读] A Fairness-aware Hybrid Recommender System

Golnoosh Farnadi, Pigi Kouki+3 more|arXiv (Cornell University)|Sep 13, 2018

Recommender Systems and Techniques参考文献 23被引用 25

一句话总结

本文提出了一种公平感知的混合推荐系统，通过概率软逻辑（PSL）整合用户-用户和物品-物品相似性、内容信息以及人口统计学数据，以缓解观测偏差和数据不平衡问题。与最先进的公平矩阵分解方法相比，该模型在保持较高准确率的同时显著提升了公平性，尤其在减少平衡不公平性和价值不公平性方面表现优异，且在应用公平性约束时仅带来轻微的性能下降。

ABSTRACT

Recommender systems are used in variety of domains affecting people's lives. This has raised concerns about possible biases and discrimination that such systems might exacerbate. There are two primary kinds of biases inherent in recommender systems: observation bias and bias stemming from imbalanced data. Observation bias exists due to a feedback loop which causes the model to learn to only predict recommendations similar to previous ones. Imbalance in data occurs when systematic societal, historical, or other ambient bias is present in the data. In this paper, we address both biases by proposing a hybrid fairness-aware recommender system. Our model provides efficient and accurate recommendations by incorporating multiple user-user and item-item similarity measures, content, and demographic information, while addressing recommendation biases. We implement our model using a powerful and expressive probabilistic programming language called probabilistic soft logic. We experimentally evaluate our approach on a popular movie recommendation dataset, showing that our proposed model can provide more accurate and fairer recommendations, compared to a state-of-the art fair recommender system.

研究动机与目标

• 解决推荐系统中两大主要偏差来源：由反馈回路引起的观测偏差，以及由社会或历史偏见导致的数据不平衡。
• 开发一种统一、可扩展且声明式的公平感知推荐框架，基于概率软逻辑（PSL）。
• 在混合推荐场景中提升推荐准确率，同时确保对受保护子群体（如基于性别的群体）的公平对待。
• 通过多种公平性度量指标对模型性能进行实证评估，并与最先进的公平矩阵分解方法进行比较。

提出的方法

• 该系统在HyPER混合推荐框架的基础上，引入了用户人口统计学信息、物品内容信息以及多种相似性度量（用户-用户、物品-物品）。
• 采用概率软逻辑（PSL），一种概率编程语言，以建模用户-物品交互中的复杂关系依赖性和不确定性。
• 通过基于约束的方法强制实现公平性，将公平性规则整合进PSL模型中，采用最大后验概率（MAP）推理算法并施加硬性公平约束。
• 联合优化推荐准确率（以RMSE和MAE衡量）与公平性（以平衡度、价值度和非平等不公平度等指标衡量）。
• 通过公平性规则确保受保护群体（如女性）的预测评分相对于非受保护群体保持平衡，最大限度减少低估或高估。
• 在MovieLens数据集上对方法进行评估，将公平感知的PSL模型与非公平及公平矩阵分解基线模型进行比较。

实验结果

研究问题

• RQ1 统一的混合推荐系统能否有效减少推荐系统中的观测偏差和数据不平衡偏差？
• RQ2 将公平性约束整合进基于PSL的模型，与传统矩阵分解方法相比，对推荐准确率和公平性度量有何影响？
• RQ3 概率软逻辑框架在多大程度上能够支持在混合推荐系统中实现可扩展且声明式的公平性强制？
• RQ4 在优化推荐公平性时，不同公平性度量指标（如平衡度、价值度、非平等度）之间存在何种权衡？
• RQ5 所提出的公平感知PSL模型是否在准确率和公平性方面均优于最先进的公平矩阵分解模型？

主要发现

• 公平PSL模型在减少平衡不公平性方面显著优于非公平PSL模型及所有公平矩阵分解模型，尤其在避免低估女性用户评分方面表现突出。
• 在PSL模型中增加公平性规则仅导致轻微性能下降——MC+CF PSL模型的RMSE下降0.014，MAE下降0.007，表明公平性与准确率之间的权衡极小。
• 公平PSL模型在非平等不公平性指标上优于公平MF模型，且公平PSL模型相较于非公平PSL模型表现出统计上显著的改进。
• 加入公平性规则的MC+CF+DC PSL模型相比其非公平版本，RMSE降低0.005，MAE降低0.002，表明公平性约束可近乎零成本地集成。
• 单一模型无法在所有度量指标上实现完全公平，但公平PSL模型在多个指标（RMSE、MAE、绝对值、价值、平衡不公平性）上持续提升公平性，同时保持高准确率。
• 所提出的公平PSL模型在整体公平性和准确率方面优于最先进的公平矩阵分解模型，尤其在缓解基于性别的评分不平衡方面表现更优。