[论文解读] Fairness in Recommendation: Foundations, Methods and Applications

Yunqi Li, Hanxiong Chen+5 more|arXiv (Cornell University)|May 26, 2022

Explainable Artificial Intelligence (XAI)被引用 18

一句话总结

本综述对推荐系统中的公平性提供了全面且系统的概述，综合了机器学习中的基础概念，对公平性定义进行分类，回顾了关键技术，并整理了相关数据集。它指出了数据稀疏性、多利益相关方公平性以及隐私-效用权衡等核心挑战，同时倡导建立统一的评估协议和仿真环境，以推动公平推荐研究的发展。

ABSTRACT

As one of the most pervasive applications of machine learning, recommender systems are playing an important role on assisting human decision making. The satisfaction of users and the interests of platforms are closely related to the quality of the generated recommendation results. However, as a highly data-driven system, recommender system could be affected by data or algorithmic bias and thus generate unfair results, which could weaken the reliance of the systems. As a result, it is crucial to address the potential unfairness problems in recommendation settings. Recently, there has been growing attention on fairness considerations in recommender systems with more and more literature on approaches to promote fairness in recommendation. However, the studies are rather fragmented and lack a systematic organization, thus making it difficult to penetrate for new researchers to the domain. This motivates us to provide a systematic survey of existing works on fairness in recommendation. This survey focuses on the foundations for fairness in recommendation literature. It first presents a brief introduction about fairness in basic machine learning tasks such as classification and ranking in order to provide a general overview of fairness research, as well as introduce the more complex situations and challenges that need to be considered when studying fairness in recommender systems. After that, the survey will introduce fairness in recommendation with a focus on the taxonomies of current fairness definitions, the typical techniques for improving fairness, as well as the datasets for fairness studies in recommendation. The survey also talks about the challenges and opportunities in fairness research with the hope of promoting the fair recommendation research area and beyond.

研究动机与目标

• 为解决推荐系统中公平性研究的碎片化状态，提供一个统一且系统的综述。
• 建立机器学习中公平性的基础知识，特别是分类与排序任务中的公平性，作为理解推荐系统中公平性的基础。
• 将现有的推荐系统公平性定义分类并组织成一个连贯的分类体系，以促进更清晰的概念理解。
• 回顾并分类最先进的推荐公平性改进技术，包括算法层面和数据层面的方法。
• 识别关键的开放挑战，如隐私保护的数据收集、缺乏多样化的基准数据集，以及统一评估框架的需求，并提出未来研究方向。

提出的方法

• 综述并整合超过100篇关于推荐系统中公平性的研究，以建立该领域的结构化概览。
• 提出推荐系统中公平性定义的分类体系，区分用户层面、物品层面和群体层面的公平性关注点。
• 将公平性技术划分为三大类：预处理（如数据重加权）、事中处理（如对抗训练、公平性正则化）和事后处理（如重排序）。
• 整理并展示公开可用的数据集，其中包含敏感属性（如性别、种族、收入），以支持未来的公平性研究。
• 提出开发仿真环境（受RecSim启发），用于评估推荐系统中动态和长期的公平性影响。
• 倡导采用联邦学习和差分隐私等隐私保护数据整理方法，以实现在不损害用户隐私的前提下进行公平学习。

实验结果

研究问题

• RQ1 推荐系统中的核心公平性定义和分类体系是什么？它们与分类和排序任务中的公平性有何不同？
• RQ2 实现推荐系统公平性的主要技术方法（预处理、事中处理、事后处理）有哪些？它们在有效性上的对比如何？
• RQ3 在收集和使用用户及物品的敏感属性以支持公平性研究时，面临哪些关键挑战，尤其是隐私和数据可得性方面？
• RQ4 如何开发统一的评估协议，以公平地比较多种公平性方法在多个公平性标准下的表现？
• RQ5 仿真平台在评估推荐系统中的长期和动态公平性方面能发挥什么作用？

主要发现

• 由于存在多个利益相关方、动态环境和数据稀疏性，推荐系统中的公平性本质上比标准机器学习任务更复杂。
• 现有推荐系统中的公平性定义涵盖用户、物品和群体公平性，其表述和评估方式存在显著差异，导致不同方法之间的比较困难。
• 当前研究生态中缺乏足够公开可用的、包含敏感属性的数据集，限制了公平性研究的可复现性和可扩展性。
• 隐私保护与公平性促进之间存在关键张力，因为敏感用户数据虽常为必要，但又极易被滥用。
• 目前仍缺少一个能同时衡量公平性、准确性、可解释性、鲁棒性和隐私性的统一评估框架，这构成了关键的研究空白。
• 如RecSim等仿真平台在动态公平性评估方面具有潜力，未来工作应扩展此类框架以支持特定于公平性的基准测试。