[论文解读] Fairness in Recommender Systems: Research Landscape and Future Directions

Yashar Deldjoo, Dietmar Jannach+3 more|arXiv (Cornell University)|May 23, 2022

Ethics and Social Impacts of AISocial Sciences被引用 18

一句话总结

本综述整合了超过160篇关于推荐系统公平性的学术文献，识别出关键的公平性定义、研究方法与算法方法。研究发现，当前研究往往缺乏规范性基础，依赖抽象度量而非以利益相关者为中心的公平性定义，并呼吁开展跨学科研究以应对现实世界中的公平性挑战。

ABSTRACT

Recommender systems can strongly influence which information we see online, e.g., on social media, and thus impact our beliefs, decisions, and actions. At the same time, these systems can create substantial business value for different stakeholders. Given the growing potential impact of such AI-based systems on individuals, organizations, and society, questions of fairness have gained increased attention in recent years. However, research on fairness in recommender systems is still a developing area. In this survey, we first review the fundamental concepts and notions of fairness that were put forward in the area in the recent past. Afterward, through a review of more than 160 scholarly publications, we present an overview of how research in this field is currently operationalized, e.g., in terms of general research methodology, fairness measures, and algorithmic approaches. Overall, our analysis of recent works points to certain research gaps. In particular, we find that in many research works in computer science, very abstract problem operationalizations are prevalent and questions of the underlying normative claims and what represents a fair recommendation in the context of a given application are often not discussed in depth. These observations call for more interdisciplinary research to address fairness in recommendation in a more comprehensive and impactful manner.

研究动机与目标

• 基于160余篇学术出版物，绘制当前推荐系统公平性研究的全景图。
• 分析公平性在研究方法、公平性度量与算法设计方面的具体实现方式。
• 识别关键研究空白，特别是缺乏规范性基础以及以利益相关者为中心的公平性定义。
• 突出算法公平性度量与推荐系统实际伦理影响之间的脱节。
• 倡导通过整合社会科学的跨学科研究，以更全面、更具影响力的方式推进推荐系统中的公平性。

提出的方法

• 对计算机科学领域中关于推荐系统公平性的160余篇近期出版物进行系统性综述与分类。
• 将公平性定义按维度进行分类，如人口统计均等、待遇平等与曝光公平性。
• 分析研究方法，包括真实世界数据、合成数据以及基于日志交互的A/B测试。
• 评估算法方法，包括公平性感知优化、重排序以及模型训练中的公平性约束。
• 应用反事实评估技术，以评估干预情景下的公平性表现。
• 引入博弈论概念（如瓦尔拉斯一般均衡）以建模互惠推荐系统中的公平性。

实验结果

研究问题

• RQ1 当前推荐系统研究中，主流的公平性定义与维度是什么？
• RQ2 在不同应用领域中，公平性问题在方法论、度量与算法设计方面如何被具体实现？
• RQ3 公平性推荐中的关键研究空白是什么，特别是规范性基础与利益相关者认知方面？
• RQ4 当前的公平性度量在多大程度上与推荐系统的真实世界伦理与社会影响相契合？
• RQ5 跨学科合作（尤其是与社会科学的协作）在推进推荐系统公平性方面可发挥何种作用？

主要发现

• 大多数推荐系统公平性研究依赖于抽象的、计算定义的公平性度量，而缺乏充分的规范性或伦理考量基础。
• 研究在选择应用领域时强烈依赖数据集的可获得性，导致许多研究中的公平性挑战具有任意性或人为性。
• 当前计算机科学文献中，推荐系统公平性与社会科学、心理学及伦理学的既有理论之间基本缺乏联系。
• 当前方法往往将公平性视为算法优化问题，忽视了现实情境中公平性的社会与人文维度。
• 由于技术和访问壁垒，真实平台中的公平性审计仍极具挑战，如Facebook NewsFeed因无法向审计人员开放而成为典型案例。
• 互惠推荐系统（如社交网络或匹配平台）因需平衡供需与相互偏好，面临独特的公平性挑战，但该问题仍缺乏充分研究。