[论文解读] A Comprehensive Survey on Trustworthy Recommender Systems

Wenqi Fan, Xiangyu Zhao+9 more|arXiv (Cornell University)|Sep 21, 2022

Blockchain Technology Applications and Security被引用 15

一句话总结

本综述通过系统分析六个核心维度——安全性与鲁棒性、公平性、可解释性、隐私性、环境福祉以及问责性，提出了一套全面的可信推荐系统（TRec）框架。该综述整合了最先进技术，识别出关键的研究空白，尤其是跨维度交互问题，并倡导构建统一的技术生态系统，以加速推荐系统中可信人工智能的发展。

ABSTRACT

As one of the most successful AI-powered applications, recommender systems aim to help people make appropriate decisions in an effective and efficient way, by providing personalized suggestions in many aspects of our lives, especially for various human-oriented online services such as e-commerce platforms and social media sites. In the past few decades, the rapid developments of recommender systems have significantly benefited human by creating economic value, saving time and effort, and promoting social good. However, recent studies have found that data-driven recommender systems can pose serious threats to users and society, such as spreading fake news to manipulate public opinion in social media sites, amplifying unfairness toward under-represented groups or individuals in job matching services, or inferring privacy information from recommendation results. Therefore, systems' trustworthiness has been attracting increasing attention from various aspects for mitigating negative impacts caused by recommender systems, so as to enhance the public's trust towards recommender systems techniques. In this survey, we provide a comprehensive overview of Trustworthy Recommender systems (TRec) with a specific focus on six of the most important aspects; namely, Safety & Robustness, Nondiscrimination & Fairness, Explainability, Privacy, Environmental Well-being, and Accountability & Auditability. For each aspect, we summarize the recent related technologies and discuss potential research directions to help achieve trustworthy recommender systems in the future.

研究动机与目标

• 为应对数据驱动推荐系统带来的社会与个体风险（如偏见、隐私泄露及对抗性操纵）日益增长的担忧。
• 建立一个统一的、多维的评估与构建可信推荐系统的框架，超越性能指标。
• 识别跨维度交互中的关键研究空白（例如公平性与隐私性之间、可解释性与环境成本之间的冲突），并提出新方向。
• 倡导开发标准化的技术生态系统，包括数据集、评估指标与工具包，以支持可信推荐研究的可复现性与可扩展性。

提出的方法

• 将可信推荐系统（TRec）划分为六个核心维度：安全性与鲁棒性、非歧视与公平性、可解释性、隐私性、环境福祉以及问责性与可审计性。
• 回顾各维度内的代表性方法与技术，包括用于鲁棒性的对抗训练、公平性正则化、反事实解释、模型训练中的差分隐私，以及用于降低环境影响的模型高效技术。
• 分析维度之间的交互关系，例如可解释性与环境成本之间的权衡，或在模型设计中隐私性与鲁棒性之间的冲突。
• 提出构建标准化技术生态系统的必要性，包括领域特定数据集（如用于公平性的KuaiRec）、评估指标与开源工具包，以支持多维基准测试。
• 结合实际应用场景（如LinkedIn的基于BERT的职位推荐系统、YouTube的基于DNN的视频推荐系统）说明可信性维度在生产系统中的实现方式。
• 将欧盟《可信人工智能（TAI）指南》中的伦理AI原则融入推荐系统的技术设计，使技术解决方案与社会价值观保持一致。

实验结果

研究问题

• RQ1 如何在保持公平性与隐私性的同时，使推荐系统对对抗性攻击具备鲁棒性？
• RQ2 多个可信性维度之间的关键技术权衡与冲突是什么（例如可解释性与环境成本之间的权衡）？
• RQ3 隐私保护技术如何有效集成到基于深度学习的推荐模型的公平性与鲁棒性中？
• RQ4 当前研究生态系统中缺少哪些关键组件，阻碍了多维可信推荐系统的开发与评估？
• RQ5 如何在生产级推荐系统中技术性地实现问责性与可控性，以减轻有害结果？

主要发现

• 现有研究大多集中于单一可信性维度，仅有少数研究探索了如公平性-鲁棒性或可解释性-隐私性等组合，凸显了多维设计中的重大研究空白。
• 维度之间的冲突普遍存在——例如，增加可解释性模块可能提升模型复杂度与能耗，从而损害环境福祉。
• 目前尚无针对环境福祉或问责性等关键维度的标准化数据集或评估工具包，限制了可复现性与基准测试。
• 近期工作如KuaiRec已开始关注非歧视问题，但针对问责性与环境影响的类似努力仍显不足，表明亟需领域特定的数据与评估指标。
• 可解释性技术（如反事实解释）在提升透明度方面展现出潜力，且在某些情况下还能缓解隐私泄露问题。
• 将伦理AI原则（如欧盟TAI指南中的原则）融入技术设计至关重要，但在当前的推荐系统研究中仍属探索不足。