[论文解读] Robust Recommender System: A Survey and Future Directions

Kaike Zhang, Qi Cao+5 more|arXiv (Cornell University)|Sep 5, 2023

Adversarial Robustness in Machine LearningComputer Science被引用 3

一句话总结

本综述系统性地提出了鲁棒推荐系统全面的分类体系与最新研究进展，将防御恶意攻击（如欺诈者检测、对抗训练）和自然噪声（如正则化、自监督学习）的技术进行分类。研究识别出评估标准化方面的关键挑战，并提出未来研究方向，包括大语言模型（LLM）集成与多属性鲁棒性协同优化。

ABSTRACT

With the rapid growth of information, recommender systems have become integral for providing personalized suggestions and overcoming information overload. However, their practical deployment often encounters ``dirty'' data, where noise or malicious information can lead to abnormal recommendations. Research on improving recommender systems' robustness against such dirty data has thus gained significant attention. This survey provides a comprehensive review of recent work on recommender systems' robustness. We first present a taxonomy to organize current techniques for withstanding malicious attacks and natural noise. We then explore state-of-the-art methods in each category, including fraudster detection, adversarial training, certifiable robust training for defending against malicious attacks, and regularization, purification, self-supervised learning for defending against malicious attacks. Additionally, we summarize evaluation metrics and commonly used datasets for assessing robustness. We discuss robustness across varying recommendation scenarios and its interplay with other properties like accuracy, interpretability, privacy, and fairness. Finally, we delve into open issues and future research directions in this emerging field. Our goal is to provide readers with a comprehensive understanding of robust recommender systems and to identify key pathways for future research and development. To facilitate ongoing exploration, we maintain a continuously updated GitHub repository with related research: https://github.com/Kaike-Zhang/Robust-Recommender-System.

研究动机与目标

• 系统性地整理并分类近年来针对脏数据（包括恶意攻击与自然噪声）的推荐系统鲁棒性研究。
• 分析最先进的防御技术，如对抗训练、可证明鲁棒性、欺诈者检测与自监督学习。
• 评估当前的度量指标与数据集，指出鲁棒性评估中存在的一致性不足与标准化缺失问题。
• 探讨鲁棒性与其他可信属性（如公平性、隐私性与可解释性）之间的相互作用。
• 识别开放性挑战并提出未来研究方向，包括基于大语言模型（LLM）的防御机制与统一的基准测试框架。

提出的方法

• 提出一个二维分类体系，将鲁棒性技术按恶意攻击与自然噪声两个维度进行组织。
• 对方法进行分类与归类，细分为：针对恶意攻击的欺诈者检测、对抗训练、可证明鲁棒训练；针对自然噪声的正则化、净化方法与自监督学习。
• 分析评估协议，包括度量偏差与数据集使用模式，以识别鲁棒性测量中的不一致性。
• 通过跨属性优化分析，研究鲁棒性与其他可信属性（准确性、公平性、隐私性、可解释性）之间的相互作用。
• 提出未来的方法论方向，包括利用大语言模型（LLM）生成对抗样本与实现欺诈检测。
• 呼吁建立标准化的评估基准与开放平台，以确保研究间的可复现性与一致性。

实验结果

研究问题

• RQ1 如何系统性地对推荐系统在应对恶意攻击与自然噪声时的鲁棒性进行分类？
• RQ2 哪些防御技术在缓解推荐模型中的对抗攻击与数据噪声方面最为有效？
• RQ3 鲁棒性、公平性、隐私性与可解释性之间如何相互作用？能否在这些属性之间统一优化目标？
• RQ4 当前鲁棒推荐系统评估实践中的关键局限性是什么？如何加以解决？
• RQ5 新兴技术如大语言模型（LLM）如何增强推荐系统的鲁棒性？

主要发现

• 自2019年以来，推荐系统鲁棒性相关研究的发表数量显著增长，反映出研究兴趣的持续提升。
• 当前评估实践严重依赖间接指标（如性能偏移），这些指标可能无法可靠衡量鲁棒性。
• 超过50个数据集被用于鲁棒性研究，但仅有极少数（如三个）被广泛采用，且各研究间的数据集修改方式不一致。
• 许多测试集为随机生成，导致评估结果存在可变性，降低可复现性。
• 迫切需要建立标准化的评估基准与开放平台，以实现一致且可比较的评估。
• 未来研究应探索鲁棒性与公平性、隐私性、可解释性之间的协同优化，并利用大语言模型（LLM）增强防御机制。