[论文解读] A survey on Adversarial Recommender Systems: from Attack/Defense strategies to Generative Adversarial Networks

Yashar Deldjoo, Tommaso Di Noia+1 more|arXiv (Cornell University)|May 20, 2020

Adversarial Robustness in Machine Learning参考文献 188被引用 28

一句话总结

本综述对对抗性推荐系统进行了全面分析，涵盖协同过滤模型中的攻击与防御策略，以及生成对抗网络（GAN）在提升推荐质量方面的应用。该研究整合了74项关键研究，提出了推荐系统中对抗性机器学习的分类体系，并指出了安全、可扩展性和公平性方面的开放性挑战。

ABSTRACT

Latent-factor models (LFM) based on collaborative filtering (CF), such as matrix factorization (MF) and deep CF methods, are widely used in modern recommender systems (RS) due to their excellent performance and recommendation accuracy. However, success has been accompanied with a major new arising challenge: many applications of machine learning (ML) are adversarial in nature. In recent years, it has been shown that these methods are vulnerable to adversarial examples, i.e., subtle but non-random perturbations designed to force recommendation models to produce erroneous outputs. The goal of this survey is two-fold: (i) to present recent advances on adversarial machine learning (AML) for the security of RS (i.e., attacking and defense recommendation models), (ii) to show another successful application of AML in generative adversarial networks (GANs) for generative applications, thanks to their ability for learning (high-dimensional) data distributions. In this survey, we provide an exhaustive literature review of 74 articles published in major RS and ML journals and conferences. This review serves as a reference for the RS community, working on the security of RS or on generative models using GANs to improve their quality.

研究动机与目标

• 系统性地回顾并分类对抗性机器学习（AML）在推荐系统（RS）安全方面的最新进展。
• 分析生成对抗网络（GAN）在通过数据生成提升推荐质量方面的应用。
• 识别对抗性推荐系统中的开放研究挑战，包括威胁建模、可扩展性以及超越准确率的评估。
• 通过将对抗性技术适配于离散的用户-物品交互数据，弥合计算机视觉领域与推荐系统中AML研究之间的差距。
• 推动使用GAN生成真实用户资料，以缓解推荐系统中的冷启动问题。

提出的方法

• 对主要推荐系统和机器学习会议及期刊中的74篇同行评审论文进行了详尽的文献回顾。
• 基于攻击/防御目标和基于GAN的生成应用，提出了对抗性推荐系统的分类体系。
• 根据攻击目标（如准确率、多样性、公平性）对攻击策略进行分类，并根据训练目标对防御机制进行分类。
• 分析了如c+ GAN及其他条件GAN在生成互补时尚单品（如上装与下装搭配）方面的应用。
• 评估了极小-极大优化在对抗性攻击与GAN训练中的作用，将两者均建模为零和博弈。
• 回顾了最先进的GAN变体（如WGAN、LSGAN、BEGAN）在提升大规模推荐系统中稳定性和性能方面的应用。

实验结果

研究问题

• RQ1 如何设计对抗性样本，以在用户-物品交互数据中保持不可察觉的前提下操纵协同过滤模型？
• RQ2 与连续图像数据相比，设计针对离散用户资料的对抗性攻击有何关键差异？
• RQ3 对抗性攻击在多大程度上影响推荐中的非准确率指标，如多样性、新颖性和公平性？
• RQ4 如何有效利用GAN生成真实用户资料，以缓解推荐系统中的冷启动问题？
• RQ5 在现代异构推荐模型中，哪些是最具前景的对抗性攻击防御策略？

主要发现

• 对协同过滤模型的对抗性攻击可通过在用户-物品交互数据中施加细微且非随机的扰动，显著降低推荐准确率。
• 大多数现有攻击仅在经典矩阵分解模型上进行验证，而深度模型和图神经网络模型在对抗性设置下的研究仍显不足。
• 基于GAN的方法（如c+ GAN）能成功生成高兼容性得分的互补时尚单品（如上装与下装搭配）。
• 利用GAN生成合成用户资料可显著提升冷启动和暖启动推荐场景下的性能。
• 在大规模推荐系统中训练GAN时，稳定性和可扩展性仍是关键挑战，尤其因离散物品采样所致。
• 推荐系统中缺乏标准化的威胁模型，限制了攻击与防御方法的可复现性和可比性。