[论文解读] Adversarial Machine Learning in Recommender Systems: State of the art and Challenges.

Yashar Deldjoo, Tommaso Di Noia+1 more|arXiv (Cornell University)|May 20, 2020

Adversarial Robustness in Machine Learning被引用 4

一句话总结

本综述回顾了推荐系统（RS）中对抗性机器学习（AML）的研究，分析了对潜在因子模型（LFM），如矩阵分解（MF）的攻击与防御。研究指出AML具有双重作用：一方面通过对抗性样本损害RS的鲁棒性；另一方面通过生成对抗网络（GAN）提升模型精度，基于对60项关键研究的综述。

ABSTRACT

Latent-factor models (LFM) based on collaborative filtering (CF), such as matrix factorization (MF) and deep CF methods, are widely used in modern recommender systems (RS) due to their excellent performance and recommendation accuracy. Notwithstanding their great success, in recent years, it has been shown that these methods are vulnerable to adversarial examples, i.e., subtle but non-random perturbations designed to force recommendation models to produce erroneous outputs. The main reason for this behavior is that user interaction data used for training of LFM can be contaminated by malicious activities or users' misoperation that can induce an unpredictable amount of natural noise and harm recommendation outcomes. On the other side, it has been shown that these systems, conceived originally to attack machine learning applications, can be successfully adopted to strengthen their robustness against attacks as well as to train more precise recommendation engines. In this respect, the goal of this survey is two-fold: (i) to present recent advances on AML-RS for the security of RS (i.e., attacking and defense recommendation models), (ii) to show another successful application of AML in generative adversarial networks (GANs), which use the core concept of learning in AML (i.e., the min-max game) for generative applications. In this survey, we provide an exhaustive literature review of 60 articles published in major RS and ML journals and conferences. This review serves as a reference for the RS community, working on the security of RS and recommendation models leveraging generative models to improve their quality.

研究动机与目标

• 分析对抗性机器学习在推荐系统（RS）中针对定向攻击的最新进展，以增强安全性。
• 研究对抗性样本——细微且非随机的扰动——如何降低潜在因子模型（LFM）的推荐准确性。
• 探索对抗性训练技术在提升推荐模型鲁棒性方面的应用。
• 考察生成对抗网络（GANs）在RS中的应用，利用AML的极小极大博弈框架以提升推荐质量。
• 为RS安全与生成建模领域的研究人员提供来自顶级RS与机器学习会议及期刊的60项研究的全面文献综述。

提出的方法

• 系统性地回顾了来自主要RS与机器学习会议及期刊的60篇同行评审论文（如KDD、SIGIR、NeurIPS、ACM TOIS）。
• 对潜在因子模型（LFM）上的对抗性攻击进行了分类与分析，包括矩阵分解（MF）与深度协同过滤（CF）方法。
• 研究了利用对抗性训练提升模型对用户-项目交互数据中扰动鲁棒性的防御机制。
• 探索了生成对抗网络（GANs）在RS中的应用，利用AML的极小极大博弈框架生成高质量推荐。
• 根据攻击目标（如投毒、逃避）对攻击进行分类，并根据对抗性样本检测与鲁棒优化对防御策略进行分类。
• 评估了恶意用户或操作失误导致的数据污染在引入噪声方面的作用，从而削弱LFM性能。

实验结果

研究问题

• RQ1 对抗性样本如何损害推荐系统中潜在因子模型（LFM）的性能？
• RQ2 基于协同过滤的推荐系统在存在噪声或恶意用户交互时的主要脆弱来源是什么？
• RQ3 对抗性训练在多大程度上可提升推荐模型对定向攻击的鲁棒性？
• RQ4 如何利用生成对抗网络（GANs）通过对抗学习原理提升推荐质量？
• RQ5 在应用对抗性机器学习以保障和提升推荐系统方面，存在哪些关键挑战与开放研究方向？

主要发现

• 潜在因子模型（LFM），包括矩阵分解与深度CF方法，由于恶意用户或操作噪声对用户交互数据的污染，易受对抗性样本影响。
• 推荐系统中的对抗性攻击可划分为投毒攻击与逃避攻击，二者均利用模型对细微输入扰动的敏感性。
• 对抗性训练技术通过在模型优化过程中模拟攻击场景，显著提升了模型的鲁棒性。
• 生成对抗网络（GANs）成功应用了对抗性机器学习的极小极大博弈框架，以生成高质量推荐。
• 将对抗性学习整合到推荐系统中，不仅增强了安全性，还通过改进表征学习提升了推荐精度。
• 对60项研究的全面文献综述证实，AML在RS领域正受到日益关注，研究重点正从安全加固扩展到生成模型增强。