[论文解读] Assessing the Impact of a User-Item Collaborative Attack on Class of Users

Yashar Deldjoo, Tommaso Di Noia+1 more|arXiv (Cornell University)|Aug 21, 2019

Recommender Systems and Techniques参考文献 30被引用 6

一句话总结

本文研究了协同过滤（CF）模型上的用户-物品协同洗钱攻击，重点关注攻击效果如何随用户类别（轻度活跃 vs. 高度活跃）和数据集稀疏性而变化。研究发现，在稀疏数据集（Yelp）和密集数据集（MovieLens）中，攻击影响呈现相反趋势：在Yelp中，轻度活跃用户更具免疫力，而在MovieLens中，高度活跃用户更具韧性——凸显了稀疏性作为关键因素。BPR-MF对用户类别的敏感度最低，而BPR-SLIM与Item-kNN在不同用户类别下的攻击响应表现出强烈相关性。

ABSTRACT

Collaborative Filtering (CF) models lie at the core of most recommendation systems due to their state-of-the-art accuracy. They are commonly adopted in e-commerce and online services for their impact on sales volume and/or diversity, and their impact on companies' outcome. However, CF models are only as good as the interaction data they work with. As these models rely on outside sources of information, counterfeit data such as user ratings or reviews can be injected by attackers to manipulate the underlying data and alter the impact of resulting recommendations, thus implementing a so-called shilling attack. While previous works have focused on evaluating shilling attack strategies from a global perspective paying particular attention to the effect of the size of attacks and attacker's knowledge, in this work we explore the effectiveness of shilling attacks under novel aspects. First, we investigate the effect of attack strategies crafted on a target user in order to push the recommendation of a low-ranking item to a higher position, referred to as user-item attack. Second, we evaluate the effectiveness of attacks in altering the impact of different CF models by contemplating the class of the target user, from the perspective of the richness of her profile (i.e., cold v.s. warm user). Finally, similar to previous work we contemplate the size of attack (i.e., the amount of fake profiles injected) in examining their success. The results of experiments on two widely used datasets in business and movie domains, namely Yelp and MovieLens, suggest that warm and cold users exhibit contrasting behaviors in datasets with different characteristics.

研究动机与目标

• 评估用户-物品洗钱攻击对协同过滤系统中不同用户类别（轻度活跃 vs. 高度活跃）的全局与局部影响。
• 探究数据集稀疏性如何影响对用户类别的洗钱攻击效果。
• 在用户类别特定的攻击条件下，比较不同CF模型（如BPR-MF、BPR-SLIM、Item-kNN、User-kNN）的鲁棒性。
• 识别在攻击结果中受用户类别变化影响最小的CF模型。
• 提供实证证据，说明数据特征（如稀疏性）如何塑造推荐系统中的攻击韧性。

提出的方法

• 通过注入带有目标评分的虚假用户资料实施用户-物品洗钱攻击，以提升低排名物品的推荐排名。
• 攻击策略基于用户偏好，使用选定物品（I_S）、填充物品（I_F）和目标物品（I_T），并改变虚假资料数量。
• 实验在两个数据集上进行：MovieLens-1M（密集）和Yelp（稀疏），具有不同的稀疏水平。
• 评估使用HR@10（命中率在前10名）作为主要指标，以衡量攻击下的推荐质量。
• 计算不同CF模型之间的皮尔逊积矩相关系数，分析用户类别下攻击响应行为的相似性。
• 用户类别根据评分数量定义：轻度活跃用户评分较少，高度活跃用户评分较多，反映资料丰富度。

实验结果

研究问题

• RQ1 RQ1：从全局视角看，用户-物品攻击对轻度活跃和高度活跃等用户类别的影响如何？——攻击是否可针对特定用户类别设计以产生更高影响？——哪些因素影响此类攻击的影响？
• RQ2 RQ2：从局部视角看，CF推荐模型在考虑用户类别时，对用户-物品攻击的响应行为有何不同？
• RQ3 RQ3：数据集稀疏性如何影响轻度活跃用户与高度活跃用户对洗钱攻击的相对韧性？
• RQ4 RQ4：哪些CF模型在攻击结果的用户类别变化中表现出最低敏感度？

主要发现

• 在稀疏的Yelp数据集中，轻度活跃用户比高度活跃用户更具免疫力，这与密集的MovieLens数据集相反，在后者中高度活跃用户表现出更强的韧性。
• 攻击效果差异主要归因于数据集稀疏性：Yelp的稀疏度约为MovieLens的40倍，影响了资料丰富度和攻击可检测性。
• BPR-MF对用户类别的敏感度最低，在所有攻击类型和用户类别下用户影响因子接近1，表明其具有高度鲁棒性。
• BPR-SLIM与Item-kNN在不同用户类别下的HR@10表现具有强相关性（ρ ≥ 0.960），表明其攻击响应行为相似。
• User-kNN在轻度活跃用户上的表现相关性略低，可能是因为基于偏好的攻击对稀疏资料更有效。
• 结果表明，数据特征如稀疏性、用户偏度和评分方差显著影响攻击效果，值得进一步研究。