[论文解读] Cascading Residual Graph Convolutional Network for Multi-Behavior Recommendation

Mingshi Yan, Zhiyong Cheng+5 more|arXiv (Cornell University)|May 26, 2022

Recommender Systems and Techniques被引用 6

一句话总结

该论文提出CRGCN，一种轻量级级联残差图卷积网络，用于多行为推荐，通过不增加参数的方式显式建模用户行为之间的序列连接。通过在视图、购物车和购买行为之间对用户嵌入进行残差传播优化，CRGCN在三个真实世界数据集上相较最先进基线模型在HR@K指标上实现了24.76%至27.28%的相对提升。

ABSTRACT

Multi-behavior recommendation exploits multiple types of user-item interactions to alleviate the data sparsity problem faced by the traditional models that often utilize only one type of interaction for recommendation. In real scenarios, users often take a sequence of actions to interact with an item, in order to get more information about the item and thus accurately evaluate whether an item fits personal preference. Those interaction behaviors often obey a certain order, and different behaviors reveal different information or aspects of user preferences towards the target item. Most existing multi-behavior recommendation methods take the strategy to first extract information from different behaviors separately and then fuse them for final prediction. However, they have not exploited the connections between different behaviors to learn user preferences. Besides, they often introduce complex model structures and more parameters to model multiple behaviors, largely increasing the space and time complexity. In this work, we propose a lightweight multi-behavior recommendation model named Cascading Residual Graph Convolutional Network (CRGCN for short), which can explicitly exploit the connections between different behaviors into the embedding learning process without introducing any additional parameters. In particular, we design a cascading residual graph convolutional network structure, which enables our model to learn user preferences by continuously refining user embeddings across different types of behaviors. The multi-task learning method is adopted to jointly optimize our model based on different behaviors. Extensive experimental results on two real-world benchmark datasets show that CRGCN can substantially outperform state-of-the-art methods. Further studies also analyze the effects of leveraging multi-behaviors in different numbers and orders on the final performance.

研究动机与目标

• 通过利用多种用户-物品交互类型（如浏览、加入购物车、购买）而非依赖单一行为，解决协同过滤中的数据稀疏性问题。
• 建模用户行为的序列性和相互依赖性，其中浏览→加入购物车→购买等行为路径揭示了用户偏好的演化过程。
• 设计一种参数高效的架构，在不增加模型复杂度的前提下提升偏好表征能力。
• 实现跨行为的有效多任务学习，联合优化用户和物品嵌入。
• 在不牺牲性能的前提下，实现高效率和可扩展性，适用于真实世界部署。

提出的方法

• 提出一种级联残差GCN结构，通过残差跳跃连接在不同行为类型间顺序优化用户嵌入，以保留并增强特征学习。
• 构建一个统一的用户-物品交互图，其中每种行为类型作为独立的边类型，支持跨行为的消息传递。
• 应用多任务学习，联合优化每种行为类型的预测头，共享同一嵌入空间并促进知识迁移。
• 使用残差模块在一系列行为层中传播并优化用户嵌入，建模从低意愿（浏览）到高意愿（购买）行为的偏好演化过程。
• 确保模型的计算复杂度与单行为模型（如LightGCN）保持一致，多行为建模过程中不引入额外参数。
• 利用图卷积层聚合跨行为的邻域信息，通过可学习系数在聚合过程中实现类似注意力的加权机制。

实验结果

研究问题

• RQ1 建模用户行为之间的序列依赖关系（如浏览→加入购物车→购买）是否能改善多行为推荐中的用户偏好表征？
• RQ2 与独立或早期融合方法相比，级联残差GCN结构是否能更有效地优化多种行为类型下的用户嵌入？
• RQ3 多行为推荐模型是否能在不增加模型参数或训练成本的前提下实现最先进性能？
• RQ4 行为的顺序和数量如何影响最终推荐准确率和冷启动性能？
• RQ5 所提模型在效率和可扩展性方面相较于现有多行为模型具有多大程度的优势？

主要发现

• 在三个基准数据集（Tmall、Beibei、Jdata）上，CRGCN在HR@K（K=10,20,50,80）指标上相较最佳基线模型分别实现了24.76%、27.28%和25.10%的相对提升。
• 在冷启动场景下，CRGCN优于S-MBRec和MBGCN，表现出对稀疏用户交互数据更强的鲁棒性。
• 与MBGCN和S-MBRec等基线相比，CRGCN效率显著更高，在Jdata数据集上每轮训练时间相比S-MBRec最多减少80%。
• 尽管使用了更多交互数据，由于其无参数设计，CRGCN的每轮训练时间与单行为模型（如LightGCN）保持一致。
• 消融实验证实，级联残差模块和多任务学习均对性能至关重要，每个组件均对最终性能提升有显著贡献。
• 模型的推理时间与单行为模型相当，适用于大规模系统中的实时部署。