[论文解读] Graph Neural Networks for Recommendation: Reproducibility, Graph Topology, and Node Representation

Daniele Malitesta, Claudio Pomo+1 more|arXiv (Cornell University)|Oct 17, 2023

Advanced Graph Neural NetworksComputer Science被引用 3

一句话总结

本文针对推荐系统中的图神经网络（GNNs）提供了一项全面的教程，聚焦于可复现性、图拓扑影响以及节点表征策略。研究探讨了SOTA GNN推荐系统中的可复现性挑战，分析了节点度等拓扑属性对性能的影响，并评估了使用预训练多模态特征进行节点嵌入的效果，通过Elliott框架中的实践实现提供了实用洞见。

ABSTRACT

Graph neural networks (GNNs) have gained prominence in recommendation systems in recent years. By representing the user-item matrix as a bipartite and undirected graph, GNNs have demonstrated their potential to capture short- and long-distance user-item interactions, thereby learning more accurate preference patterns than traditional recommendation approaches. In contrast to previous tutorials on the same topic, this tutorial aims to present and examine three key aspects that characterize GNNs for recommendation: (i) the reproducibility of state-of-the-art approaches, (ii) the potential impact of graph topological characteristics on the performance of these models, and (iii) strategies for learning node representations when training features from scratch or utilizing pre-trained embeddings as additional item information (e.g., multimodal features). The goal is to provide three novel theoretical and practical perspectives on the field, currently subject to debate in graph learning but long been overlooked in the context of recommendation systems.

研究动机与目标

• 通过使用Elliott框架严格评估和比较模型，解决SOTA GNN推荐系统中的可复现性危机。
• 研究图拓扑属性（尤其是节点度与连通性）对GNN推荐系统性能的影响。
• 分析从零开始训练节点嵌入与利用预训练多模态辅助信息之间的设计选择及其性能影响。
• 提供关于GNN推荐系统的实用、可复现的洞见，弥合图表征学习与推荐系统研究之间的差距。

提出的方法

• 本研究采用Elliott框架系统地复现并评估SOTA GNN推荐模型，确保实验的严谨性与透明性。
• 对GNN推荐模型与传统推荐方法的性能进行对比，揭示了在可复现性与有效性方面出人意料的结果。
• 对图拓扑属性（如节点度与连通性）进行正式分析，以评估其在二分图用户-物品图中对GNN性能的影响。
• 通过两种策略探索节点表征学习：从零开始端到端训练嵌入，以及微调或冻结预训练多模态特征（如视觉或文本嵌入）作为输入特征。
• 在PyTorch Geometric（PyG）中的实践环节指导用户通过标准化、可复现的流程实现并评估这些方法。
• 本教程将理论基础与实践实现相结合，强调通过共享代码与基准测试实现可复现性与开放评估。

实验结果

研究问题

• RQ1 在使用标准化评估框架的情况下，SOTA GNN推荐模型在多大程度上可以被复现？
• RQ2 用户-物品图的拓扑特征（如节点度分布与连通性）在多大程度上影响GNN推荐系统的性能？
• RQ3 从零开始训练节点嵌入与使用预训练多模态辅助信息（如图像或文本嵌入）相比，对推荐准确率与泛化能力的相对影响是什么？
• RQ4 为何在某些场景下浅层模型的表现优于深层GNN，图拓扑在此现象中扮演何种角色？

主要发现

• 即使使用标准化框架，由于超参数设置和实现细节不一致，复现SOTA GNN推荐模型仍具挑战性。
• 图拓扑属性（如节点度）显著影响GNN性能，模型在用户-物品图中低度区域表现出更高的敏感性。
• 将预训练多模态特征作为节点输入嵌入可带来性能提升与更快收敛，优于从零开始训练嵌入。
• 出人意料的是，更简单的GNN架构通常优于深层模型，表明在现实推荐图中，过平滑与拓扑噪声可能降低性能。