[论文解读] Convolutional Geometric Matrix Completion

Kai-Lang Yao, Wu-Jun Li+2 more|arXiv (Cornell University)|Mar 2, 2018

Advanced Graph Neural Networks参考文献 52被引用 7

一句话总结

本文提出了一种纯图卷积网络（GCN）基础的几何矩阵补全方法——卷积几何矩阵补全（CGMC），通过将用户-物品关系图整合到矩阵补全中，实现了在准确率和训练速度上的最先进性能。该方法设计了一种新型图卷积层，采用加权自邻域融合机制，并引入全连接投影层以实现嵌入空间的兼容性，从而在真实世界数据集上超越RMGCNN及其他SOTA方法。

ABSTRACT

Geometric matrix completion (GMC) has been proposed for recommendation by integrating the relationship (link) graphs among users/items into matrix completion (MC). Traditional GMC methods typically adopt graph regularization to impose smoothness priors for MC. Recently, geometric deep learning on graphs (GDLG) is proposed to solve the GMC problem, showing better performance than existing GMC methods including traditional graph regularization based methods. To the best of our knowledge, there exists only one GDLG method for GMC, which is called RMGCNN. RMGCNN combines graph convolutional network (GCN) and recurrent neural network (RNN) together for GMC. In the original work of RMGCNN, RMGCNN demonstrates better performance than pure GCN-based method. In this paper, we propose a new GMC method, called convolutional geometric matrix completion (CGMC), for recommendation with graphs among users/items. CGMC is a pure GCN-based method with a newly designed graph convolutional network. Experimental results on real datasets show that CGMC can outperform other state-of-the-art methods including RMGCNN in terms of both accuracy and speed.

研究动机与目标

• 解决现有几何矩阵补全（GMC）方法依赖图正则化或混合GCN-RNN架构的局限性。
• 探究在合理设计下，纯GCN方法是否能在GMC任务中实现最先进性能。
• 通过引入专用投影层，提升评分矩阵与图结构之间的嵌入兼容性。
• 通过引入一种加权策略，平衡自连接与邻居信息，增强图卷积中的特征学习能力。
• 构建一个统一的端到端深度学习框架，使GCN与矩阵补全组件能够相互反馈。

提出的方法

• 提出一种基于谱图卷积中切比雪夫多项式前两项的新型图卷积层，实现高效且稳定的消息传递。
• 引入一种加权策略，动态控制自连接与邻近节点在图嵌入中的贡献，提升特征表示能力。
• 在GCN之后应用全连接层，将用户与物品嵌入从图空间投影到评分矩阵空间，确保图表示与评分表示之间的兼容性。
• 将GCN与矩阵补全整合为统一的深度学习框架，支持端到端训练，并实现组件间的相互反馈。
• 采用因子分解矩阵分解损失以实现高效优化，并支持大规模数据集上的可扩展训练。
• 使用早停法与L2正则化防止过拟合，超参数通过验证集性能进行调优。

实验结果

研究问题

• RQ1 纯GCN架构是否能在几何矩阵补全任务中超越混合GCN-RNN模型（如RMGCNN）？
• RQ2 在自连接与邻居之间采用加权融合策略，在提升图嵌入质量方面效果如何？
• RQ3 专用全连接投影层在对齐基于图的嵌入与评分矩阵嵌入方面有何影响？
• RQ4 与RMGCNN和GC-MC等最先进方法相比，CGMC在准确率与训练效率方面表现如何？
• RQ5 CGMC对关键超参数（如加权系数γ与嵌入维度d）的敏感性如何？

主要发现

• CGMC在四个基准数据集（ML-100K、Douban、Flixster、YahooMusic）上均取得最佳性能，RMSE与训练速度均优于RMGCNN与GC-MC。
• 在ML-1M数据集上，CGMC的RMSE为0.8275，每轮训练仅需7秒，显著快于RMGCNN（212秒）与GC-MC（3116秒）。
• 消融实验表明，若移除全连接层（CGMC-0），所有数据集与GCN深度下性能均出现一致下降。
• 将CGMC中的GCN替换为GCN-kw后性能更差，证明所提出的邻居融合加权策略具有优越性。
• CGMC对超参数变化具有鲁棒性：在γ值（10⁻⁴至1.0）与嵌入维度范围内均保持强性能，即使在低维d下亦表现良好。
• 在YahooMusic等大规模数据集上，CGMC表现出稳定且优异的结果，RMSE为18.9，优于RMGCNN（19.9）与GC-MC（34.6）。