[论文解读] Modeling Scale-free Graphs with Hyperbolic Geometry for Knowledge-aware Recommendation

Yankai Chen, Meng‐Lin Yang+5 more|arXiv (Cornell University)|Aug 14, 2021

Recommender Systems and Techniques被引用 10

一句话总结

本文提出 LKGR，一种知识感知推荐模型，利用双曲几何的洛伦兹模型来更好地捕捉统一用户-物品交互与知识图谱（KG）数据的层次性、无标度结构。通过在双曲空间中执行图卷积和基于注意力的信息聚合，LKGR 在三个真实世界基准数据集上的 Recall@20 比最先进方法高出 3.6%–15.3%。

ABSTRACT

Aiming to alleviate data sparsity and cold-start problems of traditional recommender systems, incorporating knowledge graphs (KGs) to supplement auxiliary information has recently gained considerable attention. Via unifying the KG with user-item interactions into a tripartite graph, recent works explore the graph topologies to learn the low-dimensional representations of users and items with rich semantics. However, these real-world tripartite graphs are usually scale-free, the intrinsic hierarchical graph structures of which are underemphasized in existing works, consequently, leading to suboptimal recommendation performance. To address this issue and provide more accurate recommendation, we propose a knowledge-aware recommendation method with the hyperbolic geometry, namely Lorentzian Knowledge-enhanced Graph convolutional networks for Recommendation (LKGR). LKGR facilitates better modeling of scale-free tripartite graphs after the data unification. Specifically, we employ different information propagation strategies in the hyperbolic space to explicitly encode heterogeneous information from historical interactions and KGs. Our proposed knowledge-aware attention mechanism enables the model to automatically measure the information contribution, producing the coherent information aggregation in the hyperbolic space. Extensive experiments on three real-world benchmarks demonstrate that LKGR outperforms state-of-the-art methods by 3.6-15.3% of Recall@20 on Top-K recommendation.

研究动机与目标

• 解决欧几里得空间在建模用户-物品交互与知识图谱构成的层次性、无标度三元图时的局限性。
• 克服在欧几里得嵌入中因高失真而导致的表示学习次优问题，以更好地捕捉现实推荐数据中固有的树状结构。
• 通过在双曲几何中显式建模统一用户-物品-KG 图的层次拓扑结构，提升推荐性能。
• 设计一种知识感知注意力机制，以自适应方式衡量双曲空间中信息的贡献度，实现一致的表示学习。
• 通过广泛的实证评估，证明双曲几何在知识感知推荐中优于欧几里得空间。

提出的方法

• 将节点表示（用户、物品、实体）投影到洛伦兹流形上，这是一种特定的双曲空间黎曼流形，以利用其指数级体积增长特性，更好地建模层次图结构。
• 在洛伦兹流形上设计一种知识感知注意力机制，根据邻居节点在双曲空间中的信息量动态加权其重要性。
• 将信息传播解耦为两条路径：一条用于用户-物品交互信号，另一条用于知识图谱关系信号，实现异质信息融合。
• 在双曲空间中使用黎曼优化执行多层图卷积操作，以在消息传递过程中保持几何特性。
• 使用黎曼随机梯度下降（RSGD）对模型进行端到端训练，确保梯度在流形上正确反向传播。
• 通过统一的三元图整合用户-物品交互与知识图谱信息，在保留结构层次的同时实现联合表示学习。

实验结果

研究问题

• RQ1 与欧几里得空间相比，双曲几何是否能更好地建模统一用户-物品交互与知识图谱数据的层次性、无标度结构？
• RQ2 所提出的双曲空间中的知识感知注意力机制如何提升推荐任务的表示学习？
• RQ3 在双曲空间中分别建模异质信号（用户-物品交互 vs. 知识图谱关系）在多大程度上提升了推荐性能？
• RQ4 使用洛伦兹模型是否能减少无标度图中的嵌入失真，从而提升下游推荐的准确性？
• RQ5 信息传播的深度（层数）如何影响双曲推荐框架的性能？

主要发现

• LKGR 在三个真实世界基准数据集（MovieLens-20M、Meituan-Dianping 和 Book-Crossing）上的 Recall@20 比最先进方法高出 3.6%–15.3%。
• 该模型在 Top-K 推荐和基于排序的指标上均优于现有最先进方法，在不同数据集上均表现出一致的性能提升。
• 消融实验表明，知识感知注意力机制和双曲空间建模对性能提升有显著贡献。
• 信息传播的最佳层数（L）因数据集而异，L=2 或 L=3 时性能最佳，表明自适应深度至关重要。
• 双曲空间建模减少了无标度图中的失真，表现为相比欧几里得基线，能更有效地捕捉层次化节点关系。
• 该模型通过在双曲空间中实现受控且自适应的深度信息传递，有效缓解了过平滑问题，保留了高阶结构信息。