[论文解读] HCGR: Hyperbolic Contrastive Graph Representation Learning for Session-based Recommendation

Naicheng Guo, Xiaolei Liu+7 more|arXiv (Cornell University)|Jul 6, 2021

Recommender Systems and Techniques参考文献 46被引用 6

一句话总结

HCGR 提出了一种用于会话推荐的双曲对比图神经网络，利用洛伦兹双曲空间建模分层物品关系并提升表征学习。通过整合基于测地线距离的自适应双曲注意力与对比学习，HCGR 在四个真实世界数据集上的 HitRate、NDCG 和 MRR 指标上相较 SOTA 基线模型最高提升 28.84%，达到当前最先进性能。

ABSTRACT

Session-based recommendation (SBR) learns users' preferences by capturing the short-term and sequential patterns from the evolution of user behaviors. Among the studies in the SBR field, graph-based approaches are a relatively powerful kind of way, which generally extract item information by message aggregation under Euclidean space. However, such methods can't effectively extract the hierarchical information contained among consecutive items in a session, which is critical to represent users' preferences. In this paper, we present a hyperbolic contrastive graph recommender (HCGR), a principled session-based recommendation framework involving Lorentz hyperbolic space to adequately capture the coherence and hierarchical representations of the items. Within this framework, we design a novel adaptive hyperbolic attention computation to aggregate the graph message of each user's preference in a session-based behavior sequence. In addition, contrastive learning is leveraged to optimize the item representation by considering the geodesic distance between positive and negative samples in hyperbolic space. Extensive experiments on four real-world datasets demonstrate that HCGR consistently outperforms state-of-the-art baselines by 0.43$\%$-28.84$\%$ in terms of $HitRate$, $NDCG$ and $MRR$.

研究动机与目标

• 解决欧几里得空间在捕捉会话推荐中分层、幂律分布的用户行为模式方面的局限性。
• 通过利用双曲几何的内在表征能力，克服在欧几里得空间中嵌入树状分层物品关系所导致的失真。
• 设计一种新颖的双曲图消息传递机制，在基于注意力的聚合过程中尊重欧几里得空间与双曲空间之间的几何差异。
• 通过在双曲空间中基于测地线距离优化的对比学习，增强物品表征学习，提升正负样本之间的判别能力。
• 证明双曲空间能更好地保持物品流行度层级结构，并在序列用户行为中实现更自适应的注意力加权。

提出的方法

• 将物品嵌入洛伦兹双曲空间，以保留其分层和一致的结构特性，利用双曲空间的指数体积增长特性。
• 设计一种自适应双曲注意力机制，利用双曲空间中的测地线距离计算消息传播，确保在聚合过程中的几何一致性。
• 引入一种对比学习目标，通过最小化双曲空间中正样本间的测地线距离、最大化负样本间的测地线距离，优化物品表征。
• 采用洛伦兹双曲面模型以实现稳定且可微分的操作，包括双曲向量加法与注意力计算，以保持几何保真度。
• 构建一种图神经网络框架，其中节点嵌入通过双曲消息传递进行更新，注意力权重在双曲流形的切空间中学习。
• 应用专为双曲空间设计的温度缩放对比损失函数，替代传统交叉熵或 BPR 损失，后者难以准确反映双曲几何特性。

实验结果

研究问题

• RQ1 与欧几里得空间相比，双曲空间是否能更优地表征会话推荐中用户会话行为的分层与幂律分布特性？
• RQ2 双曲对比学习如何提升会话推荐中物品表征的判别能力？
• RQ3 所提出的双曲注意力机制在多大程度上比基于欧几里得空间的注意力更有效地捕捉长程依赖关系与物品重要性？
• RQ4 在建模真实世界数据集中的物品流行度层级时，双曲几何的引入是否能减少表征失真？
• RQ5 在多样化的会话推荐基准上，HCGR 在 HitRate、NDCG 和 MRR 指标上与当前最先进模型相比表现如何？

主要发现

• HCGR 在四个真实世界数据集上相较 SOTA 基线模型实现一致性能提升，HitRate、NDCG 和 MRR 指标提升范围为 0.43% 至 28.84%。
• 该模型在捕捉分层物品流行度方面表现出色，可视化结果证实更受欢迎的物品在双曲空间中更集中于原点附近。
• 双曲空间能更清晰地区分不同流行度的物品，表现为 HCGR 中顶级物品区域（区域 1）的平均交互次数更高，相较 ECGR 模型表现更优。
• HCGR 中的注意力权重更具自适应性与判别性，对关键行为转换赋予更高得分，表明其对序列影响的建模更优。
• 在二维与三维双曲空间中的嵌入可视化揭示了清晰的分层聚类结构，热门物品位于中心区域，不热门物品则向外辐射。
• 双曲空间中的对比学习显著提升了表征质量，表现为正负样本对之间测地线距离的分离度明显改善。