[论文解读] Where are we in embedding spaces? A Comprehensive Analysis on Network Embedding Approaches for Recommender Systems

Sixiao Zhang, Hongxu Chen+4 more|arXiv (Cornell University)|May 19, 2021

Recommender Systems and Techniques参考文献 32被引用 6

一句话总结

本文对推荐系统中的双曲空间进行了全面的实证与理论分析，评估了双曲嵌入在何种情况下及为何优于欧几里得空间。提出了一种新型双曲度量学习模型 HSCML，在社交推荐任务中实现了最先进性能，表明双曲空间在低密度、层次化数据集且潜在维度较小时尤为有效。

ABSTRACT

Hyperbolic space and hyperbolic embeddings are becoming a popular research field for recommender systems. However, it is not clear under what circumstances the hyperbolic space should be considered. To fill this gap, This paper provides theoretical analysis and empirical results on when and where to use hyperbolic space and hyperbolic embeddings in recommender systems. Specifically, we answer the questions that which type of models and datasets are more suited for hyperbolic space, as well as which latent size to choose. We evaluate our answers by comparing the performance of Euclidean space and hyperbolic space on different latent space models in both general item recommendation domain and social recommendation domain, with 6 widely used datasets and different latent sizes. Additionally, we propose a new metric learning based recommendation method called SCML and its hyperbolic version HSCML. We evaluate our conclusions regarding hyperbolic space on SCML and show the state-of-the-art performance of hyperbolic space by comparing HSCML with other baseline methods.

研究动机与目标

• 确定在何种条件下双曲空间相较于欧几里得空间在推荐系统中具有优势。
• 评估双曲嵌入在不同推荐模型、数据集及潜在空间大小下的性能表现。
• 提出一种基于新型度量学习的社交推荐模型 HSCML，并验证其在双曲空间中的优越性。
• 为实践者提供明确指导，说明在现实推荐系统中何时应采用双曲嵌入。

提出的方法

• 作者使用六组广泛使用的数据集，在通用推荐与社交推荐任务中，对欧几里得空间与双曲空间进行了对比分析。
• 在欧几里得与双曲几何中，评估了多种潜在空间模型，包括矩阵分解与度量学习方法。
• 提出一种新方法——社交协同度量学习（SCML）作为基线模型，并引入其双曲变体 HSCML 用于对比。
• 采用庞加莱球模型表示双曲空间，以实现双曲嵌入的高效优化。
• 双曲与欧几里得模型均通过负采样进行训练，并在一系列潜在维度范围内调优，以评估性能权衡。
• 实验包括对潜在维度与数据集密度的消融研究，结果使用标准推荐指标报告。

实验结果

研究问题

• RQ1 在何种推荐任务中，双曲空间比欧几里得空间更合适？
• RQ2 哪些类型的数据集（如层次化、无标度、低密度）最受益于双曲嵌入？
• RQ3 潜在维度的选择如何影响欧几里得与双曲空间之间的性能差距？
• RQ4 在双曲空间中，一个简单的度量学习模型能否超越复杂的最先进欧几里得模型？

主要发现

• 在低密度、层次化数据集（如 Ciao 与 Epinions）上，双曲空间显著优于欧几里得空间，尤其在潜在维度较小时。
• 随着潜在维度的增加，欧几里得与双曲空间之间的性能差距逐渐缩小，表明高维欧几里得空间可部分补偿其固有的失真。
• HSCML 在社交推荐基准上实现了最先进性能，尽管其架构更简单，但仍优于复杂模型如 SAMN 与 RML-DGATs。
• 结果证实，双曲空间在建模树状、无标度及层次化数据结构方面尤为有效，而这些结构在现实用户-项目交互网络中普遍存在。
• 本研究提供了实证证据，表明双曲嵌入能降低层次化数据的失真，使其在这些结构中比欧几里得嵌入更高效。