[论文解读] Scalable Hyperbolic Recommender Systems
本文提出了一种可扩展的双曲推荐系统，采用双曲面模型和爱因斯坦中点聚合方法隐式表示用户，实现在数百万用户和商品上的高效训练。实验表明，双曲模型在复杂网络型数据集上相比欧几里得基线模型性能提升2%–14%，通过非对称设计将参数量和训练时间最多减少五倍，同时保持性能不变。
We present a large scale hyperbolic recommender system. We discuss why hyperbolic geometry is a more suitable underlying geometry for many recommendation systems and cover the fundamental milestones and insights that we have gained from its development. In doing so, we demonstrate the viability of hyperbolic geometry for recommender systems, showing that they significantly outperform Euclidean models on datasets with the properties of complex networks. Key to the success of our approach are the novel choice of underlying hyperbolic model and the use of the Einstein midpoint to define an asymmetric recommender system in hyperbolic space. These choices allow us to scale to millions of users and hundreds of thousands of items.
研究动机与目标
- 开发一种适用于拥有数百万用户和商品的大规模电商平台的可扩展双曲推荐系统。
- 通过实现稳定且精确的梯度下降，解决双曲空间中黎曼优化的挑战。
- 通过将用户隐式表示为其交互历史的爱因斯坦中点，提升可扩展性并减少训练时间。
- 评估双曲几何是否相比欧几里得几何为具有层次结构或幂律结构数据的推荐系统提供更优的归纳偏差。
- 证明非对称双曲模型可在显著减少参数量的同时，与对称模型保持相当的性能。
提出的方法
- 作者采用双曲空间的双曲面模型，该模型支持精确的黎曼梯度下降，避免数值不稳定性。
- 用户表征通过其正向交互商品的爱因斯坦中点隐式建模，消除显式用户嵌入，降低模型复杂度。
- 系统采用黎曼随机梯度下降进行优化，实现双曲空间中的曲率感知更新。
- 非对称设计使系统能够在包含最多1840万用户和100万件商品的数据集上训练，且内存开销极低。
- 性能通过在公开数据集（MovieLens20M）和专有数据集（ASOS）上的保留测试集，使用HR@10和NDCG@10进行评估。
- 在相同超参数和训练设置下，与对称双曲和欧几里得基线模型进行比较。
实验结果
研究问题
- RQ1双曲几何是否相比欧几里得几何为具有层次结构或无标度网络结构的推荐系统提供更优的归纳偏差？
- RQ2如何使双曲推荐系统在可扩展性上满足拥有数百万用户和商品的真实工业级数据集的需求？
- RQ3在表现出复杂网络特性的数据集中，双曲模型相比欧几里得模型的性能增益有多大？
- RQ4通过爱因斯坦中点实现的非对称建模是否能在减少参数量和训练时间的同时保持性能？
- RQ5在双曲空间中，自适应优化技术能在当前结果基础上进一步提升性能到何种程度？
主要发现
- 在MovieLens20M数据集上，非对称双曲面推荐系统性能与对称版本相当，但训练时间减少一半，参数量减少五倍。
- 在复杂网络型数据集上，双曲模型相比其欧几里得基线模型性能提升2%–14%，证明双曲几何在层次化数据中具有优越性。
- 在专有ASOS数据集上，经过一个训练周期后，系统达到HR@10 = 0.589和NDCG@10 = 0.324，显著优于随机基线，但仍低于欧几里得基线。
- 在ASOS数据集上，非对称系统在相同训练周期数下，相比对称版本将训练时间减少了四倍。
- 作者指出，自适应优化器和改进的初始化方法是未来工作的关键方向，有望缩小与欧几里得模型的性能差距。
- 结果证实，结合爱因斯坦中点的隐式用户建模，双曲几何是工业级推荐系统中一种可行且可扩展的替代方案。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。