[论文解读] Music Recommendations in Hyperbolic Space: An Application of Empirical Bayes and Hierarchical Poincaré Embeddings

Tim Schmeier, Sam Garrett+2 more|arXiv (Cornell University)|Jul 24, 2019

Music and Audio Processing参考文献 11被引用 5

一句话总结

本文提出了一种结合参数经验贝叶斯的双曲庞加莱嵌入模型，用于推断音乐实体（如艺术家、流派、电台）之间的可靠层次关系。通过将这些实体嵌入双曲空间，并利用经验贝叶斯方法从稀疏用户数据中估计链接可信度，该方法在A/B测试中显著优于欧几里得矩阵分解，在个性化播放列表中将平均收听时长提升了17.4%。

ABSTRACT

Matrix Factorization (MF) is a common method for generating recommendations, where the proximity of entities like users or items in the embedded space indicates their similarity to one another. Though almost all applications implicitly use a Euclidean embedding space to represent two entity types, recent work has suggested that a hyperbolic Poincaré ball may be more well suited to representing multiple entity types, and in particular, hierarchies. We describe a novel method to embed a hierarchy of related music entities in hyperbolic space. We also describe how a parametric empirical Bayes approach can be used to estimate link reliability between entities in the hierarchy. Applying these methods together to build personalized playlists for users in a digital music service yielded a large and statistically significant increase in performance during an A/B test, as compared to the Euclidean model.

研究动机与目标

• 通过建模音乐实体（如艺术家、流派和电台）之间的层次关系，提升音乐推荐质量。
• 解决欧几里得空间在表示具有高维稀疏用户交互数据的层次数据时的局限性。
• 开发一种可扩展的、数据驱动的方法，利用经验贝叶斯从多样化数据源中推断可靠的实体链接。
• 评估双曲嵌入在真实推荐系统中的性能，特别是在个性化播放列表生成中的表现。
• 通过链接可信度估计实现自动化的低数据初始化，减少对新艺术家和歌曲的人工策划依赖。

提出的方法

• 作者构建了一个包含五类音乐实体的层次网络：现场电台、节目类型、艺术家、流派和歌曲，其方向性链接反映了层次关系和行为关系。
• 他们应用参数经验贝叶斯方法估计实体之间的链接可靠性，将用户交互建模为共轭指数族分布（如伯努利分布、泊松分布），以统一异构数据源。
• 该方法使用经验贝叶斯得出的较低可信区间来过滤弱链接或噪声链接，确保仅包含统计上稳健的连接。
• 最终的层次网络被嵌入到庞加莱球中，利用双曲几何自然地捕捉树状层次结构，且参数更少，优于欧几里得空间。
• 通过计算庞加莱空间中的接近度生成推荐，其中距离更近的嵌入表示更高的相似性及用户偏好的可能性。
• 该模型通过与iHeartRadio的Weekly Mixtape播放列表系统中基线集体矩阵分解（CMF）模型的A/B测试进行评估。

实验结果

研究问题

• RQ1 双曲庞加莱嵌入是否能比欧几里得嵌入更有效地表示音乐实体之间的层次关系？
• RQ2 参数经验贝叶斯能否可靠地利用稀疏、异构的用户数据估计音乐实体之间的链接可信度？
• RQ3 将庞加莱嵌入与经验贝叶斯链接估计相结合，是否能在真实世界音乐推荐性能中带来可测量的提升？
• RQ4 该模型如何处理历史数据极少的冷启动项目？是否能减少对人工策划的依赖？
• RQ5 基于庞加莱的推荐在初始曝光后，对用户参与度的长期影响如何？

主要发现

• 与CMF基线相比，庞加莱模型将平均收听时长（ALT）提升了17.4%，该结果在自助重采样置换检验中具有统计显著性（p < 0.0001）。
• 性能提升在A/B测试结束后持续长达三周，表明其影响具有持续性，而非仅由新奇效应驱动。
• 该模型在冷启动场景下表现出强鲁棒性，能够实现对新艺术家和歌曲的自动嵌入，且历史数据极少。
• 经验贝叶斯的使用使得多种数据源得以统一建模，并在不同数据生成过程中提升了链接可信度估计的准确性。
• 庞加莱嵌入的层次结构使得高层次概念（如流派、节目类型）与低层次实体（如歌曲）得以分离，提升了模型的可解释性和效率。
• 结果支持了以下假设：双曲空间比欧几里得空间更能自然、有效地表示层次性音乐数据。