[论文解读] Modeling Musical Taste Evolution with Recurrent Neural Networks

Massimo Quadrana, Marta Režnáková+3 more|arXiv (Cornell University)|Jun 18, 2018

Music and Audio Processing参考文献 12被引用 3

一句话总结

该论文提出一种循环神经网络（RNN）模型，通过用户创建的网络电台序列预测其音乐品味的演变，展示了在长尾音乐个性化推荐中的优越性能，并在学习排序系统中集成后，MRR@5提升16.7%，优于基线模型，能够更好地捕捉长期偏好依赖关系。

ABSTRACT

Finding the music of the moment can often be a challenging problem, even for well-versed music listeners. Musical tastes are constantly in flux, and the problem of developing computational models for musical taste dynamics presents a rich and nebulous problem space. A variety of factors all play some role in determining preferences (e.g., popularity, musicological, social, geographical, generational), and these factors vary across different listeners and contexts. In this paper, we leverage a massive dataset on internet radio station creation from a large music streaming company in order to develop computational models of listener taste evolution. We delve deep into the complexities of this domain, identifying some of the unique challenges that it presents, and develop a model utilizing recurrent neural networks. We apply our model to the problem of next station prediction and show that it not only outperforms several baselines, but excels at long tail music personalization, particularly by learning the long-term dependency structure of listener music preference evolution.

研究动机与目标

• 利用互联网电台创建的序列数据，建模个体音乐偏好随时间的动态演变过程。
• 解决长尾音乐个性化推荐的挑战，即用户随时间探索小众或不热门音乐人的问题。
• 评估RNN在捕捉听众行为中长期依赖结构方面相对于基于流行度和相似度的基线模型的有效性。
• 将RNN预测结果集成到级联式学习排序（L2R）框架中，以提升推荐质量。
• 基于历史电台数量和流行度水平，分析不同听众群体中的模型性能表现。

提出的方法

• 模型采用门控循环单元（GRU）架构，对用户创建的电台序列进行编码，学习听音行为中的时间依赖关系。
• RNN通过学习用户历史电台创建序列，预测其下一步可能创建的电台。
• 级联式学习排序（L2R）系统将RNN预测结果与KNN、流行度（POP）和word2vec（W2V）模型的特征结合，对候选电台进行重排序。
• L2R模型采用LambdaMart算法，使用500棵树，并在MRR@1和MRR@5上进行优化，以提升top-k推荐的准确性。
• 特征包括电台流行度、电台类型、听众年龄、听音多样性、歌曲流行度以及电台创建数量，其中RNN输出作为额外特征加入。
• 模型在来自Pandora的超过110亿条电台数据集上进行评估，听众按历史电台数量和未来行为进行分组。

实验结果

研究问题

• RQ1 RNN能否有效利用序列化电台创建数据，建模音乐品味的长期演变？
• RQ2 在预测用户下一步电台创建行为方面，RNN相较于基于流行度和相似度的基线模型表现如何？
• RQ3 在哪些用户群体中（如按电台创建数量或流行度划分），RNN展现出最大优势？
• RQ4 将RNN预测结果集成到级联式学习排序系统中，能在多大程度上提升排序性能？
• RQ5 与其它模型相比，RNN在推荐较不热门的长尾音乐项目方面表现如何？

主要发现

• 与基线模型相比，RNN模型在recall@20上实现了8.2%的性能提升，且随着历史数据量的增加，性能提升更加显著。
• 对于创建了6至40个电台的用户，RNN相较于基线模型的性能提升最为显著，表明其在学习长期依赖关系方面具有强大能力。
• RNN在推荐较不热门的长尾音乐项目方面表现出明显优势，能更准确地识别出这些内容。
• 在级联式学习排序系统中，将RNN预测作为额外特征加入后，当以MRR@5为目标进行优化时，MRR@5实现16.7%的相对提升。
• 当L2R系统以MRR@1为目标进行优化时，RNN使MRR@1提升10.3%，MRR@3提升13.8%，证实其在top-1和top-3推荐中的优异表现。
• 结果表明，RNN预测与其他模型具有互补性，能够捕捉到关于偏好演变的独有信息。