[論文レビュー] Modeling Musical Taste Evolution with Recurrent Neural Networks

Massimo Quadrana, Marta Režnáková+3 more|arXiv (Cornell University)|Jun 18, 2018

Music and Audio Processing参考文献 12被引用数 3

ひとこと要約

本稿では、インターネットラジオ局の作成履歴を用いた順序付きデータから、ユーザーの音楽的嗜好の進化を予測する再帰的ニューラルネットワーク（RNN）モデルを提案する。長期間にわたる嗜好の変化を捉える能力が優れており、順序付き学習ランク付け（learning-to-rank）システムに統合した際、MRR@5で16.7%の向上を達成し、ベースラインを上回る性能を示した。特に、長尾の音楽推薦分野でのパフォーマンスが顕著である。

ABSTRACT

Finding the music of the moment can often be a challenging problem, even for well-versed music listeners. Musical tastes are constantly in flux, and the problem of developing computational models for musical taste dynamics presents a rich and nebulous problem space. A variety of factors all play some role in determining preferences (e.g., popularity, musicological, social, geographical, generational), and these factors vary across different listeners and contexts. In this paper, we leverage a massive dataset on internet radio station creation from a large music streaming company in order to develop computational models of listener taste evolution. We delve deep into the complexities of this domain, identifying some of the unique challenges that it presents, and develop a model utilizing recurrent neural networks. We apply our model to the problem of next station prediction and show that it not only outperforms several baselines, but excels at long tail music personalization, particularly by learning the long-term dependency structure of listener music preference evolution.

研究の動機と目的

• インターネットラジオ局の作成履歴から得られる順序データを用いて、個人の音楽的嗜好の動的な時間的変化をモデル化すること。
• ユーザーが時間経過とともにマイナーなアーティストを探索するような、長尾の音楽推薦課題に対処すること。
• RNNがリスナー行動の長期的依存関係を、人気ベースおよび類似度ベースのベースラインと比較してどれほど効果的に捉えられるかを評価すること。
• RNNの予測結果を段階的（cascaded）な順序付き学習ランク付け（L2R）フレームワークに統合し、推薦品質を向上させること。
• 歴史的局数や人気度レベルに基づく異なるリスナー集団におけるモデルのパフォーマンスを分析すること。

提案手法

• モデルは、ユーザーが作成したラジオ局の順序列を符号化するため、ゲート付き再帰ユニット（GRU）アーキテクチャを用いる。これにより、リスニング行動における時間的依存関係を学習する。
• RNNは、ユーザーの過去の局作成履歴に基づいて、次にユーザーが作成する可能性の高い局を予測するように学習する。
• 段階的（cascaded）な順序付き学習ランク付け（L2R）システムは、KNN、人気度（POP）、word2vec（W2V）モデルからの特徴とRNNの予測結果を統合し、候補局の再順序付けを行う。
• L2RモデルはLambdaMart（500本の決定木）を用い、MRR@1およびMRR@5を最適化することで、上位k件の推薦精度を向上させる。
• 特徴量には、局の人気度、局のタイプ、リスナーの年齢、リスニングの多様性、楽曲の人気度、局作成数が含まれ、RNNの出力を追加の特徴として追加する。
• 本モデルは、Pandoraから得た110億件を超えるラジオ局のデータセット上で評価され、歴史的局数と将来の行動に基づいてリスナーをセグメント化している。

実験結果

リサーチクエスチョン

• RQ1 RNNは、順序付きの局作成履歴データから、音楽的嗜好の長期的進化を効果的にモデル化できるか？
• RQ2 RNNのパフォーマンスは、人気ベースおよび類似度ベースのベースラインと比較して、次に作成される局の予測においてどのように差をつけるか？
• RQ3 どのユーザー集団（例：局作成数や人気度の観点から）においてRNNが最大の利点を発揮するか？
• RQ4 RNNの予測結果を段階的L2Rシステムに統合することで、ランク付けパフォーマンスはどの程度向上するか？
• RQ5 他のモデルと比較して、RNNはマイナーで長尾の音楽アイテムの推薦において、どの程度の性能を示すか？

主な発見

• RNNモデルは、ベースラインモデルと比較して、再現率@20（recall@20）で8.2%の向上を達成し、履歴データが増えるに従いパフォーマンスが顕著に向上する。
• RNNは、6〜40のラジオ局を作成したユーザーにおいて、ベースラインを最も顕著に上回る性能を示しており、長期的依存関係の学習能力が強いことが示された。
• RNNは、マイナーで長尾の音楽アイテムの推薦において顕著な優位性を示し、他のモデルと比較して、それらをより正確に特定していることが確認された。
• 段階的L2RシステムにRNNの予測結果を追加特徴として統合した場合、MRR@5を最適化した際、MRR@5で16.7%の相対的向上が得られた。
• L2RシステムをMRR@1で最適化した場合、MRR@1で10.3%、MRR@3で13.8%の向上が確認され、トップ1およびトップ3のパフォーマンスが強く裏付けられた。
• 結果から、RNNの予測結果は他のモデルと相補的であることが示され、嗜好の進化に関する独自の情報を捉えていることが明らかになった。