[論文レビュー] Music Recommendations in Hyperbolic Space: An Application of Empirical Bayes and Hierarchical Poincaré Embeddings

Tim Schmeier, Sam Garrett+2 more|arXiv (Cornell University)|Jul 24, 2019

Music and Audio Processing参考文献 11被引用数 5

ひとこと要約

本稿では、音楽エンティティ（例：アーティスト、ジャンル、ステーション）間の信頼性の高い階層的リンクを推定するために、パラメトリックな経験的ベイズを組み合わせた双曲的ポアンカレ埋め込みモデルを提案する。ユーザーの希少なデータから双曲空間にこれらのエンティティを埋め込み、経験的ベイズを用いてリンクの信頼性を推定することで、A/Bテストにおいてユークリッド行列分解を著しく上回り、パーソナライズドプレイリストにおける平均聴取時間を17.4%向上させた。

ABSTRACT

Matrix Factorization (MF) is a common method for generating recommendations, where the proximity of entities like users or items in the embedded space indicates their similarity to one another. Though almost all applications implicitly use a Euclidean embedding space to represent two entity types, recent work has suggested that a hyperbolic Poincaré ball may be more well suited to representing multiple entity types, and in particular, hierarchies. We describe a novel method to embed a hierarchy of related music entities in hyperbolic space. We also describe how a parametric empirical Bayes approach can be used to estimate link reliability between entities in the hierarchy. Applying these methods together to build personalized playlists for users in a digital music service yielded a large and statistically significant increase in performance during an A/B test, as compared to the Euclidean model.

研究の動機と目的

• アーティスト、ジャンル、ラジオステーションなどの音楽エンティティ間の階層的関係をモデル化することで、音楽推薦の質を向上させること。
• 高次元かつ希少なユーザー行動データを伴う階層的データを表現する際、ユークリッド空間の限界を克服すること。
• 経験的ベイズを用いて、多様なデータソースから得られる信頼性の高いエンティティリンクをスケーラブルかつデータ駆動で推定する方法を開発すること。
• 実世界の推薦システムにおける双曲埋め込みの性能を評価すること、特にパーソナライズドプレイリスト生成における応用を対象とする。
• リンク信頼性推定を用いた自動的かつ低データ初期化により、新規アーティストや楽曲の手動キュレーションに依存するのを減らすこと。

提案手法

• 著者らは、ライブラジオステーション、フォーマット、アーティスト、ジャンル、トラックの5つの音楽エンティティタイプからなる階層的ネットワークを構築し、方向性のあるリンクを用いて階層的および行動的関係を反映させた。
• ユーザーの相互作用を共役指数型分布族（例：二項分布、ポアソン分布）としてモデル化することで、異種のデータソースを統一的に扱うために、パラメトリックな経験的ベイズを用いてエンティティ間のリンク信頼性を推定した。
• 経験的ベイズから得られる信頼区間の下限を用いて、弱いかノイズの強いリンクをフィルタリングし、統計的に堅牢な接続のみをネットワークに含めるようにした。
• 得られた階層的ネットワークは、木構造の階層をより少ないパラメータで自然に表現できる双曲幾何を用いてポアンカレボールに埋め込まれた。
• 推薦は、ポアンカレ空間における類似度に基づいて生成され、埋め込みが近いほどユーザーの好みに近いとされる。
• 本モデルは、iHeartRadioの週次ミックステーププレイリストシステムにおいて、ベースラインのコラボラティブ行列分解（CMF）モデルと比較してA/Bテストで評価された。

実験結果

リサーチクエスチョン

• RQ1 双曲的ポアンカレ埋め込みは、ユークリッド埋め込みと比較して、階層的音楽エンティティ関係をより効果的に表現できるか？
• RQ2 希少かつ異種のユーザー行動データを用いて、パラメトリックな経験的ベイズが音楽エンティティ間のリンク信頼性を信頼性を持って推定できるか？
• RQ3 ポアンカレ埋め込みと経験的ベイズによるリンク推定を組み合わせることで、実世界の音楽推薦性能に測定可能な向上が得られるか？
• RQ4 本モデルは、歴史的データが極めて少ないコールドスタートアイテムをどのように処理するか？また、手動キュレーションへの依存を減らせるか？
• RQ5 ポアンカレベースの推薦は、初期露出以降のユーザーエンゲージメントに長期的にどのような影響を与えるか？

主な発見

• ポアンカレモデルは、CMFベースラインと比較して平均聴取時間（ALT）を17.4%向上させ、ブートストラップパーミュテーション検定で有意水準（p < 0.0001）を満たした。
• A/Bテスト終了後も3週間程度にわたり性能向上が維持されたことから、新規性効果を超えた持続的で肯定的な影響であることが示された。
• 本モデルはコールドスタート状況に対しても頑健であり、歴史的データが少ない新規アーティストや楽曲の自動埋め込みを可能にした。
• 経験的ベイズの導入により、多様なデータソースの統合が可能になり、異なるデータ生成プロセスにわたるリンク信頼性推定の精度が向上した。
• ポアンカレ埋め込みの階層的構造により、高レベルの概念（例：ジャンル、フォーマット）と低レベルのエンティティ（例：トラック）が明確に分離され、モデルの解釈性と効率性が向上した。
• 結果から、双曲空間がユークリッド空間よりも階層的音楽データの表現に自然かつ効果的であるという仮説が裏付けられた。