[論文レビュー] Collaborative Metric Learning Recommendation System: Application to Theatrical Movie Releases

Miguel Del Campo, J. J. Espinoza+2 more|arXiv (Cornell University)|Mar 1, 2018

Recommender Systems and Techniques参考文献 12被引用数 6

ひとこと要約

本論文は、深層度量学習と協調フィルタリングを組み合わせることで、ユーザーのフィードバックが全くない新作映画の推薦を改善する協調的度量学習（CML）フレームワークを提案する。ユーザーと製品の類似度を学習された距離で測る共有埋め込み空間を学習することで、購入履歴とプロット埋め込みのみを用いて、未学習の映画リリースにおいてベースライン手法を著しく上回る性能を達成する。

ABSTRACT

Product recommendation systems are important for major movie studios during the movie greenlight process and as part of machine learning personalization pipelines. Collaborative Filtering (CF) models have proved to be effective at powering recommender systems for online streaming services with explicit customer feedback data. CF models do not perform well in scenarios in which feedback data is not available, in cold start situations like new product launches, and situations with markedly different customer tiers (e.g., high frequency customers vs. casual customers). Generative natural language models that create useful theme-based representations of an underlying corpus of documents can be used to represent new product descriptions, like new movie plots. When combined with CF, they have shown to increase the performance in cold start situations. Outside of those cases though in which explicit customer feedback is available, recommender engines must rely on binary purchase data, which materially degrades performance. Fortunately, purchase data can be combined with product descriptions to generate meaningful representations of products and customer trajectories in a convenient product space in which proximity represents similarity. Learning to measure the distance between points in this space can be accomplished with a deep neural network that trains on customer histories and on dense vectorizations of product descriptions. We developed a system based on Collaborative (Deep) Metric Learning (CML) to predict the purchase probabilities of new theatrical releases. We trained and evaluated the model using a large dataset of customer histories, and tested the model for a set of movies that were released outside of the training window. Initial experiments show gains relative to models that do not train on collaborative preferences.

研究の動機と目的

• ユーザーのフィードバックが全くない新作劇場公開映画の推薦という、推薦システムにおける一般的なコールドスタート問題に対処すること。
• 購入履歴など、スパarsなもしくは二値のフィードバックデータ（例：購入のみ）が利用可能な状況での推薦パフォーマンスを向上させること。
• 自然言語モデルを介して映画プロットの意味的表現を協調的度量学習フレームワークに統合すること。
• ユーザーと製品の埋め込み空間を意味的で次元が低いものに学習し、距離が類似度および購入可能性を反映するようにすること。
• 訓練ウィンドウ外の映画リリースに対してモデルの一般化能力を評価することにより、実世界のコールドスタート展開を模擬すること。

提案手法

• モデルは、事前学習済みの自然言語埋め込み（例：BERTや類似モデル）を用いて、映画プロット記述を密度の高いベクトル表現に変換する。
• ユーザーとアイテムの埋め込みが、購入する可能性の高いアイテムに近づくように最適化されるような度量空間を、深層ニューラルネットワークを用いて学習する。
• 訓練目的として、ユーザー-アイテム相互作用の三つ組（トリプレット）における三重損失を最小化する：正例（購入済みアイテム）は負例（未購入アイテム）よりもユーザー埋め込みに近づくようにする。
• ユーザーの購入履歴と映画プロットの意味的埋め込みを同時に学習することで、テキストコンテンツからユーザーの好みモデリングへの知識の転送を可能にする。
• 学習された埋め込み空間により、ゼロショット推論が可能となる：歴史的フィードバックが不要な新規映画は、プロット埋め込みのみで推薦可能である。
• 大規模な顧客履歴と映画リリースデータセットを用いて評価し、テストセットの映画は訓練から除外されている。

実験結果

リサーチクエスチョン

• RQ1 二値の購入データしか利用できない状況で、度量学習フレームワークがユーザーの好みを効果的にモデル化できるか？
• RQ2 映画プロットの意味的埋め込みは、コールドスタート推薦パフォーマンスをどの程度向上させるか？
• RQ3 協調的好みと意味的表現の共同学習は、未学習の劇場公開映画における一般化性能を向上させるか？
• RQ4 提案されたCMLモデルは、従来の協調フィルタリングやコンテンツベースのベースラインと比較して、コールドスタート状況でどのように性能を発揮するか？
• RQ5 ユーザーの購入履歴とプロット埋め込みのみを用いて、訓練時に見られなかった新規映画に一般化できるか？

主な発見

• CMLモデルは、協調的好みを組み込まないベースラインモデルを著しく上回り、特にコールドスタート設定で顕著な性能向上を示す。
• プロット埋め込みと協調学習の統合により、未学習の劇場公開映画リリースにおけるパフォーマンスが向上し、スパースなフィードバック状況下での意味的コンテンツの価値を示している。
• 訓練ウィンドウ外の映画リリースをテストセットとして評価した結果、予測精度に顕著な向上が得られた。
• 度量学習フレームワークにおける三重損失の使用により、フィードバックが限られた状況でもユーザーの好みのパターンを効果的に捉えることができた。
• 新規アイテムへの一般化性能が高く、映画プロットの意味的表現が欠落したユーザーのフィードバックに効果的に代わることが示された。
• 距離が購入可能性を反映する共有埋め込み空間を学習することが、従来のCFやコンテンツオンリーベースラインよりも効果的であることが結果から示された。