[論文レビュー] MeLU: Meta-Learned User Preference Estimator for Cold-Start Recommendation

Hoyeop Lee, Jinbae Im+3 more|arXiv (Cornell University)|Jul 31, 2019

Recommender Systems and Techniques参考文献 31被引用数 53

ひとこと要約

MeLU は最適化ベースのメタ学習（MAML）を用いて新規ユーザの非常に少ないインタラクションで推奨を迅速にパーソナライズし、コールドスタート状況で初期推奨を改善するエビデンス候補選択戦略を導入します。

ABSTRACT

This paper proposes a recommender system to alleviate the cold-start problem that can estimate user preferences based on only a small number of items. To identify a user's preference in the cold state, existing recommender systems, such as Netflix, initially provide items to a user; we call those items evidence candidates. Recommendations are then made based on the items selected by the user. Previous recommendation studies have two limitations: (1) the users who consumed a few items have poor recommendations and (2) inadequate evidence candidates are used to identify user preferences. We propose a meta-learning-based recommender system called MeLU to overcome these two limitations. From meta-learning, which can rapidly adopt new task with a few examples, MeLU can estimate new user's preferences with a few consumed items. In addition, we provide an evidence candidate selection strategy that determines distinguishing items for customized preference estimation. We validate MeLU with two benchmark datasets, and the proposed model reduces at least 5.92% mean absolute error than two comparative models on the datasets. We also conduct a user study experiment to verify the evidence selection strategy.

研究の動機と目的

• 推奨システムにおける初期インタラクションが不足するコールドスタートを解決する。
• メタ学習を活用して各ユーザに対して個別化された嗜好推定器を生成する。
• 初期推奨の品質を向上させるエビデンス候補選択戦略を提案する。
• ベンチマークデータセットおよびユーザ調査を通じてエビデンス選択を評価する。

提案手法

• ユーザとアイテムの内容を埋め込み、それらを多層ニューラル意思決定ネットワークに通すユーザ嗜好推定器を定義する。
• サポートセット（そのアイテム履歴）を用いて新規ユーザごとにモデルパラメータを迅速に適応する最適化ベースのメタ学習（MAML）フレームワークを採用する。
• 局所更新中は安定性を維持するためにユーザ/アイテムの埋め込みを更新せず、意思決定層と出力層のみを更新する。
• ローカル更新を各ユーザのサポートセットで実施した後、クエリセットを用いたタスク間のグローバル更新の二段階更新で訓練する。
• エビデンス候補選択戦略を導入し、パーソナライズ勾配の Frobenius ノルム（個別化勾配の微分）とアイテムの人気度を組み合わせて上位 k 件のエビデンス候補を形成する。
• MeLU を MovieLens 1M および BookCrossing データセット上で、既存アイテム/新規アイテム、既存ユーザ/新規ユーザの4つのシナリオを用いて MAE および nDCG を指標として評価し、PPR および Wide & Deep をベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 MAML ベースのレコメンダーは、非常に少数のインタラクションデータしかない新規ユーザに対して迅速にパーソナライズできるか？
• RQ2 エビデンス候補を選択的に選ぶことは、人気候補と比較して新規ユーザの初期推奨を改善できるか？
• RQ3 コールドスタート設定におけるユーザのアイテム消費履歴の長さの変動に対して MeLU はどれくらい頑健か？
• RQ4 学習された個別パラメータは異なるデータセットおよびコールドスタート状況で一般化するか？

主な発見

• MeLU は MovieLens および BookCrossing データセットの3つのコールドスタートシナリオで2つのベースラインを上回る。
• モデルは急速に適応し、1 回のローカル更新後に MAE が大幅に改善され、追加の更新は利得が小さくなる。
• 個別化勾配と人気度に基づくエビデンス候補選択は、より信頼性の高い候補とユーザ満足度の向上につながる（ユーザ調査）。
• 非常に短いアイテム消費履歴でも MeLU は高い性能を維持し、履歴長に対するロバスト性を示す。