[論文レビュー] MetaSelector: Meta-Learning for Recommendation with User-Level Adaptive Model Selection

Mi Luo, Fei Chen+5 more|arXiv (Cornell University)|Jan 22, 2020

Recommender Systems and Techniques参考文献 37被引用数 4

ひとこと要約

MetaSelectorは、ユーザーの履歴データに基づいて個々のユーザーに最適な推薦モデルを選択するメタラーニングフレームワークを提案する。この手法は、単一モデルベースラインやサンプルレベルの選択器と比較して、特に多様なユーザー集団においてAUCおよびLogLossの面で顕著な向上を達成し、最先端の性能を実現している。

ABSTRACT

Recommender systems often face heterogeneous datasets containing highly personalized historical data of users, where no single model could give the best recommendation for every user. We observe this ubiquitous phenomenon on both public and private datasets and address the model selection problem in pursuit of optimizing the quality of recommendation for each user. We propose a meta-learning framework to facilitate user-level adaptive model selection in recommender systems. In this framework, a collection of recommenders is trained with data from all users, on top of which a model selector is trained via meta-learning to select the best single model for each user with the user-specific historical data. We conduct extensive experiments on two public datasets and a real-world production dataset, demonstrating that our proposed framework achieves improvements over single model baselines and sample-level model selector in terms of AUC and LogLoss. In particular, the improvements may lead to huge profit gain when deployed in online recommender systems.

研究の動機と目的

• 推薦システムにおけるモデルの多様性に起因する課題に対処すること。すなわち、すべてのユーザーに最適な単一のモデルが存在しないこと。
• グローバルまたはサンプルレベルの選択に依存するのではなく、ユーザー単位での適応的モデル選択を可能にすることで、パーソナライズされた推薦品質を向上させること。
• モデル選択問題をメタラーニングのタスクとして定式化し、ユーザー固有のデータパターンに迅速に適応できるようにすること。
• 実世界および公開データセットにおけるメタラーニングによるモデル選択の有効性を示し、AUCおよびLogLossの面で一貫した向上を確認すること。
• ユーザー単位での適応が、ユーザー間での性能分布をより安定的かつ公平に保つことの妥当性を検証すること。

提案手法

• MetaSelectorは、最適化に基づくメタラーニングアプローチを採用し、特にMAMLフレームワークをモデル選択に適応させている。
• 各ユーザーのデータはタスクとして扱われ、エピソード学習においてサポートセットとクエリセットが用いられ、ユーザー固有の適応をシミュレートする。
• モデルセレクタは200-200-200のMLPであり、各ユーザーに対して基本となる推薦モデルの確率分布を出力する。
• メタトレーニングの際、クエリセットにおける適応後モデルの損失を用いて勾配降下法によりセレクタが更新され、新規ユーザーへの迅速な適応が可能になる。
• 一般化性能の向上を図るため、内側の学習率を自己学習で最適化するMeta-SGDを採用している。
• 推論時、最終的な予測は、メタラーナーが決定する重みに基づいて選択されたモデル出力の重み付き平均として得られる。

実験結果

リサーチクエスチョン

• RQ1 RQ1: メタラーニングによるユーザー単位のモデル選択は、単一モデルベースラインやサンプルレベルのモデル選択器と比較して、AUCおよびLogLossの面で優れているか？
• RQ2 RQ2: MetaSelectorはユーザー間での予測誤差をどのように分布させているか。また、性能プロファイルはより一貫的かつ公平になっているか？
• RQ3 RQ3: タスク内適応は、有効なユーザー固有のモデル選択に不可欠であるか。また、簡略化されたバージョンと比較するとどうなるか？
• RQ4 RQ4: MetaSelectorの性能向上は、特に実稼働環境において、実際のビジネスインパクトにどのように反映されるか？

主な発見

• MetaSelectorは、公開データセット（Movielens、Amazon）および実稼働環境のデータセットの両方において、単一モデルベースラインやサンプルレベルの選択器と比較して、AUCおよびLogLossの面で顕著な向上を達成している。
• フレームワークはユーザー間のLogLossの分散を低減し、Movielens-1mにおけるカーネル密度推定の結果から、より集中的かつ公平な性能分布が得られていることが示された。
• ユーザー単位のモデル選択は、理論的上限がより高いサンプルレベルの完全なセレクタと比較しても実際には優れている。これは、ユーザー単位の特徴がより判別力があることを示している。
• タスク内適応を省いた簡略化版のMetaSelectorはわずかな性能低下を示しており、メタラーニングプロセスにおけるユーザー単位の適応の重要性が裏付けられた。
• RelaImpr分析の結果、MetaSelectorの改善効果は、オンライン推薦システムに導入された場合に顕著な利益増に繋がる可能性があることが示され、実世界におけるビジネス価値が明確になった。