[論文レビュー] Learning to Recommend via Meta Parameter Partition

Liang Zhao, Yang Wang+2 more|arXiv (Cornell University)|Dec 4, 2019

Recommender Systems and Techniques参考文献 38被引用数 4

ひとこと要約

本稿では、モデルパラメータを固定（ユーザーに依存しない）および適応（ユーザー固有）のコンponentsに分割することで、推薦システムにおけるユーザーのコールドスタート問題を効率的に解決する2段階のメタラーニング手法を提案する。パラメータ学習を分離することで、ストレージおよび計算コストを削減しつつ継続的な適応が可能となる。実験の結果、ベースライン比で4.94%の絶対的AUC向上が達成され、そのうち2.48%はオフラインメタトレーニング、残りの2.46%はオンラインメタファインチューニングによるものである。

ABSTRACT

In this paper we propose to solve an important problem in recommendation -- user cold start, based on meta leaning method. Previous meta learning approaches finetune all parameters for each new user, which is both computing and storage expensive. In contrast, we divide model parameters into fixed and adaptive parts and develop a two-stage meta learning algorithm to learn them separately. The fixed part, capturing user invariant features, is shared by all users and is learned during offline meta learning stage. The adaptive part, capturing user specific features, is learned during online meta learning stage. By decoupling user invariant parameters from user dependent parameters, the proposed approach is more efficient and storage cheaper than previous methods. It also has potential to deal with catastrophic forgetting while continually adapting for streaming coming users. Experiments on production data demonstrates that the proposed method converges faster and to a better performance than baseline methods. Meta-training without online meta model finetuning increases the AUC from 72.24% to 74.72% (2.48% absolute improvement). Online meta training achieves a further gain of 2.46\% absolute improvement comparing with offline meta training.

研究の動機と目的

• 新規ユーザーが最小限の相互作用履歴しか持たない個人化推薦システムにおけるユーザーのコールドスタート問題に対処すること。
• ユーザーに依存しないパラメータとユーザー固有のパラメータを分離することで、メタラーニングベースの推薦における計算およびストレージのオーバーヘッドを低減すること。
• ストリーミングで流入するユーザーに対する継続的適応を可能にするとともに、パラメータ分割により深刻な忘却（catastrophic forgetting）を緩和すること。
• オフラインおよびオンラインのメタラーニング段階を用いて、少数のサンプルでの設定でも推薦性能を向上させること。

提案手法

• ユーザーに依存しない特徴とユーザー依存の特徴を分離するために、モデルパラメータを固定（全ユーザーで共有）および適応（ユーザー固有）のコンponentsに分割する。
• 履歴ユーザーデータ上でオフラインメタトレーニングを実行し、固定パラメータを学習することで、頑健な初期化を達成する。
• 各新規ユーザーの限られた相互作用データを用いて、オンラインで適応パラメータをファインチューニングすることで、モデルをパーソナライズする。
• 2段階のトレーニングプロセスを採用：まず固定パラメータをメタトレーニングし、次に新規ユーザーごとに適応パラメータをオンラインメタファインチューニングする。
• オンライン適応中に中間の隠れ層（2番目～4番目）を固定し、埋め込み層および分類器層のみを更新することで、ユーザー固有の適応を実現する。
• オフラインおよびオンライン段階の両方で、CTR予測性能の評価にAUCを主な評価指標として用いる。

実験結果

リサーチクエスチョン

• RQ1 固定および適応パラメータにパラメータを分割することで、コールドスタート推薦における効率性と性能が向上するか？
• RQ2 全パラメータのファインチューニングと比較して、分離されたメタラーニングは収束速度およびAUC性能において優れているか？
• RQ3 逐次的なユーザーデータを用いたオンラインメタファインチューニングは、オフラインメタトレーニングの上乗せとして、どの程度モデル性能を向上させるか？
• RQ4 オンライン適応中にどのネットワーク層を固定すべきか、汎化性能とパーソナライズのバランスを考慮して特定できるか？

主な発見

• 提案手法はAUCで4.94%の絶対的向上を達成し、ベースラインの72.24%から77.18%に上昇した。
• オフラインメタトレーニングのみでAUCが2.48%向上（74.72%に達成）し、標準的な共同トレーニングと比較してメタ初期化の有効性が示された。
• オンラインメタファインチューニングにより、オフラインメタトレーニングの上乗せとしてさらに2.46%の絶対的AUC向上が得られ、ユーザーデータの増加に伴い一貫した改善が確認された。
• 2番目および3番目の隠れ層をオンライン適応中に固定した場合に最高の性能が得られ、これらの層がユーザーに依存しない特徴を捉えていることが示唆された。
• 特に8～10件の相互作用記録しか持たないユーザーにおいても、従来のメタラーニングおよびベースライン手法と比較して収束が早く、より高い性能を達成した。
• アブレーションスタディにより、メタ初期化、パラメータの分離、オンライン学習がすべて最終的な性能向上に顕著な寄与をしていることが確認された。