[論文レビュー] How to Retrain Recommender System? A Sequential Meta-Learning Method

Yang Zhang, Fuli Feng+5 more|arXiv (Cornell University)|May 27, 2020

Recommender Systems and Techniques参考文献 46被引用数 8

ひとこと要約

本稿では、履歴データの再処理を伴わずに、古いモデルを新しいデータに適応させるための転移ネットワークを学習する手法である順序逐次メタラーニング（SML）を提案する。SMLは将来の推薦性能を最適化しており、2つの実世界のデータセットにおいて、完全再訓練よりも高速な学習と高い精度を達成している。

ABSTRACT

Practical recommender systems need be periodically retrained to refresh the model with new interaction data. To pursue high model fidelity, it is usually desirable to retrain the model on both historical and new data, since it can account for both long-term and short-term user preference. However, a full model retraining could be very time-consuming and memory-costly, especially when the scale of historical data is large. In this work, we study the model retraining mechanism for recommender systems, a topic of high practical values but has been relatively little explored in the research community. Our first belief is that retraining the model on historical data is unnecessary, since the model has been trained on it before. Nevertheless, normal training on new data only may easily cause overfitting and forgetting issues, since the new data is of a smaller scale and contains fewer information on long-term user preference. To address this dilemma, we propose a new training method, aiming to abandon the historical data during retraining through learning to transfer the past training experience. Specifically, we design a neural network-based transfer component, which transforms the old model to a new model that is tailored for future recommendations. To learn the transfer component well, we optimize the "future performance" -- i.e., the recommendation accuracy evaluated in the next time period. Our Sequential Meta-Learning(SML) method offers a general training paradigm that is applicable to any differentiable model. We demonstrate SML on matrix factorization and conduct experiments on two real-world datasets. Empirical results show that SML not only achieves significant speed-up, but also outperforms the full model retraining in recommendation accuracy, validating the effectiveness of our proposals. We release our codes at: https://github.com/zyang1580/SML.

研究の動機と目的

• 大規模な推薦システムにおける完全モデル再訓練の非効率性と高コストを解消すること。
• 履歴データにアクセスせずに長期的なユーザーの好みを保持することで、ファインチューニングにおける過学習と忘れの問題を克服すること。
• ヒューリスティックなデータサンプリングや手動チューニングに依存せず、将来の推薦性能を直接最適化対象とする再訓練プロセスを最適化すること。
• 微分可能な推薦モデルに適用可能な一般化可能でモデルに依存しない訓練パラダイムの開発

提案手法

• 新しい相互作用データに基づいて、古いモデルから新しいモデルへのマッピングを学習する転移ネットワークを学習する順序逐次メタラーニングフレームワークを提案する。
• 将来の検証データ（次の時間帯の相互作用）を用いて転移ネットワークを最適化し、将来のデータにおける推薦精度を直接ターゲットにする。
• 将来のデータにおける期待損失を最小化するメタ最適化目的関数を採用し、モデルが将来のユーザー好みにうまく一般化できるようにする。
• 履歴データの再処理なしに、古いモデルのパラメータを新しいデータ分布に適応させる神経ネットワークベースの転移コンponentを設計する。
• 行列分解モデルにこの手法を適用し、標準的な協調フィルタリングアーキテクチャへの適用可能性を実証する。
• 各再訓練サイクルをメタタスクとして扱い、順次データ期間間での一般化を学習する

実験結果

リサーチクエスチョン

• RQ1 履歴データセットの大規模処理を伴わず、推薦モデルの再訓練を効率的に行うことは可能か？
• RQ2 新しい短期的好みに適応しつつ、長期的なユーザー好みの信号をどのように保持できるか？
• RQ3 将来の推薦性能を、モデル再訓練の直接的な最適化目的関数として用いることは可能か？
• RQ4 過去の学習経験を転移する能力を学習することで、完全再訓練に比べて速度と精度の両面で優れるか？

主な発見

• SMLは、各再訓練サイクルで履歴データの処理を回避するため、完全再訓練に比べて顕著な高速化を達成している。
• 2つの実世界のデータセットにおいて、SMLは完全再訓練を上回る推薦精度を示しており、将来のデータへの一般化性能が優れていることを実証している。
• SMLは、過去のモデルからの学習済み転移を活用することで、新しいデータでの学習のみでも過学習と深刻な忘れを効果的に抑制している。
• 履歴相互作用にアクセスせずに高いモデル忠実度を維持しており、過去の学習知識を効果的に転送できるという仮説が裏付けられている。
• フィルタ解析による可視化から、転移ネットワークが意味のある表現を学習していることが示されており、新しいデータパターンへの適応が効果的に行われている。