[論文レビュー] User-specific Adaptive Fine-tuning for Cross-domain Recommendations

Lei Chen, Fajie Yuan+4 more|arXiv (Cornell University)|Jun 15, 2021

Recommender Systems and Techniques参考文献 40被引用数 4

ひとこと要約

本稿では、ポlicyネットワークを用いて各ユーザーごとに事前学習モデルのどの層を微調整するかを動的に選択する、ユーザー固有の適応的微調整（UAF）という、クロスドメイン推薦のための新規手法を提案する。UAFは、特にデータが限られる状況下でも、コールドスタートユーザーの推薦精度と頑健性を顕著に向上させ、複数のデータセットおよびタスクにおいてグローバル微調整や既存のトランスファー学習ベースラインを上回る性能を示す。

ABSTRACT

Making accurate recommendations for cold-start users has been a longstanding and critical challenge for recommender systems (RS). Cross-domain recommendations (CDR) offer a solution to tackle such a cold-start problem when there is no sufficient data for the users who have rarely used the system. An effective approach in CDR is to leverage the knowledge (e.g., user representations) learned from a related but different domain and transfer it to the target domain. Fine-tuning works as an effective transfer learning technique for this objective, which adapts the parameters of a pre-trained model from the source domain to the target domain. However, current methods are mainly based on the global fine-tuning strategy: the decision of which layers of the pre-trained model to freeze or fine-tune is taken for all users in the target domain. In this paper, we argue that users in RS are personalized and should have their own fine-tuning policies for better preference transfer learning. As such, we propose a novel User-specific Adaptive Fine-tuning method (UAF), selecting which layers of the pre-trained network to fine-tune, on a per-user basis. Specifically, we devise a policy network with three alternative strategies to automatically decide which layers to be fine-tuned and which layers to have their parameters frozen for each user. Extensive experiments show that the proposed UAF exhibits significantly better and more robust performance for user cold-start recommendation.

研究の動機と目的

• ターゲットドメインで十分な相互作用データが得られていないユーザーにおけるコールドスタート問題に対処すること。
• すべてのユーザーに同一の戦略を適用するグローバル微調整の限界を克服し、出発ドメインとの類似度に差があるユーザーに対しては、その差を考慮した戦略を採用すること。
• ユーザーごとに適応可能な微調整メカニズムを構築し、推奨の転送効果を最大化すること。
• データが少ない状況下での過学習を軽減するために、ユーザーごとに関連する層のみを更新する選択的戦略を採用すること。
• 提案手法が推薦を越えて、ユーザープロファイル予測タスクなど他の下流タスクにも汎用的に応用可能であることを示すこと。

提案手法

• 大規模なソースドメインデータセット上で事前学習されたバックボーンモデルとして、NextItNetという深層順序推薦モデルを訓練する。
• 各ユーザーに対して、事前学習モデルのどの層を微調整するか、どの層を凍結するかを予測するポリシー・ネットワークを導入する。
• 層ごとの微調整意思決定を実現するため、ハードゲーミング（UAF-Hard）、ソフトゲーミング（UAF-Soft）、強化学習ベース（UAF-RL）の3つのポリシー・ネットワークの変種を実装する。
• ポリシー・ネットワークの出力を用いて、微調整中に階層ごとのマスクを動的に適用し、ユーザー固有の事前学習モデルの適応を可能にする。
• バックプロパゲーションを用いて、推薦モデルと同時にエンドツーエンドでポリシー・ネットワークを訓練し、ユーザーごとの最適な微調整ポリシーを学習可能にする。
• ポリシー・ネットワークの元のNextItNetバックボーンをGRUに置き換えることで、柔軟性と性能を評価し、同等の結果が得られることを示す。

実験結果

リサーチクエスチョン

• RQ1 グローバル微調整戦略と比較して、ユーザー固有の微調整ポリシーはクロスドメイン推薦性能を向上させるか？
• RQ2 コールドスタートユーザーに特有の低データ環境下で、UAFはどのように性能を発揮するか？
• RQ3 データが限られる状況下で、UAFは標準的な微調整よりも過学習を効果的に防げるか？
• RQ4 提案手法は、推薦を越えて、ユーザーのプロファイル予測タスク（性別、年齢、ライフステータスなど）にも汎用的に応用可能か？
• RQ5 異なるアーキテクチャやタスクにおいて、ポリシー・ネットワークの設計はどれほど頑健で柔軟か？

主な発見

• UAF-Hard、UAF-Soft、UAF-RLは、ColdRec-1およびColdRec-2において、Finetune-AllおよびPeterRecよりも顕著に高いMRR@5およびHR@5性能を達成し、ColdRec-1ではPeterRec比でMRR@5で最大6.1%の向上を記録した。
• UAF手法は、標準的な微調整よりも過学習をより効果的に防ぎ、学習曲線では9エポックまで改善が持続する一方、Finetune-Allは5エポック目以降に劣化を示した。
• GRUアーキテクチャを用いたポリシー・ネットワーク（UAF-GRU変種）は、元のNextItNetベースのポリシー・ネットワークと同等の性能を達成しており、本手法のアーキテクチャの柔軟性を示している。
• UAFは、性別、年齢、ライフステータスのユーザープロファイル予測タスクにおいても、すべての3つのデータセットでベースラインを上回り、高い精度とF1スコアを達成した。これにより、汎用性が確認された。
• アブレーションスタディの結果、固定されたグローバル戦略よりも、ユーザー固有の微調整ポリシーが優れた性能を発揮することを確認し、トランスファーラーニングにおけるパーソナライズの核心的貢献が裏付けられた。