[論文レビュー] RecSys-DAN: Discriminative Adversarial Networks for Cross-Domain Recommender Systems

Cheng Wang, Mathias Niepert+1 more|arXiv (Cornell University)|Mar 26, 2019

Domain Adaptation and Few-Shot Learning参考文献 50被引用数 6

ひとこと要約

RecSys-DANは、教師ありデータを一切使用せずに、生成的敵対ネットワークを用いてソースドメインからターゲットドメインへ潜在表現を転送する、非教師ありで敵対的なドメイン適応フレームワークを提案する。生成器と判別器をミニマックスゲームで最適化することでドメイン不変表現を学習し、ターゲットドメインのレーティングが存在しない状況下でも最先端の性能を達成する。これにより、コールドスタート状況におけるデータスパarsityと不均衡問題を効果的に軽減できる。

ABSTRACT

Data sparsity and data imbalance are practical and challenging issues in cross-domain recommender systems. This paper addresses those problems by leveraging the concepts which derive from representation learning, adversarial learning and transfer learning (particularly, domain adaptation). Although various transfer learning methods have shown promising performance in this context, our proposed novel method RecSys-DAN focuses on alleviating the cross-domain and within-domain data sparsity and data imbalance and learns transferable latent representations for users, items and their interactions. Different from existing approaches, the proposed method transfers the latent representations from a source domain to a target domain in an adversarial way. The mapping functions in the target domain are learned by playing a min-max game with an adversarial loss, aiming to generate domain indistinguishable representations for a discriminator. Four neural architectural instances of ResSys-DAN are proposed and explored. Empirical results on real-world Amazon data show that, even without using labeled data (i.e., ratings) in the target domain, RecSys-DAN achieves competitive performance as compared to the state-of-the-art supervised methods. More importantly, RecSys-DAN is highly flexible to both unimodal and multimodal scenarios, and thus it is more robust to the cold-start recommendation which is difficult for previous methods.

研究の動機と目的

• コールドスタート状況でターゲットドメインのレーティングが存在しない場合の、クロスドメイン推薦システムにおけるデータスパarsityと不均衡問題に対処すること。
• 表現学習と敵対的訓練を活用してソースドメインとターゲットドメインの表現を一致させる転移学習フレームワークを開発すること。
• ラベルなしのユーザー・アイテム相互作用のみが存在するターゲットドメインにおいても、効果的な推薦を可能にすること。
• ユーザーのレビュー、アイテムの画像、その他の補助特徴を統合することで、単モodalおよびマルチモーダル設定に対応すること。
• ターゲットドメインにラベル付きデータを一切使用しないにもかかわらず、教師あり最先端手法と同等の性能を達成すること。

提案手法

• ターゲットドメインの生成器が、ソースドメインとターゲットドメインの表現を区別するように訓練された判別器を欺くようなドメイン不変表現を学習する、新しい敵対的訓練方式を提案する。
• 生成器と判別器のミニマックスゲームを用いてドメイン間の潜在表現を一致させ、ラベルなしのターゲットデータを前提としながらドメインシフトを最小化する。
• ユーザーとアイテムの重複パターンに応じて最適化された4種類のニューラルアーキテクチャ変種（UI-DAN, U-DAN, I-DAN, H-DAN）を導入する。
• 判別的目的関数と非教師あり敵対的損失を組み合わせることで、学習された表現の品質と転送可能性を向上させる。
• レビュー、画像などのマルチモーダル特徴を活用してユーザーおよびアイテム埋め込みを豊かにし、コールドスタート問題に対する耐性を高める。
• まずソースモデルを訓練し、その後、ソースパラメータを固定した上で敵対的整合性を用いてターゲット生成器を適応させる。

実験結果

リサーチクエスチョン

• RQ1 ターゲットドメインにラベルなしデータが存在する状況でも、敵対的ドメイン適応は、ソースドメインからターゲットドメインへユーザーおよびアイテムの表現を効果的に転送できるか？
• RQ2 RecSys-DANは、教師ありベースラインと比較して、クロスドメイン推薦におけるデータスパarsityと不均衡問題をどの程度軽減できるか？
• RQ3 単モーダルおよびマルチモーダル設定の両方において、モデルはコールドスタート推薦にどの程度一般化できるか？
• RQ4 ターゲットドメインのラベルが存在しない状況でも、潜在表現の敵対的整合性がレーティング予測タスクの性能向上に寄与するか？
• RQ5 異なるアーキテクチャ変種（UI-DAN, U-DANなど）は、ユーザー・アイテムの重複条件が異なる状況でどの程度の性能を示すか？

主な発見

• RecSys-DANは、ターゲットドメインにラベル付きデータが一切存在しない状況下でも、レーティング予測タスクで競争力のある性能を達成しており、コールドスタート状況で教師ありベースラインを上回る。
• t-SNE可視化により、敵対的学習が時間経過とともにソースドメインとターゲットドメインの表現分布のギャップを著しく縮小していることが確認された。
• 重み可視化により、ターゲット生成器のパラメータがソース生成器のパラメータに収束していることが確認され、有効な表現整合性が達成されていることが示された。
• モデルは単モーダルおよびマルチモーダルの両状況で高いロバスト性を示し、表現転送によりコールドスタート問題を効果的に軽減した。
• 推論速度はベースラインモデルと同等であり、再訓練を伴わずソーススコア関数を直接適応させるため、効率的である。
• 複数のドメインペア（例：DM→MI、HK→OP）において一貫した性能向上が確認され、本手法の一般化能力が裏付けられた。