[論文レビュー] Domain-to-Domain Translation Model for Recommender System

Linh Thuy Thi Nguyen, Tsukasa Ishigaki|arXiv (Cornell University)|Dec 15, 2018

Recommender Systems and Techniques参考文献 19被引用数 4

ひとこと要約

この論文は、ユーザーのインタラクション履歴から共通（均質的）な特徴とドメイン固有（相違する）特徴を同時に学習するために、変分オートエンコーダー（VAEs）、生成対抗ネットワーク（GANs）、サイクル整合性（CC）を統合したマルチドメインレコメンデーションシステム向けのドメイン間翻訳モデル（D2D-TM）を提案する。本モデルは、実世界のデータセットにおいてRecall@50で既存手法を最大129%上回る最先端の性能を達成している。

ABSTRACT

Recently multi-domain recommender systems have received much attention from researchers because they can solve cold-start problem as well as support for cross-selling. However, when applying into multi-domain items, although algorithms specifically addressing a single domain have many difficulties in capturing the specific characteristics of each domain, multi-domain algorithms have less opportunity to obtain similar features among domains. Because both similarities and differences exist among domains, multi-domain models must capture both to achieve good performance. Other studies of multi-domain systems merely transfer knowledge from the source domain to the target domain, so the source domain usually comes from external factors such as the search query or social network, which is sometimes impossible to obtain. To handle the two problems, we propose a model that can extract both homogeneous and divergent features among domains and extract data in a domain can support for other domain equally: a so-called Domain-to-Domain Translation Model (D2D-TM). It is based on generative adversarial networks (GANs), Variational Autoencoders (VAEs), and Cycle-Consistency (CC) for weight-sharing. We use the user interaction history of each domain as input and extract latent features through a VAE-GAN-CC network. Experiments underscore the effectiveness of the proposed system over state-of-the-art methods by a large margin.

研究の動機と目的

• マルチドメインレコメンデーションシステムにおいて、共通特徴とドメイン固有特徴の両方を的確に捉える課題に対処すること。
• コールドスタートやクロスセリングの場面で失敗する単一ドメインモデルの限界を克服すること。
• 知識移譲のための外部データソース（ソーシャルネットワークや検索クエリなど）への依存を排除すること。
• ユーザーインタラクション履歴のみを用いて双方向ドメイン翻訳とエンドツーエンド学習を可能にすること。
• 最小限の再トレーニングで済む、実世界への導入に適した堅牢でスケーラブルなフレームワークの開発

提案手法

• 各ドメインにおけるユーザーインタラクションベクトルの潜在表現を学習するためにVAEを統合する。
• 生成されたクリックベクトルの現実性を強制し、VAEの過学習を軽減するためにGANを採用する。
• ハイレベルのエンコーダーおよびジェネレータ層で重み共有を実施することで、ドメイン間の双方向翻訳を強制するサイクル整合性（CC）を適用する。
• 最後のエンコーダー層と最初のジェネレータ層で重みを共有することで、共有潜在空間を構築し、ドメイン間の類似性をモデル化する。
• バイナリクリックデータとの整合性を高めるために、多項分布対数尤度損失を用いてモデルをエンドツーエンドで学習する。
• 各ドメインごとに敵対的識別器を実装し、翻訳されたベクトルの現実性を検証する。

実験結果

リサーチクエスチョン

• RQ1 統合モデルは、レコメンデーションシステムにおける複数ドメイン間で、共通特徴と相違特徴の両方を効果的に学習できるか？
• RQ2 VAE-GAN-CCによる共同学習は、独立したモデルや標準VAEと比較して、性能をどのように向上させるか？
• RQ3 ソーシャルメディアや検索クエリなどの外部信号に依存せずに、モデルはどの程度ドメイン間で一般化できるか？
• RQ4 再構成損失の選択（例：多項分布対数損失 vs. L1/二乗損失）がクリックデータにおける性能にどのように影響するか？
• RQ5 一方向の移譲と比較して、双方向ドメイン翻訳は推薦精度をどのように向上させるか？

主な発見

• D2D-TMは、Health_ClothingデータセットにおいてMulti-VAEをRecall@50で44.8%上回った。
• CDLのハイブリッド設計にもかかわらず、異なるドメインペアにおいてRecall@50で17.9%から129%までCDLを上回った。
• CCとGANの統合のおかげで、ヘルスケア・パーソナルケア分野においてVAE単体のベースラインより8.1%の向上を達成した。
• 多項分布対数尤度損失が、クリックデータにおいてL1、二乗損失、標準対数尤度損失よりも最も優れた性能を示した。
• D2D-TM VAE_GANバージョンは、D2D-TM VAE_CCバージョンよりもわずかに優れた結果を示しており、GANの強力な正則化効果が裏付けられた。
• 本モデルは、ユーザーのインタラクションが疎であっても堅牢な性能を維持しており、スケーラビリティと再トレーニングの必要最小限さを示した。