[論文レビュー] Cross-domain Recommendation via Deep Domain Adaptation

Heishiro Kanagawa, Hayato Kobayashi+3 more|arXiv (Cornell University)|Mar 8, 2018

Recommender Systems and Techniques参考文献 32被引用数 11

ひとこと要約

本稿では、推薦を極端な多クラス分類として扱い、ドメイン分離ネットワーク（DSN）とスタックドノイズ除去オートエンコーダー（SDAE）を組み合わせた深層ドメイン適応手法を、クロスドメイン推薦に提案する。この手法は、ベースライン手法、特に最先端の協調フィルタリングモデルを上回り、特に長い推薦リストにおける再現率（recall）で優れた性能を示す。また、損失関数を評価指標（nDCG）に合わせることで順位付け性能も向上する。

ABSTRACT

The behavior of users in certain services could be a clue that can be used to infer their preferences and may be used to make recommendations for other services they have never used. However, the cross-domain relationships between items and user consumption patterns are not simple, especially when there are few or no common users and items across domains. To address this problem, we propose a content-based cross-domain recommendation method for cold-start users that does not require user- and item- overlap. We formulate recommendation as extreme multi-class classification where labels (items) corresponding to the users are predicted. With this formulation, the problem is reduced to a domain adaptation setting, in which a classifier trained in the source domain is adapted to the target domain. For this, we construct a neural network that combines an architecture for domain adaptation, Domain Separation Network, with a denoising autoencoder for item representation. We assess the performance of our approach in experiments on a pair of data sets collected from movie and news services of Yahoo! JAPAN and show that our approach outperforms several baseline methods including a cross-domain collaborative filtering method.

研究の動機と目的

• ドメイン間に共通ユーザーまたは共通アイテムが存在しない状況における、クロスドメイン推薦における新規ユーザー問題に対処すること。
• 補助データやユーザープロフィールを必要とせず、コンテンツベースの表現を活用することで、協調フィルタリングおよびプロファイルベースの手法の限界を克服すること。
• クロスドメイン推薦を極端な多クラス分類として定式化し、ドメイン適応技術を適用可能にする。
• ドメイン適応と評価指標（例：nDCG）に合わせた損失関数の最適化を通じて、推薦性能を向上させること。
• まれなアイテムや新規アイテムに対しても一般化可能なスケーラブルな深層学習フレームワークの開発。

提案手法

• 各アイテムをクラスとみなし、ユーザ行動を用いて関連するアイテムを予測する極端な多クラス分類としてクロスドメイン推薦を定式化する。
• スタックドノイズ除去オートエンコーダー（SDAE）を用いて、テキストやメタデータなどのコンテンツ特徴から、堅牢で低次元のアイテム表現を学習する。
• SDAEをドメイン分離ネットワーク（DSN）と統合し、ドメイン不変特徴とドメイン固有特徴を分離することで、効果的なドメイン適応を実現する。
• 分類のためのソフトマックス交差エントロピー損失を用いてモデルを学習し、DSNフレームワーク内で敵対的訓練によりドメイン整合性を強制する。
• nDCGに基づく検証を用いてモデルを最適化し、学習目的を評価指標に合わせることで順位付け品質を向上させる。
• nDCG@100を最適化するハイパーパramータチューニング（正則化係数と学習イテレーション数）を検証セット上で実施し、最良のモデルを選択する。

実験結果

リサーチクエスチョン

• RQ1 共通ユーザーも共通アイテムもない状況において、深層ドメイン適応がクロスドメイン推薦に効果的に適用可能か。
• RQ2 提案手法が協調フィルタリングおよび人気度ベースラインと比較して、再現率と順位付け品質の点でどのように異なるか。
• RQ3 学習損失を評価指標（nDCG）に合わせることで、推薦性能がどの程度向上するか。
• RQ4 ノイズ除去オートエンコーダーは、とりわけ珍しいまたは未観測のアイテムにおいて、アイテム表現と一般化性能を向上させられるか。
• RQ5 短い推薦リスト（例：K=5）を推薦する際の手法の限界は何か。また、それらの限界をどのように軽減できるか。

主な発見

• 提案手法I-DSNは、K=50およびK=100において、人気度ベースライン（POP）よりも高い再現率を達成しており、関連アイテムのカバー率が優れていることが示された。
• 損失関数を評価指標に合わせた場合、DSNはnDCG@100においてPOPを上回り、順位付け品質の向上が確認された。
• モデルの性能は損失関数の選択に敏感である：標準的な交差エントロピー損失では再現率は高いがnDCGは低く、nDCGに基づく最適化により順位付け品質が向上した。
• 強力な結果を示したが、短い推薦リスト（例：K=5）では、人気度ベースラインに劣る結果を示しており、初期順位付け品質の課題が浮き彫りになった。
• SDAEとDSNの組み合わせは一般化性能を向上させたが、softmax重みをSDAE特徴で初期化してもさらなる向上が得られなかったため、特徴表現力の限界が示唆された。
• nDCG@100に基づくハイパーパramータチューニングにより最良のモデル性能が得られ、学習目的を評価指標に合わせることが重要であることが確認された。