[論文レビュー] Dual Metric Learning for Effective and Efficient Cross-Domain Recommendations

Li Pan, Alexander Tuzhilin|arXiv (Cornell University)|Apr 17, 2021

Recommender Systems and Techniques参考文献 71被引用数 14

ひとこと要約

本稿では、最小限の重複ユーザーを伴う推薦性能の向上を図るために、二重学習とメトリック学習を活用する新規なクロスドメイン推薦モデルであるデュアルメトリック学習（DML）を提案する。ドメイン間の潜在的直交マッピングを学習し、双方向の転送によりユーザーやアイテムの埋め込みを反復的に最適化することで、8名の重複ユーザーですらもSOTA性能を達成する。

ABSTRACT

Cross domain recommender systems have been increasingly valuable for helping consumers identify useful items in different applications. However, existing cross-domain models typically require large number of overlap users, which can be difficult to obtain in some applications. In addition, they did not consider the duality structure of cross-domain recommendation tasks, thus failing to take into account bidirectional latent relations between users and items and achieve optimal recommendation performance. To address these issues, in this paper we propose a novel cross-domain recommendation model based on dual learning that transfers information between two related domains in an iterative manner until the learning process stabilizes. We develop a novel latent orthogonal mapping to extract user preferences over multiple domains while preserving relations between users across different latent spaces. Furthermore, we combine the dual learning method with the metric learning approach, which allows us to significantly reduce the required common user overlap across the two domains and leads to even better cross-domain recommendation performance. We test the proposed model on two large-scale industrial datasets and six domain pairs, demonstrating that it consistently and significantly outperforms all the state-of-the-art baselines. We also show that the proposed model works well with very few overlap users to obtain satisfying recommendation performance comparable to the state-of-the-art baselines that use many overlap users.

研究の動機と目的

• 既存のクロスドメイン推薦モデルが効果的に機能するためには大量の重複ユーザーを必要としているという制限を解消すること。
• ソースドメインとターゲットドメイン間でユーザープreferencesを双方向に転送できるように、クロスドメイン推薦タスクの双対性を活用すること。
• メトリック学習を活用してドメイン間で類似した好みを持つユーザーを特定することで、明示的な重複ユーザーに依存するのを減らすこと。
• 二重学習とメトリック学習を統合した包括的なフレームワークを開発し、データ要件を最小限に抑えつつ推薦性能を向上させること。
• さまざまなドメインペアを用いた実世界の産業データセットにおいて、提案モデルの有効性と効率性を示すこと。

提案手法

• 両ドメイン間を双方向に繰り返しユーザープreferences情報を転送することで、両ドメインの性能を向上させる二重学習メカニズムを提案する。
• ドメイン間でユーザープreferences類似性を保存し、双方向転送時の効率的な逆マッピングを可能にする、新たな潜在的直交マッピングを導入する。
• ユーザーやアイテムの埋め込みが好みと類似性関係を反映する共通の潜在空間を学習するために、二重学習フレームワークにメトリック学習を統合する。
• 予測誤差を最小化するとともに、潜在空間における直交性とメトリックの一貫性を強制する損失関数を用いて、ドメイン全体でモデルを同時に最適化する。
• バッチ正規化と分散学習を適用し、反復的学習中のスケーラビリティと効率的な最適化を確保する。
• 収束するまで反復的リファインメントを実行し、学習損失が10エポック以内に安定することを確認することで、高速かつ安定した学習を実現する。

Figure 1 : Dual Metric Learning for Cross-Domain Recommendations

実験結果

リサーチクエスチョン

• RQ1 二重学習は、双方向ユーザープreferences転送を活用することで、クロスドメイン推薦に効果的に適用可能か？
• RQ2 メトリック学習により、ドメイン間で類似したユーザープreferencesを特定することで、大量の重複ユーザーに依存するのを減らせるか？
• RQ3 二重学習とメトリック学習の組み合わせは、SOTAベースラインと比較して推薦性能を向上させるか？
• RQ4 提案モデルは重複ユーザー数にどれほど敏感か？非常に少ない重複ユーザー数でも高い性能を達成できるか？
• RQ5 大規模データセットを用いた現実的な学習条件でも、提案モデルはスケーラブルで収束可能か？

主な発見

• 提案されたDMLモデルは、2つの大規模産業データセットの6つのドメインペアにおいて、すべてのSOTAベースラインを一貫してかつ顕著に上回る性能を示した。
• DMLは、たとえ8名の重複ユーザーしか存在しない状況でも、SOTAモデルと同等の推薦性能を達成しており、低重複状況での有効性を示した。
• モデルは急速に収束し、学習損失が10エポック以内に安定したため、高速かつ安定した最適化が可能であることが示された。
• モデルはデータサイズに線形にスケーリングされ、最大1,000,000件のレコードを用いた学習でも効率性を維持した。
• アブレーションスタディにより、8名の重複ユーザーでもモデルが良好に動作し、さまざまな潜在次元数（例：16〜32次元）に対して頑健であることが確認された。
• 潜在的直交マッピングは、ドメイン間でユーザープreferences類似性を効果的に保存し、正確で効率的なクロスドメイン転送を可能にした。

Figure 2 : Dual Metric Learning