[논문 리뷰] Dual Metric Learning for Effective and Efficient Cross-Domain Recommendations

Li Pan, Alexander Tuzhilin|arXiv (Cornell University)|2021. 04. 17.

Recommender Systems and Techniques참고 문헌 71인용 수 14

한 줄 요약

이 논문은 최소한의 겹치는 사용자 수로도 성능을 향상시킬 수 있도록 이중 학습과 거리 학습을 활용하는 새로운 크로스도메인 추천 모델인 이중 거리 학습(Dual Metric Learning, DML)을 제안한다. 도메인 간 잠재적인 수직 매핑을 학습하고 양방향 전이를 통해 반복적으로 사용자 및 아이템 임베딩을 개선함으로써, 겹치는 사용자가 8명일 때조차도 최신 기술(SOTA) 성능을 달성한다.

ABSTRACT

Cross domain recommender systems have been increasingly valuable for helping consumers identify useful items in different applications. However, existing cross-domain models typically require large number of overlap users, which can be difficult to obtain in some applications. In addition, they did not consider the duality structure of cross-domain recommendation tasks, thus failing to take into account bidirectional latent relations between users and items and achieve optimal recommendation performance. To address these issues, in this paper we propose a novel cross-domain recommendation model based on dual learning that transfers information between two related domains in an iterative manner until the learning process stabilizes. We develop a novel latent orthogonal mapping to extract user preferences over multiple domains while preserving relations between users across different latent spaces. Furthermore, we combine the dual learning method with the metric learning approach, which allows us to significantly reduce the required common user overlap across the two domains and leads to even better cross-domain recommendation performance. We test the proposed model on two large-scale industrial datasets and six domain pairs, demonstrating that it consistently and significantly outperforms all the state-of-the-art baselines. We also show that the proposed model works well with very few overlap users to obtain satisfying recommendation performance comparable to the state-of-the-art baselines that use many overlap users.

연구 동기 및 목표

• 기존의 크로스도메인 추천 모델이 효과적으로 작동하기 위해 큰 수의 겹치는 사용자가 필요로 하는 한계를 해결하기 위해.
• 원천 도메인과 대상 도메인 간 사용자 선호도를 이중적으로 전이할 수 있도록 크로스도메인 추천 작업의 이중성을 활용하기 위해.
• 거리 학습을 활용해 도메인 간 유사한 선호도를 가진 사용자를 식별함으로써 명시적인 겹치는 사용자에 대한 의존도를 줄이기 위해.
• 이중 학습과 거리 학습을 통합하여 추천 성능을 향상시키고 데이터 요구량을 최소화하는 통합 프레임워크를 개발하기 위해.
• 다양한 도메인 조합을 가진 실생활 산업 데이터셋에서 제안된 모델의 효과성과 효율성을 입증하기 위해.

제안 방법

• 두 도메인 간 양방향으로 사용자 선호 정보를 반복적으로 전이함으로써 양 도메인의 성능을 향상시키는 이중 학습 메커니즘을 제안한다.
• 잠재적인 수직 매핑을 새롭게 도입하여 도메인 간 사용자 선호도 유사성을 유지하고, 이중 전이 과정에서 효율적인 역매핑을 가능하게 한다.
• 거리 학습을 이중 학습 프레임워크에 통합하여 사용자 및 아이템 임베딩이 선호도와 유사성 관계를 모두 반영하는 공통 잠재 공간을 학습한다.
• 예측 오차를 최소화하면서도 잠재 공간 내에서 수직성과 거리 일관성을 강제하는 손실 함수를 사용하여 도메인 간 공동 최적화를 수행한다.
• 배치 정규화와 분산 학습을 적용하여 반복 학습 중 확장성과 효율적인 최적화를 보장한다.
• 수렴할 때까지 반복적 개선을 적용하며, 학습 손실이 10 에포크 내에 안정화되어 빠르고 안정적인 학습을 보장한다.

Figure 1 : Dual Metric Learning for Cross-Domain Recommendations

실험 결과

연구 질문

• RQ1 이중 학습이 양방향 사용자 선호도 전이를 활용하여 크로스도메인 추천에 효과적으로 적용될 수 있는가?
• RQ2 거리 학습을 통해 도메인 간 비슷한 사용자 선호도를 식별함으로써 큰 수의 겹치는 사용자에 대한 의존도를 줄일 수 있는가?
• RQ3 이중 학습과 거리 학습의 조합이 최신 기술(SOTA) 기준 모델보다 향상된 추천 성능을 낼 수 있는가?
• RQ4 제안된 모델이 겹치는 사용자의 수에 얼마나 민감한가? 매우 적은 수의 겹치는 사용자로도 강력한 성능을 낼 수 있는가?
• RQ5 대규모 데이터셋을 가진 현실적인 학습 조건 하에서 제안된 모델은 확장 가능하고 수렴 가능한가?

주요 결과

• 제안된 DML 모델은 두 개의 대규모 산업 데이터셋에서 여섯 개의 도메인 조합에 대해 모든 최신 기술(SOTA) 기준 모델을 일관되고 유의미하게 능가한다.
• DML은 겹치는 사용자가 8명일 때조차도 SOTA 모델과 유사한 추천 성능을 달성하여, 겹침이 적은 상황에서도 효과적임을 입증한다.
• 모델은 빠르게 수렴하며, 학습 손실이 10 에포크 내에 안정화되어 빠르고 안정적인 최적화를 보여준다.
• 모델은 데이터 크기에 따라 선형적으로 확장되며, 최대 1,000,000건의 레코드를 학습할 때도 효율성을 유지한다.
• 절단 실험 결과, 겹치는 사용자가 8명일 때조차도 모델이 잘 작동하며, 다양한 잠재 차원 크기(예: 16~32차원)에서 안정적인 성능 유지를 보인다.
• 잠재적인 수직 매핑은 도메인 간 사용자 선호도 유사성을 효과적으로 유지하여 정확하고 효율적인 크로스도메인 전이를 가능하게 한다.

Figure 2 : Dual Metric Learning