[논문 리뷰] RecSys-DAN: Discriminative Adversarial Networks for Cross-Domain Recommender Systems

Cheng Wang, Mathias Niepert외 1명|arXiv (Cornell University)|2019. 03. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 50인용 수 6

한 줄 요약

RecSys-DAN은 지도 학습을 하지 않고도 소스 도메인에서 타겟 도메인으로 잠재 표현을 전이하는 비지도 적대적 도메인 적응 프레임워크를 제안한다. 판별적 적대적 신경망을 사용하여 도메인 간 불변 표현을 생성함으로써, 타겟 도메인의 평가 데이터가 없더라도 최신 기술 수준의 성능을 달성하며, 냉시작 상황에서의 데이터 희소성과 불균형 문제를 효과적으로 완화한다.

ABSTRACT

Data sparsity and data imbalance are practical and challenging issues in cross-domain recommender systems. This paper addresses those problems by leveraging the concepts which derive from representation learning, adversarial learning and transfer learning (particularly, domain adaptation). Although various transfer learning methods have shown promising performance in this context, our proposed novel method RecSys-DAN focuses on alleviating the cross-domain and within-domain data sparsity and data imbalance and learns transferable latent representations for users, items and their interactions. Different from existing approaches, the proposed method transfers the latent representations from a source domain to a target domain in an adversarial way. The mapping functions in the target domain are learned by playing a min-max game with an adversarial loss, aiming to generate domain indistinguishable representations for a discriminator. Four neural architectural instances of ResSys-DAN are proposed and explored. Empirical results on real-world Amazon data show that, even without using labeled data (i.e., ratings) in the target domain, RecSys-DAN achieves competitive performance as compared to the state-of-the-art supervised methods. More importantly, RecSys-DAN is highly flexible to both unimodal and multimodal scenarios, and thus it is more robust to the cold-start recommendation which is difficult for previous methods.

연구 동기 및 목표

• 냉시작 상황에서 타겟 도메인 평가 데이터가 없을 경우 데이터 희소성과 불균형 문제를 해결한다.
• 표현 학습과 적대적 훈련을 활용하여 소스 도메인과 타겟 도메인의 표현을 정렬하는 전이 학습 프레임워크를 개발한다.
• 레이블이 없는 사용자-아이템 상호작용만 존재하는 타겟 도메인에서도 효과적인 추천을 가능하게 한다.
• 사용자 리뷰, 아이템 이미지, 기타 보조 특징을 통합하여 단모달 및 다모달 설정 모두를 지원한다.
• 타겟 도메인에서 레이블이 없는 상황에서도 지도 학습 기반 최신 기술 수준의 방법과 경쟁 가능한 성능을 달성한다.

제안 방법

• 타겟 도메인의 생성자가 소스 도메인 표현과 타겟 도메인 표현을 구분할 수 있도록 훈련된 판별자에게 속임수를 주는 도메인 간 불변 표현을 생성하도록 학습하는 새로운 적대적 훈련 기법을 제안한다.
• 생성자와 판별자 간의 최소-최대 게임을 통해 잠재 표현을 도메인 간 정렬함으로써, 레이블이 없는 타겟 도메인 데이터를 요구하지 않고 도메인 간 이동을 최소화한다.
• 사용자와 아이템 간의 겹침 패턴에 맞게 최적화된 네 가지 신경망 아키텍처 변형—UI-DAN, U-DAN, I-DAN, H-DAN—을 도입한다.
• 비지도 적대적 손실과 함께 판별적 목적 함수를 활용하여 학습된 표현의 품질과 전이 가능성 향상.
• 리뷰, 이미지 등 다모달 특징을 활용하여 사용자 및 아이템 임베딩을 풍부하게 하여 냉시작 문제에 대한 강건성을 향상시킨다.
• 먼저 소스 모델을 훈련한 후, 소스 파rameters를 고정한 채로 타겟 생성자를 적대적 정렬을 통해 적응시킨다.

실험 결과

연구 질문

• RQ1 타겟 도메인에서 레이블이 없더라도 적대적 도메인 적응이 소스 도메인에서 타겟 도메인으로 사용자 및 아이템 표현을 효과적으로 전이할 수 있는가?
• RQ2 RecSys-DAN은 타겟 도메인 레이블이 없을 경우 지도 학습 기반 기준선 대비 데이터 희소성과 불균형 문제를 얼마나 효과적으로 완화하는가?
• RQ3 냉시작 추천에서 단모달 및 다모달 설정 모두에 대해 모델의 일반화 능력은 어느 정도인가?
• RQ4 타겟 도메인 레이블이 없을 경우 잠재 표현의 적대적 정렬이 평가 예측 작업 성능 향상에 기여하는가?
• RQ5 다양한 사용자-아이템 겹침 조건에서 다양한 아키텍처 변형(U-DAN, UI-DAN 등)은 어떻게 성능을 내는가?

주요 결과

• RecSys-DAN은 타겟 도메인에서 레이블이 전혀 없을 경우에도 평가 예측 작업에서 경쟁 가능한 성능을 달성하며, 냉시작 상황에서 지도 학습 기반 기준선을 능가한다.
• t-SNE 시각화 결과는 적대적 훈련이 시간이 지남에 따라 소스 도메인과 타겟 도메인 표현 간 분포 간격을 효과적으로 줄임을 보여준다.
• 가중치 시각화 결과는 타겟 생성자의 파라미터가 소스 생성자 쪽으로 수렴하는 것으로 확인되어 효과적인 표현 정렬이 이루어졌음을 확인한다.
• 모델은 단모달 및 다모달 상황 모두에서 강건성을 보이며, 표현 전이를 통해 냉시작 문제를 효과적으로 완화한다.
• RecSys-DAN은 재학습 없이도 소스 점수 함수를 직접 적응함으로써 기준선 모델과 유사한 추론 속도를 유지한다.
• 다양한 도메인 쌍(DM→MI, HK→OP 등)에서 일관된 성능 향상이 관찰되어 일반화 능력이 검증된다.