[논문 리뷰] JSCN: Joint Spectral Convolutional Network for Cross Domain Recommendation

Zhiwei Liu, Lei Zheng외 3명|arXiv (Cornell University)|2019. 10. 18.

Recommender Systems and Techniques참고 문헌 38인용 수 4

한 줄 요약

이 논문은 사용자-아이템 그래프에서 다층 스펙트럴 컨볼루션을 활용하여 고차 연결 정보를 캡처하고, 도메인 적응형 매핑 모듈을 통해 도메인 불변 사용자 표현을 공동으로 학습하는 JSCN(Joint Spectral Convolutional Network)을 제안한다. 24개의 Amazon 데이터셋에서의 실험 결과, 최신 기법들보다 재현율(recall)이 9.2% 높고 MAP가 36.4% 높게 성능을 보이며, 상호 불가능한 도메인 간에 지식을 효과적으로 전이하면서도 구조적 연결성을 유지함으로써 우수한 다중도메인 추천 성능을 입증한다.

ABSTRACT

Cross-domain recommendation can alleviate the data sparsity problem in recommender systems. To transfer the knowledge from one domain to another, one can either utilize the neighborhood information or learn a direct mapping function. However, all existing methods ignore the high-order connectivity information in cross-domain recommendation area and suffer from the domain-incompatibility problem. In this paper, we propose a extbf{J}oint extbf{S}pectral extbf{C}onvolutional extbf{N}etwork (JSCN) for cross-domain recommendation. JSCN will simultaneously operate multi-layer spectral convolutions on different graphs, and jointly learn a domain-invariant user representation with a domain adaptive user mapping module. As a result, the high-order comprehensive connectivity information can be extracted by the spectral convolutions and the information can be transferred across domains with the domain-invariant user mapping. The domain adaptive user mapping module can help the incompatible domains to transfer the knowledge across each other. Extensive experiments on $24$ Amazon rating datasets show the effectiveness of JSCN in the cross-domain recommendation, with $9.2\%$ improvement on recall and $36.4\%$ improvement on MAP compared with state-of-the-art methods. Our code is available online ~\footnote{https://github.com/JimLiu96/JSCN}.

연구 동기 및 목표

• 다양한 도메인 간 지식 전이를 통해 추천 시스템의 데이터 희소성 문제를 해결한다.
• 기존 기법들이 다중도메인 추천에서 고차 연결 정보를 忽시하는 한계를 극복한다.
• 영화와 의류 등 도메인 간 사용자 행동이 상이한 상황에서의 도메인 불일치 문제를 해결한다.
• 스펙트럴 컨볼루션과 적응형 매핑을 통해 도메인 불변 사용자 표현을 공동으로 학습하여 전이 가능성 향상.
• 다중 소스 도메인 학습의 효과성과 모델 아키텍처 선택이 성능에 미치는 영향을 입증한다.

제안 방법

• 그래프 푸리에 변환을 사용하여 사용자-아이템 이분 그래프에 다층 스펙트럴 컨볼루션을 적용해 고차 연결 정보를 추출한다.
• 그래프 라플라시안과 그 고유벡터를 사용해 비선형 상호작용을 모델링하는 스펙트럴 표현을 정의한다.
• 도메인 특화 스펙트럴 벡터를 공통의 도메인 불변 사용자 표현 공간으로 매핑하는 도메인 적응형 사용자 매핑 모듈을 도입한다.
• 도메인 내 복원 오차와 도메인 간 정렬 오차를 동시에 최소화하는 공동 최적화 목표를 설정하여 공유 표현을 학습한다.
• 도메인 적응형 모듈에 선형 또는 비선형 매핑 함수를 구현하며, 추론 실험 결과 선형 매핑이 과적합을 줄여 더 우수한 성능을 보였다.
• 다양한 소스 도메인에서의 공동 손실를 최적화하기 위해 온전한 엔드 투 엔드로 모델을 훈련한다.

실험 결과

연구 질문

• RQ1 스펙트럴 컨볼루션은 다중도메인 추천에서 고차 연결 정보를 효과적으로 캡처할 수 있는가?
• RQ2 도메인 불변 사용자 표현을 학습하면 상호 불가능한 도메인 간 추천 성능이 향상되는가?
• RQ3 여러 소스 도메인의 포함 여부가 다중도메인 추천 모델의 성능에 어떤 영향을 미치는가?
• RQ4 다른 행동 패턴을 가진 도메인 간 지식 전이에 도메인 적응형 매핑 모듈이 미치는 영향은 무엇인가?
• RQ5 매핑 함수의 선택(선형 대비 비선형)이 모델 일반화 및 성능에 상당한 영향을 미치는가?

주요 결과

• 24개의 Amazon 데이터셋에서 JSCN는 최신 기법 대비 재현율 9.2% 향상 및 MAP 36.4% 향상된 성능을 기록했다.
• 도메인 적응형 사용자 매핑 모듈이 성능 향상에 크게 기여하였으며, JSCN-β는 JSCN-α 대비 MAP에서 최대 10%, 재현율에서 최대 8% 높은 성능을 보였다.
• 단일 소스 학습 대비 여러 소스 도메인(예: 홈 및 주방 + 헬스 및 개인용품)을 활용할 경우 평균 37.2% 향상된 성능을 기록했다.
• 세 개의 소스 도메인 조합은 두 개 도메인 조합에 비해 약간 성능이 떨어지며, 이는 도메인의 밀도와 호환성의 영향을 받을 수 있음을 시사한다.
• 도메인 적응형 모듈에서 선형 매핑이 비선형 MLP 매핑보다 우수한 성능을 보였는데, 이는 저차원 스펙트럴 벡터에서 과적합을 줄여주기 때문이다.
• 스펙트럴 컨볼루션은 고차 연결성을 효과적으로 모델링하여 선호도 예측을 향상시키며, 예를 들어 도메인 간 다단계 경로를 기반으로 항목을 정확히 순위 매길 수 있다.