[논문 리뷰] Collaborative Metric Learning with Memory Network for Multi-Relational Recommender Systems

Zhou Xiao, Danyang Liu외 2명|arXiv (Cornell University)|2019. 06. 24.

Recommender Systems and Techniques참고 문헌 21인용 수 6

한 줄 요약

이 논문은 외부 메모리와 주의 메커니즘을 활용하여 다양한 피드백 유형(예: 클릭, 구매, 수집) 간의 미세한 다중관계적 사용자-아이템 상호작용을 모델링하는 엔드 투 엔드 신경망 프레임워크인 다중관계 메모리 네트워크(MRMN)를 제안한다. 메트릭 공간에서 적응형 관계 벡터를 학습함으로써 MRMN은 전자상거래 데이터에서 최신 기준 모델 대비 HR 및 NDCG에서 최대 10% 향상되어, 복잡하고 다양한 사용자 선호도를 보다 효과적으로 포착함을 입증한다.

ABSTRACT

The success of recommender systems in modern online platforms is inseparable from the accurate capture of users' personal tastes. In everyday life, large amounts of user feedback data are created along with user-item online interactions in a variety of ways, such as browsing, purchasing, and sharing. These multiple types of user feedback provide us with tremendous opportunities to detect individuals' fine-grained preferences. Different from most existing recommender systems that rely on a single type of feedback, we advocate incorporating multiple types of user-item interactions for better recommendations. Based on the observation that the underlying spectrum of user preferences is reflected in various types of interactions with items and can be uncovered by latent relational learning in metric space, we propose a unified neural learning framework, named Multi-Relational Memory Network (MRMN). It can not only model fine-grained user-item relations but also enable us to discriminate between feedback types in terms of the strength and diversity of user preferences. Extensive experiments show that the proposed MRMN model outperforms competitive state-of-the-art algorithms in a wide range of scenarios, including e-commerce, local services, and job recommendations.

연구 동기 및 목표

• 단일 피드백 유형에 의존하는 기존 추천 시스템의 한계를 해결하여 세밀한 사용자 선호도를 포착하지 못하는 문제를 해결한다.
• 클릭, 구매, 카트, 수집 등의 다양한 피드백 유형 간의 다양한 복잡한 사용자-아이템 상호작용을 통합된 프레임워크로 모델링한다.
• 외부 메모리와 주의 메커니즘을 활용하여 메트릭 공간에서 적응형 다중관계 벡터를 학습함으로써 추천 성능을 향상시킨다.
• 주의 가중치를 통한 메모리 액세스를 통해 피드백 유형 간 관계를 해석 가능한 방식으로 모델링한다.
• 다양한 상호작용 유형에서 발생하는 풍부한 암묵적 피드백 데이터를 효과적으로 활용하여 데이터 희소성 문제를 완화한다.

제안 방법

• MRMN은 각 피드백 유형에 대해 사용자 및 아이템 전용 관계 벡터를 저장하는 외부 메모리 백업을 활용하여 세밀한 선호도 모델링을 가능하게 한다.
• 주의 메커니즘은 사용자, 아이템, 피드백 유형 임베딩을 기반으로 관련 메모리 슬롯을 동적으로 선택함으로써 적응형 관계 학습을 가능하게 한다.
• 모델은 각 피드백 유형에 대해 마진 제약 조건이 있는 트리플릿 손실을 최적화하기 위해 메트릭 학습을 사용하며, 마진 값은 피드백 중요도에 따라 학습되거나 설정된다.
• 사용자 및 아이템 임베딩은 메모리 증강 주의 메커니즘과 메트릭 학습 목표를 통해 역전파를 통해 업데이트된다.
• 단일 통합 아키텍처를 사용하여 다양한 사용자 행동(예: 구매, 클릭 등)의 다중태스크 예측을 지원한다.
• 피드백 유형별 마진(λ^τ)은 중요도를 반영하도록 튜닝되며, 더 중요한 피드백 유형에 더 높은 값이 할당된다.

실험 결과

연구 질문

• RQ1 다양한 종류의 암묵적 피드백을 통합하여 개인화를 향상시키는 데 효과적으로 통합할 수 있는가?
• RQ2 단일관계 또는 비관계 학습 대비 다중관계 메트릭 학습이 추천 성능에 얼마나 기여하는가?
• RQ3 주목적 기반 메모리 메커니즘과 주의 메커니즘이 다양한 피드백 유형 간의 복잡하고 세밀한 사용자-아이템 상호작용을 어떻게 향상시킬 수 있는가?
• RQ4 다양한 피드백 유형이 선호도 표현에 어떻게 기여하는가? 상대적 중요도는 학습되거나 校정될 수 있는가?
• RQ5 주의 가중치는 사용자와 아이템 간에 학습된 관계 역학에 대해 어떤 통찰을 제공하는가?

주요 결과

• MRMN은 타이몰 전자상거래 데이터셋에서 최신 기준 모델 대비 HR 및 NDCG에서 최대 10% 향상되어 뚜렷한 성능 향상을 입증한다.
• 다중관계 메트릭 학습(MRML)은 단일관계(LRML) 및 비관계(CML) 기반 모델 대비 상당한 성능 향상을 이끌어내며, 특히 희소 데이터셋에서 두드러진다.
• 메모리 증강 주의 메커니즘 덕분에 MRMN는 LRML 대비 뛰어난 성능을 달성하여 적응형 메모리 액세스가 복잡한 상호작용을 효과적으로 포착함을 입증한다.
• 주의 가중치 시각화 결과, 더 인기 있는 피드백 유형(예: 구매, 클릭)은 메모리 슬롯 간에 더 다양한 동적 메모리 사용 패턴을 보이며, 다중관계 학습 능력을 확인한다.
• 더 중요한 피드백 유형(예: 클릭보다 구매)에 더 높은 마진 값을 할당할 경우 성능 향상이 이루어지며, 이는 모델이 피드백 유형 간 관계를 학습할 수 있음을 검증한다.
• 모델은 전자상거래, 현지 서비스(Xing), 식음료 추천(Dianping) 등 다양한 시나리오에서 일관된 성능 향상을 기록하여 광범위한 적용 가능성을 입증한다.