[논문 리뷰] Transfer Meets Hybrid: A Synthetic Approach for Cross-Domain Collaborative Filtering with Text

Guangneng Hu, Yu Zhang외 1명|arXiv (Cornell University)|2019. 01. 22.

Recommender Systems and Techniques참고 문헌 53인용 수 9

한 줄 요약

이 논문은 구조화되지 않은 텍스트 콘텐츠와 교차 도메인 지식 전이를 동시에 활용하는 새로운 딥 뉴럴 모델인 TMH를 제안한다. 주어진 두 개의 실세계 데이터셋에서 상태의 기술 수준을 달성하며, 냉시작 문제를 크게 줄이고 랭킹 메트릭에서 베이스라인을 능가한다. 이는 메모리 네트워크를 활용한 주목적 텍스트 특징 추출과 선택적 지식 전이를 위한 전이 네트워크를 통합함으로써 달성된다.

ABSTRACT

Collaborative filtering (CF) is the key technique for recommender systems (RSs). CF exploits user-item behavior interactions (e.g., clicks) only and hence suffers from the data sparsity issue. One research thread is to integrate auxiliary information such as product reviews and news titles, leading to hybrid filtering methods. Another thread is to transfer knowledge from other source domains such as improving the movie recommendation with the knowledge from the book domain, leading to transfer learning methods. In real-world life, no single service can satisfy a user's all information needs. Thus it motivates us to exploit both auxiliary and source information for RSs in this paper. We propose a novel neural model to smoothly enable Transfer Meeting Hybrid (TMH) methods for cross-domain recommendation with unstructured text in an end-to-end manner. TMH attentively extracts useful content from unstructured text via a memory module and selectively transfers knowledge from a source domain via a transfer network. On two real-world datasets, TMH shows better performance in terms of three ranking metrics by comparing with various baselines. We conduct thorough analyses to understand how the text content and transferred knowledge help the proposed model.

연구 동기 및 목표

• 보조 텍스트 정보와 교차 도메인 지식 전이를 통합하여 협업 필터링에서의 데이터 희소성 문제와 냉시작 문제를 해결한다.
• 사용자-아이템 콘텐츠와 소스 도메인에서 타겟 도메인으로 유용한 지식을 전이하는 엔드 투 엔드 딥 러닝 프레임워크를 개발한다.
• 사용자-아이템 상호작용에 의해 유도되는 효과적이고 선택적인 지식 전이를 가능하게 하며, 동시에 비정형 텍스트에서 의미적 콘텐츠를 주목적으로 추출한다.
• 콘텐츠와 교차 도메인 신호를 공동으로 모델링하여, 특히 낮은 데이터 환경에서의 추천 성능을 향상시킨다. 이는 냉사용자와 냉아이템에 특히 유리하다.

제안 방법

• 비정형 텍스트(예: 리뷰, 뉴스 제목)에서 관련 의미적 콘텐츠를 주목적 메커니즘을 사용해 사용자 선호도와 일치시켜 추출하기 위해 메모리 네트워크(MNet)를 활용한다.
• 사용자-아이템 상호작용에서 유도된 주목적 가중치에 기반해 소스 도메인 아이템에서 타겟 도메인으로 지식을 선택적으로 전이하는 새로운 전이 네트워크(TNet)를 도입한다.
• 메모리 및 전이 구성 요소에서 학습된 고수준 표현을 융합하기 위해 공유된 특징 상호작용 레이어를 사용한다.
• 상위-N 추천 성능을 최적화하기 위해 랭킹 손실을 사용해 전체 모델을 엔드 투 엔드로 훈련한다.
• MNet과 TNet의 양쪽 모두에서 주목적 메커니즘을 활용하여, 각각 중요한 단어와 관련된 소스 아이템에 동적으로 초점을 맞춘다.
• 매트릭스 분해 방식의 사용자 및 아이템 임베딩을 딥 뉴럴 네트워크와 결합하여 사용자-아이템 상호작용의 복잡한 패턴을 모델링한다.

실험 결과

연구 질문

• RQ1 비정형 텍스트 콘텐츠와 교차 도메인 지식 전이를 공동으로 모델링하면 희소한 교차 도메인 환경에서 추천 성능을 향상시킬 수 있는가?
• RQ2 메모리 네트워크의 주목적 메커니즘과 전이 네트워크의 선택적 지식 전이가 성능 향상에 기여하는 방식은 무엇인가?
• RQ3 제안된 모델은 상호작용이 적은 사용자와 아이템의 냉시작 문제를 어느 정도 완화할 수 있는가?
• RQ4 텍스트 콘텐츠와 교차 도메인 지식을 동시에 통합하는 것이, 각각의 구성 요소를 별도로 사용하는 것보다 더 효과적인가?

주요 결과

• TMH는 NDCG@10, MAP, Recall@10 측정 기준으로 아마존 및 모바일 데이터셋에서 LCMR(메모리 전용)와 CSN(전이 전용)을 포함한 여러 강력한 베이스라인을 모두 능가한다.
• 절단 실험 결과, 메모리 구성 요소를 제거할 경우 전이 구성 요소를 제거하는 것보다 성능 저하가 더 심각한 것으로 나타나, 텍스트 콘텐츠가 추천에 더 풍부한 정보를 제공하거나 더 핵심적인 역할을 한다는 것을 시사한다.
• 아마존 데이터셋에서, TMH는 순수 협업 필터링(MLP) 대비 <7개의 훈련 예제를 가진 냉사용자에 대한 놓친 히트 수를 12.1% 감소시켰고, 모바일 데이터셋에서는 <10개의 상호작용을 가진 사용자에 대해 20.9% 감소시켰다.
• 모바일 데이터셋에서 전이 네트워크를 제거하면 NDCG@10에서 성능이 4.3% 하락함으로써, 이 네트워크가 지식 전이에 중요한 역할을 한다는 것을 보여준다.
• 텍스트 의미와 교차 도메인 지식을 활용함으로써 냉사용자 및 냉아이템 문제를 효과적으로 완화하며, 특히 상호작용 기록이 최소한인 사용자와 아이템에게 유리하다.
• MNet과 TNet 양쪽의 주목적 메커니즘이 핵심적이다. 둘 중 하나를 제거하면 성능 저하가 뚜렷하게 발생함으로써, 하이브리드 전이 프레임워크에서 두 구성 요소의 필수성과 중요성을 확인한다.