[논문 리뷰] Translational Recommender Networks.

Yi Tay, Anh Tuan Luu외 1명|arXiv (Cornell University)|2017. 07. 17.

Recommender Systems and Techniques참고 문헌 43인용 수 5

한 줄 요약

이 논문은 암묵적 피드백만으로도 숨겨진 관계 구조(예: 감성, 시간, 속성 등)를 드러내어 해석 가능성을 향상시키는, 잠재적 관계주의 기억(LRAM) 모듈과 주목성 기반의 신경망 아키텍처인 Translational Recommender Networks(TransRec)를 제안한다. 이는 유저-아이템 간 관계를 적응형 벡터 공간 이동을 통해 모델링하며, 추천 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Representing relationships as translations in vector space lives at the heart of many neural embedding models such as word embeddings and knowledge graph embeddings. In this work, we study the connections of this translational principle with collaborative filtering algorithms. We propose Translational Recommender Networks ( extsc{TransRec}), a new attentive neural architecture that utilizes the translational principle to model the relationships between user and item pairs. Our model employs a neural attention mechanism over a \emph{Latent Relational Attentive Memory} (LRAM) module to learn the latent relations between user-item pairs that best explains the interaction. By exploiting adaptive user-item specific translations in vector space, our model also alleviates the geometric inflexibility problem of other metric learning algorithms while enabling greater modeling capability and fine-grained fitting of users and items in vector space. The proposed architecture not only demonstrates the state-of-the-art performance across multiple recommendation benchmarks but also boasts of improved interpretability. Qualitative studies over the LRAM module shows evidence that our proposed model is able to infer and encode explicit sentiment, temporal and attribute information despite being only trained on implicit feedback. As such, this ascertains the ability of extsc{TransRec} to uncover hidden relational structure within implicit datasets.

연구 동기 및 목표

• 추천 시스템의 협업 필터링에 단어 및 지식 그래프 임베딩의 이동 원리를 효과적으로 적용하기 위해.
• 사용자-아이템 상호작용을 모델링할 때 기하학적 유연성이 떨어지는 거리 측정 학습 알고리즘의 문제를 해결하기 위해.
• 적응형 이동을 통해 사용자와 아이템의 벡터 공간 내에서 더 높은 수준의 표현 능력과 세밀한 피팅을 향상시키기 위해.
• 암묵적 피드백만으로도 감성, 시간, 속성과 같은 잠재적 관계 요소를 추론할 수 있도록 모델의 해석 가능성을 향상시키기 위해.
• 다양한 추천 벤치마크에서 최신 기술 수준의 성능을 달성하면서도 설명 가능성을 유지하는가를 입증하기 위해.

제안 방법

• 모델은 사용자와 아이템 간의 잠재적 관계를 저장하고 검색하기 위해 잠재적 관계주의 기억(LRAM) 모듈을 사용한다.
• 각 사용자-아이템 쌍에 대해 가장 관련성이 높은 관계를 동적으로 선택하기 위해 LRAM에 주목성 기반 메커니즘을 적용한다.
• 사용자 및 아이템 표현은 벡터 공간 내에서 적응형 이동을 통해 업데이트되며, 이동 벡터가 잠재적 관계를 캡처한다.
• 사용자 및 아이템 전용 이동 벡터를 학습하여 간단한 내적 곱 또는 코사인 유사도를 넘는 개인화된 관계를 모델링한다.
• 명시적 평점이나 주석이 필요 없이 암묵적 피드백 신호를 사용해 엔드 투 엔드로 모델을 훈련한다.
• 주목성 기반 메커니즘이 감성이나 시간적 추세와 같은 특정 관계 성분에 집중할 수 있어, 이러한 요소에 대한 명시적 지도 없이도 효과적으로 작동한다.

실험 결과

연구 질문

• RQ1 단어 및 지식 그래프 임베딩에서 유도된 이동 원리는 추천 시스템의 협업 필터링에 효과적으로 적용될 수 있는가?
• RQ2 벡터 공간 내에서 사용자 및 아이템 전용의 적응형 이동은 고정된 메트릭 학습 접근 방식에 비해 표현의 민첩성과 성능 향상에 기여하는가?
• RQ3 주목성 기억 모듈을 갖춘 신경망 아키텍처는 암묵적 피드백만으로도 감성, 시간, 속성과 같은 해석 가능한 관계 요소를 추론할 수 있는가?
• RQ4 제안된 모델은 다양한 추천 벤치마크에서 최신 기술 수준의 성능을 달성하면서도 설명 가능성을 유지하는가?
• RQ5 LRAM 모듈은 암묵적 데이터셋 내에서 숨겨진 관계적 구조를 얼마나 잘 캡처하고 표현하는가?

주요 결과

• TransRec는 다양한 추천 벤치마크에서 최신 기술 수준의 성능을 달성하며, 정확도와 일반화 능력 측면에서 기존 방법들을 능가한다.
• 암묵적 피드백으로만 훈련되었음에도 불구하고 LRAM 모듈에 명시적 감성, 시간, 속성 정보를 인코딩함으로써 모델의 해석 가능성이 향상됨을 입증했다.
• 적응형 이동의 사용은 기존 메트릭 학습 알고리즘의 기하학적 유연성 부족 문제를 완화하여 더 세밀한 사용자 및 아이템 표현 학습을 가능하게 하였다.
• LRAM 모듈의 정성적 분석 결과, 시간적 추세나 사용자 행동 내 감성 변화와 같은 의미 있는 관계 패턴을 효과적으로 캡처하고 있음을 확인하였다.
• 주목성 기반 메커니즘이 관련성이 높은 관계 성분에 집중하는 데 성공했으며, 이는 모델이 이러한 요소에 대한 명시적 지도 없이도 의미 있는 잠재적 관계를 인식하고 주목하는 데 성공했음을 시사한다.