[논문 리뷰] Hyperbolic Recommender Systems.

Tran Dang Quang Vinh, Yi Tay외 3명|arXiv (Cornell University)|2018. 09. 05.

Recommender Systems and Techniques참고 문헌 23인용 수 21

한 줄 요약

이 논문은 사용자와 아이템 임베딩을 쌍곡 공간에서 학습하여 계층적인 사용자-아이템 관계를 더 잘 포착할 수 있도록 하는 하이퍼볼릭 추천 시스템인 HyperBPR을 제안한다. 쌍곡 공간의 내재된 곡률을 활용하여, 유사한 유럽 기반 모델에 비해 우수한 성능을 기록하고 표준 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성함으로써 개인화 추천을 위한 표현 학습에서 뛰어난 성능을 입증한다.

ABSTRACT

Many well-established recommender systems are based on representation learning in Euclidean space. In these models, matching functions such as the Euclidean distance or inner product are typically used for computing similarity scores between user and item embeddings. This paper investigates the notion of learning user and item representations in Hyperbolic space. In this paper, we argue that Hyperbolic space is more suitable for learning user-item embeddings in the recommendation domain. Unlike Euclidean spaces, Hyperbolic spaces are intrinsically equipped to handle hierarchical structure, encouraged by its property of exponentially increasing distances away from origin. We propose HyperBPR (Hyperbolic Bayesian Personalized Ranking), a conceptually simple but highly effective model for the task at hand. Our proposed HyperBPR not only outperforms their Euclidean counterparts, but also achieves state-of-the-art performance on multiple benchmark datasets, demonstrating the effectiveness of personalized recommendation in Hyperbolic space.

연구 동기 및 목표

• 추천 시스템에서 사용자 및 아이템 임베딩을 학습할 때 쌍곡 공간이 유클리드 공간보다 더 적합한가를 조사하는 것.
• 사용자-아이템 상호작용에서 흔히 나타나는 계층적 데이터 구조를 모델링하는 데 있어 유클리드 공간의 한계를 해결하는 것.
• 쌍곡 기하학을 활용한 개인화 랭킹을 위한 개념적으로 단순하면서도 효과적인 모델을 개발하는 것.
• 쌍곡 표현이 표준 추천 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가를 입증하는 것.

제안 방법

• 모델은 효율적인 최적화와 계층적 표현을 지원하는 푸앵카레 볼 모델을 사용하여 쌍곡 공간에서 사용자 및 아이템 임베딩을 학습한다.
• 랭킹 선호도를 최적화하기 위해 쌍곡 기하학에 적응된 베이지안 개인화 랭킹(BPR) 손실 함수를 사용한다.
• 사용자 및 아이템 임베딩 간의 유사도 측정으로 쌍곡 거리를 활용하여 원점에서 멀어질수록 공간이 기하급수적으로 증가하는 특성을 활용한다.
• 최적화는 쌍곡 공간의 내재 기하학을 유지하는 푸앵카레 볼 다양체 위에서 확률적 경사 하강법을 통해 수행된다.
• 복잡한 연산 없이 단순한 피드포워드 아키텍처를 유지하여 효율적인 훈련과 추론을 가능하게 한다.
• 모델은 엔드 투 엔드로 미분 가능하여 쌍곡 임베딩 공간을 통해 역전파가 가능하다.

실험 결과

연구 질문

• RQ1 추천 시스템에서 쌍곡 공간이 유클리드 공간보다 계층적인 사용자-아이템 상호작용 패턴을 더 잘 표현할 수 있는가?
• RQ2 쌍곡 공간의 곡률이 개인화 랭킹 모델의 성능에 어떤 영향을 미치는가?
• RQ3 쌍곡 공간에서의 학습이 최신 기술 수준의 유클리드 기반 모델에 비해 추천 정확도를 향상시키는가?
• RQ4 실제 데이터셋에서 쌍곡 임베딩이 장기 꼬리 및 계층적 아이템 구조를 얼마나 잘 포착하는가?

주요 결과

• HyperBPR는 여러 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성하여 기존의 유클리드 기반 모델을 능가한다.
• 장기 꼬리 아이템에 대해 뛰어난 성능을 보이며, 계층적 아이템 구조를 더 잘 포착하고 있음을 시사한다.
• 쌍곡 공간의 기하급수적 용량 덕분에 NDCG 및 리콜과 같은 지표로 측정된 랭킹 품질 향상이 관찰된다.
• 쌍곡 기하학의 사용은 특히 희소한 사용자-아이템 상호작용에서 더 컴act하고 의미 있는 표현을 가능하게 한다.
• 강한 계층적 구조를 가진 데이터셋에서 모델의 성능 향상이 가장 두드러지며, 이는 쌍곡 공간의 이론적 이점이 검증됨을 의미한다.
• 결과는 쌍곡 공간이 추천 시스템에서 계층적 관계를 모델링하는 데 본질적으로 더 적합하다는 것을 확인한다.