[논문 리뷰] BPR: Bayesian Personalized Ranking from Implicit Feedback

Steffen Rendle, Christoph Freudenthaler외 2명|arXiv (Cornell University)|2012. 05. 09.

Recommender Systems and Techniques참고 문헌 15인용 수 4,347

한 줄 요약

BPR은 암시적 피드백으로부터 직접 개인화 순위를 최적화하기 위한 베이지안 프레임워크를 도입하고, 사후 목표를 최대화하기 위해 확률적 경사하강법(SGD)을 적용하며, 순위 최적화 시 MF 및 적응형 kNN에 비해 성능이 향상됨을 보여준다.

ABSTRACT

Item recommendation is the task of predicting a personalized ranking on a set of items (e.g. websites, movies, products). In this paper, we investigate the most common scenario with implicit feedback (e.g. clicks, purchases). There are many methods for item recommendation from implicit feedback like matrix factorization (MF) or adaptive knearest-neighbor (kNN). Even though these methods are designed for the item prediction task of personalized ranking, none of them is directly optimized for ranking. In this paper we present a generic optimization criterion BPR-Opt for personalized ranking that is the maximum posterior estimator derived from a Bayesian analysis of the problem. We also provide a generic learning algorithm for optimizing models with respect to BPR-Opt. The learning method is based on stochastic gradient descent with bootstrap sampling. We show how to apply our method to two state-of-the-art recommender models: matrix factorization and adaptive kNN. Our experiments indicate that for the task of personalized ranking our optimization method outperforms the standard learning techniques for MF and kNN. The results show the importance of optimizing models for the right criterion.

연구 동기 및 목표

• 암시적 피드백 시나리오(예: 클릭, 구매)에서 아이템 추천의 동기를 제시한다.
• 베이지안 분석에서 파생된 랭킹 중심의 목표(BPR-Opt)를 제안한다.
• BPR-Opt에 대해 모델을 최적화하기 위한 확률적 경사하강법(SGD)에 기반한 학습 알고리즘을 제공한다.
• BPR-Opt를 행렬 분해와 적응형 kNN 모델에 적용하는 방법을 보여준다.
• MF와 kNN에 대한 전통적인 학습 기법에 비해 순위 성능이 향상됨을 보여준다.

제안 방법

• 암시적 피드백에 대한 베이즈 모델에서 BPR-Opt를 최대 사후 추정기로 정의한다.
• 부트스트랩 샘플링을 사용하여 BPR-Opt를 최적화하는 일반적인 SGD 기반 학습 알고리즘을 개발한다.
• 행렬 분해와 적응형 kNN에 BPR-Opt를 적용하는 것을 시연한다.
• MF와 kNN에 대한 표준 학습 방법과 순위 중심 최적화를 비교한다.

실험 결과

연구 질문

• RQ1 전통적인 MF 또는 kNN 학습과 비교했을 때, 베이지안 도출 랭킹 목표가 암시적 피드백으로부터의 개인화 랭킹을 향상시킬 수 있는가?
• RQ2 부트스트랩 샘플링을 이용한 확률적 경사하강법(SGD)을 BPR-Opt 목표하에 모델 최적화에 어떻게 활용할 수 있는가?
• RQ3 MF와 적응형 kNN가 예측 정확도가 아닌 랭킹 자체를 직접 최적화할 때 이점이 있는가?
• RQ4 암시적 피드백 시나리오에서 BPR-Opt가 랭킹 성능에 미치는 실증적 영향은 무엇인가?

주요 결과

• BPR-Opt는 암시적 피드백에 대해 원칙에 기반한 랭킹 중심의 목표를 제공한다.
• SGD가 부트스트랩 샘플링과 함께 모델을 BPR-Opt 방향으로 최적화할 수 있다.
• 행렬 분해와 적응형 kNN에 BPR-Opt를 적용하면 표준 학습 방법에 비해 향상된 개인화 랭킹이 얻어진다.
• 올바른 기준(랭킹)을 최적화하는 것이 랭킹 작업에서 상당한 성능 이점을 가진다.