[论文解读] BPR: Bayesian Personalized Ranking from Implicit Feedback

Steffen Rendle, Christoph Freudenthaler+2 more|arXiv (Cornell University)|May 9, 2012

Recommender Systems and Techniques参考文献 15被引用 4,347

一句话总结

BPR 引入了一个贝叶斯框架，用于直接从隐式反馈中优化个性化排序，应用随机梯度下降以最大化后验目标，并在为排序优化时展示了相对于 MF 和自适应 kNN 的改进。

ABSTRACT

Item recommendation is the task of predicting a personalized ranking on a set of items (e.g. websites, movies, products). In this paper, we investigate the most common scenario with implicit feedback (e.g. clicks, purchases). There are many methods for item recommendation from implicit feedback like matrix factorization (MF) or adaptive knearest-neighbor (kNN). Even though these methods are designed for the item prediction task of personalized ranking, none of them is directly optimized for ranking. In this paper we present a generic optimization criterion BPR-Opt for personalized ranking that is the maximum posterior estimator derived from a Bayesian analysis of the problem. We also provide a generic learning algorithm for optimizing models with respect to BPR-Opt. The learning method is based on stochastic gradient descent with bootstrap sampling. We show how to apply our method to two state-of-the-art recommender models: matrix factorization and adaptive kNN. Our experiments indicate that for the task of personalized ranking our optimization method outperforms the standard learning techniques for MF and kNN. The results show the importance of optimizing models for the right criterion.

研究动机与目标

• 在隐式反馈场景下（如点击、购买）激励项目推荐。
• 提出一个源自贝叶斯分析的面向排序的目标函数（BPR-Opt）。
• 提供一个基于随机梯度下降的学习算法，以便在 BPR-Opt 下优化模型。
• 展示如何将 BPR-Opt 应用到矩阵分解和自适应 kNN 模型。
• 展示在 MF 和 kNN 的传统学习技术之上的改进排序性能。

提出的方法

• 将 BPR-Opt 定义为在对隐式反馈的贝叶斯模型下的最大后验估计。
• 开发一个基于 SGD 的通用学习算法，使用自举采样来优化 BPR-Opt。
• 演示将 BPR-Opt 应用到两种模型：矩阵分解和自适应 kNN。
• 将面向排序的优化与 MF 和 kNN 的标准学习方法进行比较。

实验结果

研究问题

• RQ1 基于贝叶斯推导的排序目标是否能在隐式反馈中改进个性化排序，相较于传统的 MF 或 kNN 训练？
• RQ2 如何使用带自举采样的随机梯度下降来在 BPR-Opt 目标下优化模型？
• RQ3 MF 和自适应 kNN 是否通过直接面向排序而非预测精度来获益？
• RQ4 在隐式反馈场景中，BPR-Opt 对排序性能的经验影响是什么？

主要发现

• BPR-Opt 为隐式反馈提供了一个有原则性的面向排序的目标。
• 带自举采样的 SGD 可以使模型朝向 BPR-Opt 进行优化。
• 将 BPR-Opt 应用到矩阵分解和自适应 kNN 能带来相对于标准训练方法的改进个性化排序。
• 为正确的标准（排序）进行优化在排序任务中具有显著的性能收益。