[论文解读] Nonparametric Preference Completion

Julian Katz-Samuels, Clayton Scott|arXiv (Cornell University)|May 24, 2017

Recommender Systems and Techniques参考文献 13被引用 6

一句话总结

该论文提出了一种非参数化的 k-最近邻类似算法，用于协同偏好补全，通过利普希茨函数和用户特定的单调变换对用户-项目评分进行建模。该工作首次为面向排序的非参数协同过滤建立了一致性结果，证明在用户和项目特征满足温和正则性条件时，算法具有收敛性。

ABSTRACT

We consider the task of collaborative preference completion: given a pool of items, a pool of users and a partially observed item-user rating matrix, the goal is to recover the \emph{personalized ranking} of each user over all of the items. Our approach is nonparametric: we assume that each item $i$ and each user $u$ have unobserved features $x_i$ and $y_u$, and that the associated rating is given by $g_u(f(x_i,y_u))$ where $f$ is Lipschitz and $g_u$ is a monotonic transformation that depends on the user. We propose a $k$-nearest neighbors-like algorithm and prove that it is consistent. To the best of our knowledge, this is the first consistency result for the collaborative preference completion problem in a nonparametric setting. Finally, we demonstrate the performance of our algorithm with experiments on the Netflix and Movielens datasets.

研究动机与目标

• 解决基于评分的协同过滤方法仅优化 RMSE 但可能无法获得最优排序的局限性。
• 开发一种避免强参数假设（如低秩结构或特定分布模型）的非参数偏好补全框架。
• 为非参数设置下的基于邻域、面向排序的协同过滤算法提供理论一致性保证。
• 在所提模型下，建立偏好补全问题最优性的必要且充分条件。

提出的方法

• 通过未观测到的特征 $x_i$ 和 $y_u$ 对每个项目和用户进行建模，评分由 $g_u(f(x_i, y_u))$ 给出，其中 $f$ 为利普希茨函数，$g_u$ 为单调函数。
• 提出一种类似 k-最近邻的算法，利用用户之间的成对一致性计数来估计个性化排序。
• 基于用户在项目对上的平均一致数量定义用户相似性，从而实现对用户偏好结构的稳健比较。
• 通过最近邻的多数投票机制预测成对偏好，并构建完整的个性化排序。
• 通过证明估计排序随着观测评分数量的增加而收敛到真实排序，来建立一致性。
• 利用几何和概率论证，证明在温和正则性条件下，用户特征可被有效识别。

实验结果

研究问题

• RQ1 非参数化、基于邻域的协同过滤算法是否能在无强参数假设的前提下实现偏好补全的一致性？
• RQ2 如何利用局部相似性结构，从部分观测到的评分中可靠估计成对偏好关系？
• RQ3 在非参数模型中，何种条件可确保估计排序收敛到真实底层排序？
• RQ4 在所提模型下，偏好补全问题最优性的必要且充分条件是否存在？

主要发现

• 所提出的 k-最近邻类似算法在具有利普希茨 $f$ 和单调 $g_u$ 的非参数模型下，对偏好补全具有一致性，证明了随着数据增长，估计排序收敛到真实排序。
• 该方法在无需低秩结构或特定参数模型（如 Bradley-Terry 或多项对数回归模型）的前提下，实现了理论一致性。
• 推导出了解决方案最优性的必要且充分条件，刻画了在模型假设下何种排序为最优。
• 该框架可推广线性模型：$f(\bm{x},\bm{y}) = \bm{x}^T\bm{y}$ 可嵌入到高一维空间中的欧几里得距离模型 $\|\tilde{\bm{x}} - \tilde{\bm{y}}\|_2$。
• 在 Netflix 和 Movielens 数据集上的实证评估证实了其优异性能，展示了该方法的实用性。
• 理论分析表明，若用户特征在特征空间中足够分离，则该算法能以高概率区分偏好。