[论文解读] Collaboratively Learning Preferences from Ordinal Data

Sewoong Oh, Kiran Koshy Thekumparampil+1 more|arXiv (Cornell University)|Jun 26, 2015

Sparse and Compressive Sensing Techniques参考文献 22被引用 19

一句话总结

本文提出了一种核范数最小化的凸松弛方法，用于在两种场景下协同学习来自序数数据的低秩偏好矩阵：协同排序与捆绑选择建模。通过证明与信息论下界仅相差对数因子的有限样本误差界，建立了最小最大最优性。

ABSTRACT

In applications such as recommendation systems and revenue management, it is important to predict preferences on items that have not been seen by a user or predict outcomes of comparisons among those that have never been compared. A popular discrete choice model of multinomial logit model captures the structure of the hidden preferences with a low-rank matrix. In order to predict the preferences, we want to learn the underlying model from noisy observations of the low-rank matrix, collected as revealed preferences in various forms of ordinal data. A natural approach to learn such a model is to solve a convex relaxation of nuclear norm minimization. We present the convex relaxation approach in two contexts of interest: collaborative ranking and bundled choice modeling. In both cases, we show that the convex relaxation is minimax optimal. We prove an upper bound on the resulting error with finite samples, and provide a matching information-theoretic lower bound.

研究动机与目标

• 解决在推荐系统与收益管理中预测用户对未见过的项目或未观测到的项目对偏好的挑战。
• 通过多项对数几率模型（Multinomial Logit, MNL）对用户偏好进行建模，以捕捉用户与项目之间的潜在相似性。
• 从排名或选择等形式的序数数据中，利用噪声且不完整的观测数据学习潜在的偏好矩阵。
• 为协同排序与捆绑选择建模两种场景提供样本复杂度与估计误差的理论保证。
• 通过匹配的上界与下界，建立所提出的凸松弛方法的最小最大最优性。

提出的方法

• 将偏好学习问题建模为基于MNL模型的序数观测下的低秩矩阵恢复问题。
• 应用核范数最小化的凸松弛方法，从揭示的偏好中估计低秩偏好矩阵。
• 利用MNL模型的随机效用模型（Random Utility Model, RUM）解释，推导估计误差的理论界。
• 使用集中不等式（Hoeffding不等式与Levy不等式）控制估计矩阵行和列和的偏差。
• 构造一组具有受控Frobenius范数与有界元素的矩阵，以推导估计误差的下界。
• 利用McDiarmid不等式，在模型假设下建立估计矩阵以高概率集中在真实矩阵附近的性质。

实验结果

研究问题

• RQ1 核范数最小化的凸松弛方法是否能在来自序数数据的协同偏好学习中实现最小最大最优的估计误差？
• RQ2 所提出的凸松弛方法在协同排序与捆绑选择建模中的有限样本误差率是多少？
• RQ3 在低秩偏好模型中，样本复杂度如何随用户数、项目数与秩的变化而变化？
• RQ4 所提出的方法是否能在协同排序与捆绑选择两种场景中达到信息论下界？
• RQ5 RUM解释在实现MNL模型在序数采样下的紧密理论分析中起到什么作用？

主要发现

• 所提出的凸松弛方法在协同排序与捆绑选择建模中均实现了最小最大最优性，其估计误差与信息论下界仅相差一个多项式对数因子。
• 估计器的有限样本误差界上界为 $ O\left(\sqrt{\frac{r(d_1 + d_2)}{n}} \log^{3/2}(d_1 d_2)\right) $，其中 $ r $ 为秩，$ d_1, d_2 $ 为维度，$ n $ 为观测数。
• 建立了匹配的信息论下界，表明任何估计器都无法比所提方法在误差率上更优超过对数因子。
• 分析证明，两个不同模型参数之间的Frobenius范数差至少为 $ \frac{1}{2}\delta $ 的概率很高，从而确认了在采样机制下模型的可区分性。
• 该方法成功处理了超越成对比较的一般采样模型，扩展了以往仅限于成对比较的研究。
• 通过随机矩阵的集中不等式与MNL模型的RUM解释，推导出理论保证，从而实现了对估计误差的紧密控制。