[论文解读] Learning from Comparisons and Choices

Sahand Negahban, Sewoong Oh+2 more|arXiv (Cornell University)|Apr 24, 2017

Recommender Systems and Techniques参考文献 89被引用 12

一句话总结

本文提出了一种凸松弛方法，用于从用户选择和比较数据中学习多项式对数（MNL）模型参数，从而实现推荐系统的协同表示学习。该方法在对数因子范围内达到极小极大最优性，并揭示了采样图拓扑如何影响估计精度，为调查设计提供了指导原则。

ABSTRACT

When tracking user-specific online activities, each user's preference is revealed in the form of choices and comparisons. For example, a user's purchase history is a record of her choices, i.e. which item was chosen among a subset of offerings. A user's preferences can be observed either explicitly as in movie ratings or implicitly as in viewing times of news articles. Given such individualized ordinal data in the form of comparisons and choices, we address the problem of collaboratively learning representations of the users and the items. The learned features can be used to predict a user's preference of an unseen item to be used in recommendation systems. This also allows one to compute similarities among users and items to be used for categorization and search. Motivated by the empirical successes of the MultiNomial Logit (MNL) model in marketing and transportation, and also more recent successes in word embedding and crowdsourced image embedding, we pose this problem as learning the MNL model parameters that best explain the data. We propose a convex relaxation for learning the MNL model, and show that it is minimax optimal up to a logarithmic factor by comparing its performance to a fundamental lower bound. This characterizes the minimax sample complexity of the problem, and proves that the proposed estimator cannot be improved upon other than by a logarithmic factor. Further, the analysis identifies how the accuracy depends on the topology of sampling via the spectrum of the sampling graph. This provides a guideline for designing surveys when one can choose which items are to be compared. This is accompanied by numerical simulations on synthetic and real data sets, confirming our theoretical predictions.

研究动机与目标

• 解决从排序数据（如选择和比较）中进行用户与项目表示的协同学习问题。
• 使用在市场营销、交通和嵌入任务中经验上成功的多项式对数（MNL）框架来建模用户偏好。
• 开发一种MNL参数估计的凸松弛方法，其统计性能在对数因子范围内达到最优。
• 表征该问题的极小极大样本复杂度，并确定采样图的谱特性如何影响估计精度。
• 通过分析比较图拓扑对学习性能的影响，为调查设计提供原则性指导。

提出的方法

• 作者将偏好学习问题表述为从观察到的用户选择和成对比较中估计MNL模型参数。
• 他们引入MNL似然最大化问题的凸松弛，以实现高效且稳定的优化。
• 该方法利用采样图的谱特性（表示哪些项目被比较）来分析估计误差和样本复杂度。
• 理论分析推导出极小极大下界，并表明所提出的估计器在对数因子范围内达到该下界。
• 该方法结合图拉普拉斯矩阵和谱隙考虑，量化采样设计如何影响学习精度。
• 在合成数据和真实世界数据集上的数值实验验证了理论发现，并展示了在不同采样拓扑下的鲁棒性能。

实验结果

研究问题

• RQ1 从选择和比较数据中学习MNL模型参数的根本统计极限（极小极大样本复杂度）是什么？
• RQ2 采样图的拓扑结构（即哪些项目被比较）如何影响MNL参数估计的精度？
• RQ3 MNL似然的凸松弛能否在对数因子范围内实现极小极大最优性？
• RQ4 采样图的谱特性（如第二小特征值，即代数连通性）在多大程度上影响估计误差？
• RQ5 如何基于采样图结构优化调查设计，以提升偏好学习性能？

主要发现

• 所提出的MNL参数估计凸松弛方法在对数因子范围内达到极小极大最优性，确立了其统计近最优性。
• 估计误差依赖于采样图的谱隙，谱隙越大，收敛越快，精度越高。
• 推导出了该问题的极小极大下界，表明除对数因子外，任何估计器都无法显著优于所提出的方法。
• 数值模拟证实，理论预测的误差对图拓扑的依赖关系在实践中成立，尤其在合成和真实世界数据集中表现显著。
• 该分析为通过选择能优化采样图谱特性的比较集合来构建调查提供了原则性设计指南。