[论文解读] Preference Completion from Partial Rankings

Suriya Gunasekar, Oluwasanmi Koyejo+1 more|arXiv (Cornell University)|Nov 14, 2016

Multi-Criteria Decision Making参考文献 32被引用 4

一句话总结

本文提出了一种基于凸优化的协作偏好补全方法，直接建模潜在的偏好排序而非数值评分，采用核范数正则化的低秩矩阵估计。在Movielens和Neurosynth数据集上，该方法在NDCG和Kendall Tau等排序指标上优于标准矩阵补全和排序基线方法，同时计算效率与标准方法保持在同一数量级（对数因子内）。

ABSTRACT

We propose a novel and efficient algorithm for the collaborative preference completion problem, which involves jointly estimating individualized rankings for a set of entities over a shared set of items, based on a limited number of observed affinity values. Our approach exploits the observation that while preferences are often recorded as numerical scores, the predictive quantity of interest is the underlying rankings. Thus, attempts to closely match the recorded scores may lead to overfitting and impair generalization performance. Instead, we propose an estimator that directly fits the underlying preference order, combined with nuclear norm constraints to encourage low--rank parameters. Besides (approximate) correctness of the ranking order, the proposed estimator makes no generative assumption on the numerical scores of the observations. One consequence is that the proposed estimator can fit any consistent partial ranking over a subset of the items represented as a directed acyclic graph (DAG), generalizing standard techniques that can only fit preference scores. Despite this generality, for supervision representing total or blockwise total orders, the computational complexity of our algorithm is within a $\log$ factor of the standard algorithms for nuclear norm regularization based estimates for matrix completion. We further show promising empirical results for a novel and challenging application of collaboratively ranking of the associations between brain--regions and cognitive neuroscience terms.

研究动机与目标

• 解决标准矩阵补全在协作偏好学习中的局限性，即观测评分可能受到单调变换或量化的影响。
• 实现从以有向无环图（DAG）表示的部分排序中进行偏好补全，超越基于评分的观测。
• 通过直接建模潜在的偏好顺序来提升泛化能力，而非拟合噪声较大或经过变换的数值评分。
• 在处理复杂部分序输入时，保持与标准低秩矩阵补全相当的计算效率。
• 在真实应用场景中评估性能，包括推荐系统和神经影像学元分析。

提出的方法

• 提出一种重定向矩阵补全（RMC）估计器，直接拟合潜在偏好顺序，无需对观测评分的生成模型做特定假设。
• 使用核范数正则化以在估计的偏好矩阵中鼓励低秩结构，确保泛化能力。
• 通过将部分排序建模为有向无环图（DAG）来处理，其中边表示严格的成对偏好。
• 将基于DAG的偏好转化为凸优化问题，以在满足观测顺序约束的前提下最小化矩阵秩。
• 采用排序拟合问题的凸松弛形式，实现高效优化并具备理论保证。
• 该方法计算高效，其复杂度与标准核范数基矩阵补全算法处于同一数量级（对数因子内）。

实验结果

研究问题

• RQ1 当观测评分受到任意单调变换影响时，凸优化框架能否有效完成协作偏好补全？
• RQ2 所提出的方法能否处理以有向无环图（DAG）表示的部分排序，而不仅限于完全排序或分块完全排序？
• RQ3 在协作排序任务中，直接建模偏好顺序是否能比拟合观测数值评分带来更好的泛化性能？
• RQ4 在存在部分序监督的情况下，所提方法的计算复杂度与标准矩阵补全算法相比如何？
• RQ5 在真实应用场景（如推荐系统和神经影像学元分析）中，该方法能否在NDCG和Kendall Tau等排序指标上实现更优性能？

主要发现

• 在Movielens 100K数据集上，所提RMC方法在NDCG@5上的平均值达到0.7984（±0.0213），显著优于SMC（0.7863）和CoFi-Rank（0.7731）。
• 在Precision@5上，RMC达到0.7546（±0.0320），优于SMC（0.7429）和CoFi-Rank（0.7314）。
• 在Spearman Rho指标上，RMC达到0.4137（±0.0099），显著高于SMC（0.3722）和CoFi-Rank（0.3681）。
• 在Kendall Tau指标上，RMC达到0.3383（±0.0117），优于SMC（0.3031）和CoFi-Rank（0.2993）。
• 在Neurosynth数据集上，无论训练数据规模如何变化，RMC在所有排序指标（NDCG、Precision、Spearman、Kendall Tau）上均持续优于标准矩阵补全方法。
• RMC的性能提升在top-k排序指标（NDCG@5、Precision@5）上最为显著，表明其在最相关项目上的排序质量得到改善。