[论文解读] Probabilistic preference learning with the Mallows rank model

Valeria Vitelli, Øystein Sørensen+3 more|arXiv (Cornell University)|May 30, 2014

Game Theory and Voting Systems参考文献 64被引用 18

一句话总结

该论文提出了一种计算高效的贝叶斯推断框架，用于马洛斯排名模型，采用马尔可夫链蒙特卡洛（MCMC）方法，支持任意右不变距离的 probabilistic preference learning。该方法支持完整、部分及成对排名，量化不确定性，并将异质评估者聚类为具有不同共识排名的子群体，且具有理论保证：未排名的项目不会影响共识排名。

ABSTRACT

Ranking and comparing items is crucial for collecting information about preferences in many areas, from marketing to politics. The Mallows rank model is among the most successful approaches to analyse rank data, but its computational complexity has limited its use to a particular form based on Kendall distance. We develop new computationally tractable methods for Bayesian inference in Mallows models that work with any right-invariant distance. Our method performs inference on the consensus ranking of the items, also when based on partial rankings, such as top-k items or pairwise comparisons. We prove that items that none of the assessors has ranked do not influence the maximum a posteriori consensus ranking, and can therefore be ignored. When assessors are many or heterogeneous, we propose a mixture model for clustering them in homogeneous subgroups, with cluster-specific consensus rankings. We develop approximate stochastic algorithms that allow a fully probabilistic analysis, leading to coherent quantifications of uncertainties. We make probabilistic predictions on the class membership of assessors based on their ranking of just some items, and predict missing individual preferences, as needed in recommendation systems. We test our approach using several experimental and benchmark datasets.

研究动机与目标

• 开发超越标准肯德尔距离的马洛斯排名模型的计算可行的贝叶斯推断方法。
• 从不完整数据（包括top-k排名和成对比较）中实现共识排名的概率推断。
• 通过将评估者聚类为具有各自共识排名的子群体，对异质评估者进行建模。
• 利用后验分布量化共识排名、类别成员关系及缺失偏好的不确定性。
• 证明未被排名的项目不会影响最大后验概率共识排名，从而实现数据压缩与效率提升。

提出的方法

• 使用跳跃与移动的Metropolis-Hastings MCMC算法，从任意右不变距离函数的马洛斯分布中进行采样。
• 采用马洛斯分布的混合模型，将评估者聚类为同质子群体，每个子群体具有独立的共识排名和离散参数。
• 应用近似随机算法，实现大规模数据集上的推断，同时保持概率一致性。
• 提出一种新颖的MCMC采样器，在提议生成过程中尊重部分排名和成对比较的约束。
• 在聚类比例上使用狄利克雷先验，并通过Gibbs采样联合推断聚类分配与排名。
• 实施稀释（thinning）以存储后验分布中的独立样本，确保MCMC链的收敛性与混合性。

实验结果

研究问题

• RQ1 是否可以使马洛斯模型中的贝叶斯推断在任意右不变距离下计算上可行，而不仅限于肯德尔距离？
• RQ2 当数据不完整或部分时，如何一致地量化共识排名的不确定性？
• RQ3 即使评估者仅对项目子集进行排名，能否有意义地将他们聚类为具有不同偏好模式的子群体？
• RQ4 未排名项目在后验分布中在多大程度上影响估计的共识排名？
• RQ5 该模型能否基于部分排名行为预测缺失偏好并分类新评估者？

主要发现

• 最大后验概率共识排名对任何评估者均未排名的项目保持不变，从而支持高效的数据剪枝。
• 所提出的MCMC算法在合成数据和真实世界数据集（包括基准偏好学习任务）上均表现出良好的混合性与收敛性。
• 具有子群体特定共识排名的混合模型成功识别出异质偏好数据中的同质子群体，提升了预测准确性。
• 该方法即使仅基于部分排名或成对比较，也能实现缺失偏好的完整概率预测及评估者聚类成员关系的推断。
• 该框架支持对共识排名和类别成员关系的不确定性量化，这对推荐系统中可靠决策至关重要。
• 在实验数据和基准数据集上的实证评估证实了该方法在不同类型数据（包括top-k和成对偏好数据）下的鲁棒性与可扩展性。