[论文解读] Bayesian Analysis of Rank Data with Covariates and Heterogeneous Rankers

Xinran Li, Dingdong Yi+1 more|arXiv (Cornell University)|Jul 20, 2016

Bayesian Methods and Mixture Models参考文献 74被引用 6

一句话总结

本文提出了一种贝叶斯框架 BARC（带协变量的贝叶斯排名数据分析），用于在使用 Thurstone 模型族建模带协变量的排名数据及异质性排名者时，实现对排名数据的建模。该方法采用参数扩展的吉布斯采样器，实现高效的后验推断，从而在聚合排名中实现不确定性量化，并基于观点对排名者进行聚类，其在模拟数据及真实世界 NFL 和正畸数据应用中均表现出改进效果。

ABSTRACT

Data in the form of ranking lists are frequently encountered, and combining ranking results from different sources can potentially generate a better ranking list and help understand behaviors of the rankers. Of interest here are the rank data under the following settings: (i) covariate information available for the ranked entities; (ii) rankers of varying qualities or having different opinions; and (iii) incomplete ranking lists for non-overlapping subgroups. We review some key ideas built around the Thurstone model family by researchers in the past few decades and provide a unifying approach for Bayesian Analysis of Rank data with Covariates (BARC) and its extensions in handling heterogeneous rankers. With this Bayesian framework, we can study rankers' varying quality, cluster rankers' heterogeneous opinions, and measure the corresponding uncertainties. To enable an efficient Bayesian inference, we advocate a parameter-expanded Gibbs sampler to sample from the target posterior distribution. The posterior samples also result in a Bayesian aggregated ranking list, with credible intervals quantifying its uncertainty. We investigate and compare performances of the proposed methods and other rank aggregation methods in both simulation studies and two real-data examples.

研究动机与目标

• 解决在具有被排序对象协变量信息、异质性排名者以及不完整排名列表的情境下的排名聚合问题。
• 通过将排名者聚类为具有不同排序行为的观点子群体，对排名者异质性进行建模。
• 将协变量效应整合到 Thurstone 模型框架中，以提高排序准确性和可解释性。
• 通过贝叶斯推断生成可信区间，对聚合排名中的不确定性进行量化。
• 为复杂、高维的排名模型开发高效的 MCMC 算法以实现后验计算。

提出的方法

• 通过潜真值分数的线性预测器，将 Thurstone-Mosteller-Daniels（TMD）模型扩展以包含协变量。
• 应用参数扩展的吉布斯采样器，以改善 TMD 模型后验抽样中的混合与收敛性。
• 使用有限或无限混合模型，基于排名者的观点结构对排名者进行聚类，从而允许异质性排序行为。
• 将协变量效应整合到潜分数的均值结构中，以实现对实体排序的预测与解释。
• 通过潜效用的数据增广方法，实现在 TMD 模型下的完整贝叶斯推断。
• 生成带有 95% 可信区间的聚合排名，以量化最终排序顺序中的不确定性。

实验结果

研究问题

• RQ1 如何有效将被排序对象的协变量信息整合到贝叶斯排名数据模型中？
• RQ2 在有限或无限 Thurstone 模型混合下，排名者异质性在多大程度上可被建模与聚类？
• RQ3 协变量和排名者聚类的引入在多大程度上提升了聚合排名的准确性和不确定性量化？
• RQ4 与现有排名聚合技术相比，所提出的贝叶斯方法在真实和模拟数据中的表现如何？
• RQ5 参数扩展的吉布斯采样器在处理高维、不完整排名数据及异质性排名者时的鲁棒性如何？

主要发现

• BARC 模型成功整合了协变量信息，显著提升了不完整排名情境下的排序准确性。
• BARCM 模型在正畸数据中识别出两个具有不同观点的排名者子群，尤其在对左颊侧咬合影响的看法上存在差异。
• 后验估计显示，覆锁、覆盖和中线协变量对正畸结果具有强烈负向影响，与临床直觉一致。
• NFL 四分卫排名中的可信区间揭示了中游排名存在显著不确定性，凸显了不确定性量化的价值。
• 参数扩展的吉布斯采样器实现了高效的收敛与混合，使复杂模型中的实际后验推断成为可能。
• 模拟研究证实，BARC 和 BARCM 在异质性排名者行为下，相较于标准排名聚合方法，在准确性和鲁棒性方面表现更优。