[论文解读] Learning Mixtures of Plackett-Luce Models from Structured Partial Orders

Zhibing Zhao, Lirong Xia|arXiv (Cornell University)|Oct 25, 2019

Economic and Environmental Valuation被引用 8

一句话总结

本文提出了一种统一的统计模型，用于从多样化结构化的部分顺序数据——包括排名前-$l$、$l$-way 和选择数据——中学习普莱克特-卢克模型的混合体，采用广义矩法（GMM）算法。该研究建立了理论可识别性条件，证明在特定组合如排名前3名或前2名加2-way的情况下，两个普莱克特-卢克模型的混合体是可识别的，并通过GMM实现了参数估计的一致性和高效性，实验结果在合成数据上验证了其优越的统计与计算权衡。

ABSTRACT

Mixtures of ranking models have been widely used for heterogeneous preferences. However, learning a mixture model is highly nontrivial, especially when the dataset consists of partial orders. In such cases, the parameter of the model may not be even identifiable. In this paper, we focus on three popular structures of partial orders: ranked top-$l_1$, $l_2$-way, and choice data over a subset of alternatives. We prove that when the dataset consists of combinations of ranked top-$l_1$ and $l_2$-way (or choice data over up to $l_2$ alternatives), mixture of $k$ Plackett-Luce models is not identifiable when $l_1+l_2\le 2k-1$ ($l_2$ is set to $1$ when there are no $l_2$-way orders). We also prove that under some combinations, including ranked top-$3$, ranked top-$2$ plus $2$-way, and choice data over up to $4$ alternatives, mixtures of two Plackett-Luce models are identifiable. Guided by our theoretical results, we propose efficient generalized method of moments (GMM) algorithms to learn mixtures of two Plackett-Luce models, which are proven consistent. Our experiments demonstrate the efficacy of our algorithms. Moreover, we show that when full rankings are available, learning from different marginal events (partial orders) provides tradeoffs between statistical efficiency and computational efficiency.

研究动机与目标

• 解决从异构结构化的部分顺序数据（如排名前-$l$、$l$-way 和选择数据）中学习普莱克特-卢克模型混合体的挑战。
• 建立当数据由多种部分顺序类型组合而成时，$k$个普莱克特-卢克模型混合体可识别的理论条件。
• 设计高效且一致的广义矩法（GMM）算法，用于从多样化部分顺序结构中学习两个普莱克特-卢克模型的混合体。
• 评估从完整线性顺序与边际部分顺序中学习时，统计效率与计算效率之间的权衡。
• 通过在不同部分顺序配置下的合成数据实验，证明所提出算法的有效性。

提出的方法

• 提出一个统一的统计模型，将排名前-$l$、$l$-way 和选择-$l$ 的结构化部分顺序整合到普莱克特-卢克模型混合框架中。
• 引入一种广义矩法（GMM）算法，用于从未完全观测的顺序数据中估计两个普莱克特-卢克模型混合体的参数，利用从成对比较中推导出的矩条件。
• 通过分析矩矩阵的秩，推导出理论可识别性条件，证明当 $l_1 + l_2 > 2k - 1$ 且 $k=2$ 时，两个普莱克特-卢克模型的混合体是可识别的，例如排名前3名或前2名加2-way的情况。
• 利用完整线性顺序中的边际事件作为部分观测，即使在无法获取完整排名的情况下，也能实现一致估计。
• 采用采样策略从底层线性顺序中生成部分顺序，模拟具有不同结构的真实世界数据收集场景。
• 在具有不同备选项数量和样本规模的合成数据集上实现并评估GMM算法，与基线GMM和ELSR-Gibbs方法进行比较。

实验结果

研究问题

• RQ1 当数据由排名前-$l_1$ 和 $l_2$-way（或选择）部分顺序组合而成时，$k$个普莱克特-卢克模型混合体在何种条件下是可识别的？
• RQ2 当数据包含如排名前3名、前2名加2-way或选择-4等结构化部分顺序时，是否可以实现对两个普莱克特-卢克模型混合体的一致参数估计？
• RQ3 在统计效率方面，排名前-$l$、$l$-way 和选择-$l$ 三类结构化部分顺序如何比较？
• RQ4 从完整线性顺序与边际部分顺序中学习时，统计效率与计算效率之间的权衡是什么？
• RQ5 基于GMM的算法能否有效适应异构部分顺序数据，同时保持一致性和效率？

主要发现

• 当 $l_1 + l_2 ≤ 2k - 1$ 时，$k$个普莱克特-卢克模型的混合体不可识别，其中 $l_1$ 为前-$l$ 名排名，$l_2$ 为 $l$-way 或选择-$l$ 结构。
• 在特定组合下，如排名前3名、排名前2名加2-way，或最多四个备选项的选择数据中，两个普莱克特-卢克模型的混合体是可识别的。
• 所提出的GMM算法在从结构化部分顺序中学习两个普莱克特-卢克模型混合体方面被证明是一致的。
• 实验表明，当从部分顺序中学习时，GMM算法的均方误差（MSE）低于基线方法，且随着样本量增加，MSE趋近于零。
• 当从完整线性顺序中学习时，所提算法在MSE方面优于最先进的GMM方法[33]，同时保持相近的运行时间。
• 在大规模部分顺序数据集上，ELSR-Gibbs算法显著慢于所提出的GMM方法，尤其在选择-2、3、4配置下更为明显。