[论文解读] Random Utility Theory for Social Choice

Hossein Azari, David M. Parks+1 more|arXiv (Cornell University)|Nov 11, 2012

Consumer Market Behavior and Pricing参考文献 29被引用 78

一句话总结

本文提出一种基于蒙特卡洛期望最大化（MC-EM）的贝叶斯推理框架，用于一般随机效用模型（RUMs），并确立了对数似然函数为凹函数且全局最大值有界的条件。该方法通过Rao-Blackwellized Gibbs抽样实现潜在效用估计，可在多种RUM模型（包括Plackett-Luce模型和基于正态分布的模型）中实现可扩展且精确的参数估计。

ABSTRACT

Random utility theory models an agent's preferences on alternatives by drawing a real-valued score on each alternative (typically independently) from a parameterized distribution, and then ranking the alternatives according to scores. A special case that has received significant attention is the Plackett-Luce model, for which fast inference methods for maximum likelihood estimators are available. This paper develops conditions on general random utility models that enable fast inference within a Bayesian framework through MC-EM, providing concave loglikelihood functions and bounded sets of global maxima solutions. Results on both real-world and simulated data provide support for the scalability of the approach and capability for model selection among general random utility models including Plackett-Luce.

研究动机与目标

• 为解决除Plackett-Luce模型外一般随机效用模型（RUMs）缺乏高效推理方法的问题。
• 建立理论条件，确保在位置族RUM中对数似然函数为凹函数且全局最大值集合有界。
• 通过蒙特卡洛EM（MC-EM）结合潜在效用抽样，实现在RUM中可扩展且精确的参数估计。
• 支持在包含正态、Gumbel、拉普拉斯和柯西分布效用的多种RUM之间进行模型选择。
• 为涉及噪声或部分偏好信息的排名聚合等社会选择应用提供实用框架。

提出的方法

• 将RUMs建模为：每个备选项的效用独立地从指数族分布中抽取，其参数由位置（均值）θj决定。
• 应用EM算法，将潜在效用X作为未观测变量，通过E步（完整数据对数似然的条件期望）和M步（最大化期望对数似然）迭代估计θ。
• 使用带截断的Gibbs抽样近似E步：对每个选民i及其排名πi中的每个位置j，从给定邻近效用的截断指数族分布中抽样xπi(j)。
• 采用Rao-Blackwellization方法，通过计算条件期望E[T(xij) | x−j, πi, θt]而非依赖原始样本，以降低蒙特卡洛估计的方差。
• 通过在N个Gibbs样本和每个步骤M个内部样本上的蒙特卡洛平均，近似充分统计量的期望Sj^i,t+1。
• 推导出理论条件（定理1和定理2），确保在位置族RUM中对数似然函数为凹函数且全局最大值集合有界。

实验结果

研究问题

• RQ1 在何种分布族条件下，RUM中的对数似然函数为凹函数且全局最大值集合有界？
• RQ2 结合Rao-Blackwellized Gibbs抽样的MC-EM能否在Plackett-Luce模型之外的一般RUM中实现可扩展且精确的推理？
• RQ3 所提出的MC-EM框架在真实世界和模拟的排名数据上的收敛性和准确性表现如何？
• RQ4 该框架能否在社会选择应用中支持不同RUM（如正态、Gumbel、拉普拉斯）之间的模型选择？
• RQ5 截断与条件抽样对E步近似效率与方差的影响如何？

主要发现

• 建立了理论条件，确保在位置族RUM中对数似然函数为凹函数且全局最大值集合有界，从而保证基于EM的推理收敛。
• 结合Rao-Blackwellized Gibbs抽样的MC-EM算法可在一般RUM中实现高效且精确的参数估计，包括具有正态、Gumbel、拉普拉斯和柯西分布效用的模型。
• 该方法在真实世界和模拟数据集上均表现出可扩展性，证明了其在社会选择应用中的鲁棒性与实用性。
• 该框架支持最大似然估计（MLE），并可扩展至最大后验估计（MAP）（通过引入先验），尽管在社会选择场景中先验通常缺乏充分依据。
• 在Gibbs抽样中使用截断的指数族分布可确保在排名约束下有效抽样，且Rao-Blackwellization显著降低了估计量的方差。
• 实证结果证实了该方法的可扩展性与有效性，表现出稳定的收敛性，并在多种RUM中准确恢复了真实效用参数。