[论文解读] Learning Mixed Multinomial Logit Model from Ordinal Data

Sewoong Oh, Devavrat Shah|arXiv (Cornell University)|Nov 1, 2014

Statistical Methods and Bayesian Inference参考文献 26被引用 14

一句话总结

该论文提出了一种计算和统计上高效的算法，用于从部分有序偏好数据（如成对比较）中学习 r 个多项式逻辑（MNL）模型的混合。该方法利用张量分解恢复各分量的成对边际概率，随后使用 RankCentrality 进行参数估计，在非一致性条件下实现了 $ r^{3.5}n^3(\text{log } n)^4 $ 的样本复杂度，且满足 $ r \ll n^{2/7} $。

ABSTRACT

Motivated by generating personalized recommendations using ordinal (or preference) data, we study the question of learning a mixture of MultiNomial Logit (MNL) model, a parameterized class of distributions over permutations, from partial ordinal or preference data (e.g. pair-wise comparisons). Despite its long standing importance across disciplines including social choice, operations research and revenue management, little is known about this question. In case of single MNL models (no mixture), computationally and statistically tractable learning from pair-wise comparisons is feasible. However, even learning mixture with two MNL components is infeasible in general. Given this state of affairs, we seek conditions under which it is feasible to learn the mixture model in both computationally and statistically efficient manner. We present a sufficient condition as well as an efficient algorithm for learning mixed MNL models from partial preferences/comparisons data. In particular, a mixture of $r$ MNL components over $n$ objects can be learnt using samples whose size scales polynomially in $n$ and $r$ (concretely, $r^{3.5}n^3(log n)^4$, with $r\ll n^{2/7}$ when the model parameters are sufficiently incoherent). The algorithm has two phases: first, learn the pair-wise marginals for each component using tensor decomposition; second, learn the model parameters for each component using Rank Centrality introduced by Negahban et al. In the process of proving these results, we obtain a generalization of existing analysis for tensor decomposition to a more realistic regime where only partial information about each sample is available.

研究动机与目标

• 解决从部分偏好数据（如成对比较）中学习 MNL 模型混合的挑战。
• 识别在一般混合模型难以处理的情况下，学习在计算和统计上均可行的条件。
• 开发一种高效的两阶段算法，从不完整的偏好观测中恢复各分量的特定参数。
• 将张量分解理论推广至每一样本存在部分或噪声观测的场景。
• 建立在 n 和 r 上呈多项式增长的样本复杂度边界，从而实现混合 MNL 模型的实际学习。

提出的方法

• 使用张量分解，从未完全的偏好数据中估计每个 MNL 分量的成对边际概率。
• 应用 RankCentrality，利用恢复出的成对边际概率估计每个分量的 MNL 参数。
• 将混合模型建模为潜变量模型，其中每个分量对应一个具有权重 $ \mathbf{w}^{(a)} $ 和混合权重 $ q_a $ 的独立 MNL 分布。
• 引入谱间隙分析，以界定 RankCentrality 步骤的收敛性，将其与模型参数的非一致性联系起来。
• 通过将转移矩阵的谱性质与底层模型结构关联，建立理论保证。
• 使用 McDiarmid 不等式和集中不等式，控制在随机图模型下成对边际估计的误差。

实验结果

研究问题

• RQ1 在何种条件下，可以从部分有序偏好数据中高效学习 r 个 MNL 模型的混合？
• RQ2 张量分解能否扩展至处理混合模型设定中每一样本的不完整或部分观测？
• RQ3 确保混合模型参数一致估计所需的最小样本量是多少？
• RQ4 参数非一致性如何影响混合 MNL 模型学习的可行性与样本复杂度？
• RQ5 张量分解与 RankCentrality 的结合能否在此背景下实现最优的统计与计算效率？

主要发现

• 所提出的算法在 $ r \ll n^{2/7} $ 的条件下，使用 $ O(r^{3.5}n^3(\sum n)^4) $ 个样本，学习 n 个对象上的 r 个 MNL 分量混合模型。
• 该算法通过将分量边际估计（通过张量分解）与参数恢复（通过 RankCentrality）解耦，实现了统计与计算上的高效性。
• 该方法将张量分解理论推广至部分观测场景，使从不完整偏好数据中实现稳健估计成为可能。
• 通过非一致性条件界定了 RankCentrality 所用转移矩阵的谱间隙，确保收敛至真实参数。
• 证明了 MNL 参数的非一致性条件在多项式样本复杂度下是必要且充分的，且通过集中不等式导出了显式边界。
• 在 Erdös-Rényi 随机图模型中的实证验证表明，奇异值与非一致性均得到良好控制，支持理论边界。