[论文解读] Discovering Context Effects from Raw Choice Data

Arjun Seshadri, Alexander Peysakhovich+1 more|arXiv (Cornell University)|Feb 8, 2019

Economic and Environmental Valuation被引用 11

一句话总结

本文提出上下文相关随机效用模型（CDM），作为多项对数（MNL）模型的扩展，通过建模成对项目交互来捕捉选择集效应。该模型支持最优最大似然推断，可解释地检测IIA违反情况，并通过ℓ₂正则化实现稳健性能，在合成数据和真实世界数据集上均表现出色，验证了CDM在存在上下文效应时显著优于MNL。

ABSTRACT

Many applications in preference learning assume that decisions come from the maximization of a stable utility function. Yet a large experimental literature shows that individual choices and judgements can be affected by "irrelevant" aspects of the context in which they are made. An important class of such contexts is the composition of the choice set. In this work, our goal is to discover such choice set effects from raw choice data. We introduce an extension of the Multinomial Logit (MNL) model, called the context dependent random utility model (CDM), which allows for a particular class of choice set effects. We show that the CDM can be thought of as a second-order approximation to a general choice system, can be inferred optimally using maximum likelihood and, importantly, is easily interpretable. We apply the CDM to both real and simulated choice data to perform principled exploratory analyses for the presence of choice set effects.

研究动机与目标

• 为解决标准随机效用模型假设无关选项独立性（IIA）的局限性，而该假设在现实选择行为中常不成立。
• 开发一种能捕捉有意义的上下文效应——尤其是选择集中成对交互——的模型，同时避免过度参数化。
• 通过嵌套模型假设检验，实现原则化、统计上可靠的IIA违反检测。
• 通过ℓ₂正则化确保模型可识别性与稳定推断，尤其在稀疏或不平衡数据设置下。
• 为大规模项目集合提供可扩展的低秩CDM变体，以应对完整成对比较成本过高的问题。

提出的方法

• 通过引入成对交互矩阵U扩展MNL模型，其中u_xy表示项目y对项目x选择概率的影响。
• 将选择概率建模为受成对上下文效应调整的项目效用函数：P(x|S) ∝ exp(∑_{y∈S\{x}} u_xy)。
• 使用最大似然估计从原始选择数据中学习U矩阵，通过ℓ₂正则化确保可识别性。
• 采用嵌套似然比检验比较CDM与MNL模型，检验给定数据集中IIA是否成立。
• 通过奇异值分解对U进行低秩近似，以减少参数量并提升可扩展性。
• 基于比较图结构与样本量，推导估计误差的有限样本收敛保证。

实验结果

研究问题

• RQ1 是否能通过原则化、可解释的模型，在不假设IIA的前提下，从原始选择数据中检测到上下文效应？
• RQ2 CDM在有限样本下相较于标准模型，检测IIA违反的能力如何？
• RQ3 当数据稀疏或不平衡时，ℓ₂正则化在确保模型可识别性方面发挥何种作用？
• RQ4 CDM能否有效建模复杂选择行为，如三元组比较任务中的行为？
• RQ5 在项目数量众多但比较数据有限的大规模场景下，低秩CDM的性能如何？

主要发现

• 当IIA成立时，CDM与MNL之间的嵌套似然比检验在有限样本中正确地未能拒绝原假设，第一类错误率接近5%。
• 当IIA被违反时，基于CDM的检验在中等规模数据集中也几乎总是拒绝原假设，展现出高统计功效。
• 相比之下，基于通用选择系统与MNL的嵌套检验即使在IIA成立时也过度拒绝原假设，凸显CDM在推断可靠性方面的优势。
• CDM在满足IIA的数据上拟合效果与MNL相当，同时在存在上下文效应时能有效捕捉这些效应，展现出模型灵活性。
• ℓ₂正则化在成对比较设置中唯一确保了CDM的可识别性，而该模型在无正则化时通常处于欠定状态。
• 低秩CDM实现了大规模项目集合的可扩展建模，在显著少于全秩模型参数的情况下仍保持强大性能。