[论文解读] Deep Neural Networks for Choice Analysis: Extracting Complete Economic Information for Interpretation

Shenhao Wang, Qingyi Wang+1 more|arXiv (Cornell University)|Dec 11, 2018

Economic and Environmental Valuation参考文献 119被引用 5

一句话总结

该论文表明，深度神经网络（DNNs）可以提取与经典离散选择模型（DCMs）相当的完整经济信息，如选择概率、弹性以及时间价值等。通过利用输入梯度和集成方法，DNNs 揭示了灵活的行为模式，但其可靠性取决于大规模样本、超参数调优以及正则化技术，以缓解敏感性、非识别性和局部不规则性等问题。

ABSTRACT

While deep neural networks (DNNs) have been increasingly applied to choice analysis showing high predictive power, it is unclear to what extent researchers can interpret economic information from DNNs. This paper demonstrates that DNNs can provide economic information as complete as classical discrete choice models (DCMs). The economic information includes choice predictions, choice probabilities, market shares, substitution patterns of alternatives, social welfare, probability derivatives, elasticities, marginal rates of substitution (MRS), and heterogeneous values of time (VOT). Unlike DCMs, DNNs can automatically learn the utility function and reveal behavioral patterns that are not prespecified by domain experts. However, the economic information obtained from DNNs can be unreliable because of the three challenges associated with the automatic learning capacity: high sensitivity to hyperparameters, model non-identification, and local irregularity. To demonstrate the strength and challenges of DNNs, we estimated the DNNs using a stated preference survey, extracted the full list of economic information from the DNNs, and compared them with those from the DCMs. We found that the economic information either aggregated over trainings or population is more reliable than the disaggregate information of the individual observations or trainings, and that even simple hyperparameter searching can significantly improve the reliability of the economic information extracted from the DNNs. Future studies should investigate other regularizations and DNN architectures, better optimization algorithms, and robust DNN training methods to address DNNs' three challenges, to provide more reliable economic information from DNN-based choice models.

研究动机与目标

• 证明 DNNs 可以提取与经典离散选择模型（DCMs）相同的全面经济信息集合。
• 识别并分析在解释 DNNs 以获取经济信息时面临的三个关键挑战：超参数敏感性、模型非识别性以及局部不规则性。
• 评估不同数据规模和模型配置下，基于 DNN 的经济指标的可靠性。
• 为提升基于 DNN 的选择建模中的可解释性与可靠性，提供实用建议。

提出的方法

• 通过选择概率函数的输入梯度，从 DNNs 中提取经济信息，实现导数、弹性以及替代边际率的计算。
• 应用模型集成与重复训练，聚合结果以降低单个模型输出的方差。
• 采用超参数搜索与正则化技术（如 Dropout、早停法）以提升模型稳定性与泛化能力。
• 在两个真实世界数据集上将 DNN 输出与经典 MNL 模型进行比较：新加坡一项陈述偏好调查数据与伦敦一项揭示偏好数据集。
• 通过个体与模型之间的信息聚合，提升个体层面经济指标的可靠性。
• 通过与 DCM 基准比较并评估所揭示模式的行为合理性，验证结果的可靠性。

实验结果

研究问题

• RQ1 深度神经网络能否提取与经典离散选择模型相当的完整经济信息集合，如选择概率、弹性以及时间价值？
• RQ2 超参数敏感性、模型非识别性以及局部不规则性如何影响从 DNNs 中提取的经济信息的可靠性？
• RQ3 大规模样本、超参数调优、模型集成与正则化在多大程度上提升了基于 DNN 的经济指标的可靠性？
• RQ4 DNNs 所揭示的行为模式（如正向价格弹性）是否具有经济合理性，还是模型复杂度与小样本导致的伪影？

主要发现

• DNNs 可以提取完整的经济信息，包括选择概率、弹性、替代边际率以及异质性时间价值，其表现与经典 DCMs 相当。
• 对多次训练或人群层面进行聚合后的经济信息，其可靠性高于单个模型或观测值的个体层面结果。
• 较小的样本量会加剧三大核心挑战：超参数敏感性、非识别性与局部不规则性，导致不可靠或不合理的经济行为模式。
• 大规模样本、超参数搜索、模型集成与有效的正则化显著提升了基于 DNN 的经济指标的可靠性。
• 在小样本条件下，DNNs 揭示出非单调且反直觉的模式（如正向价格弹性），表明这些现象更可能是模型伪影而非真实行为偏好。
• 本研究识别出未来研究的关键需求：最优样本量、先进正则化方法、稳健训练方法以及改进的优化算法，以应对选择建模中 DNN 可解释性的挑战。