[论文解读] Machine Learning Meets Microeconomics: The Case of Decision Trees and Discrete Choice

Timothy Brathwaite, Akshay Vij+1 more|arXiv (Cornell University)|Nov 13, 2017

Economic and Environmental ValuationEconomics, Econometrics and Finance被引用 20

一句话总结

本文提出一种贝叶斯模型树，将决策树与离散选择理论相结合，将决策树视为非补偿性的‘析取合取’规则，并嵌入到两阶段半补偿模型中。在旧金山湾区的自行车出行方式选择研究中，该模型在近似真实数据生成过程方面优于多项式logit模型超过1,000倍，能够捕捉到自行车基础设施的边际收益递减效应以及情境依赖的行为异质性。

ABSTRACT

We provide a microeconomic framework for decision trees: a popular machine learning method. Specifically, we show how decision trees represent a non-compensatory decision protocol known as disjunctions-of-conjunctions and how this protocol generalizes many of the non-compensatory rules used in the discrete choice literature so far. Additionally, we show how existing decision tree variants address many economic concerns that choice modelers might have. Beyond theoretical interpretations, we contribute to the existing literature of two-stage, semi-compensatory modeling and to the existing decision tree literature. In particular, we formulate the first bayesian model tree, thereby allowing for uncertainty in the estimated non-compensatory rules as well as for context-dependent preference heterogeneity in one's second-stage choice model. Using an application of bicycle mode choice in the San Francisco Bay Area, we estimate our bayesian model tree, and we find that it is over 1,000 times more likely to be closer to the true data-generating process than a multinomial logit model (MNL). Qualitatively, our bayesian model tree automatically finds the effect of bicycle infrastructure investment to be moderated by travel distance, socio-demographics and topography, and our model identifies diminishing returns from bike lane investments. These qualitative differences lead to bayesian model tree forecasts that directly align with the observed bicycle mode shares in regions with abundant bicycle infrastructure such as Davis, CA and the Netherlands. In comparison, MNL's forecasts are overly optimistic.

研究动机与目标

• 通过为决策树提供经济学解释，弥合机器学习与微观经济学之间的鸿沟。
• 解决离散选择建模者因缺乏理论基础而对采用机器学习方法持保留态度的问题。
• 开发一种半补偿性的两阶段模型，结合非补偿性决策规则与补偿性选择建模。
• 利用贝叶斯框架量化非补偿性规则和偏好异质性中的不确定性。
• 基于旧金山湾区的自行车出行方式选择数据，对模型进行实证验证。

提出的方法

• 将决策树建模为一种称为‘析取合取’的非补偿性决策协议，表示如‘若（自行车道占比 > 30%）或（出行距离 < 2 km），则考虑骑行’之类的规则。
• 提出两阶段决策过程：第一阶段，决策树基于非补偿性规则定义选择集；第二阶段，补偿性离散选择模型（如MNL）从该集合中选择最优选项。
• 开发首个贝叶斯模型树，允许对非补偿性规则和选择模型参数的不确定性进行量化。
• 使用马尔可夫链蒙特卡洛（MCMC）方法估计决策树结构和选择模型参数的后验分布。
• 通过允许树分裂和选择模型参数随个体层面协变量变化，整合情境依赖的偏好异质性。
• 采用分层先验结构，对非补偿性规则的不确定性进行建模，并对模型复杂度进行正则化。

实验结果

研究问题

• RQ1 如何通过微观经济决策理论的视角解释决策树？
• RQ2 结合决策树与离散选择模型的两阶段半补偿模型，能否提升预测准确性和政策相关性？
• RQ3 非补偿性规则中的不确定性如何影响预测可靠性与模型稳健性？
• RQ4 该模型揭示了哪些传统补偿性模型（如MNL）所忽略的行为洞察？
• RQ5 贝叶斯模型树在多大程度上优于多项式logit模型，以捕捉现实世界中的出行方式选择行为？

主要发现

• 基于贝叶斯因子 99.01 / 0.09 ≈ 1,100，贝叶斯模型树比多项式logit（MNL）模型更接近真实数据生成过程约1,100倍。
• 该模型在高基础设施区域（如加州戴维斯市和荷兰）能准确预测自行车出行份额，而MNL模型则产生过度乐观的预测。
• 该模型揭示了对街道路段自行车道的投资存在边际收益递减效应，这是MNL模型所缺失的关键洞察。
• 该模型识别出出行距离、与儿童相关的压力以及地形因素会削弱自行车基础设施的有效性，即使车道可用性很高，个体也可能选择不骑行。
• 贝叶斯模型树捕捉到了情境依赖的偏好异质性，表明非补偿性规则会因社会人口特征和环境条件而异。
• 该模型的非补偿性结构确保了自行车道比例不会补偿其他变量，固定 β_bike-lanes = 0，从而实现预测不确定性的稳定。