[論文レビュー] Machine Learning Meets Microeconomics: The Case of Decision Trees and Discrete Choice

Timothy Brathwaite, Akshay Vij+1 more|arXiv (Cornell University)|Nov 13, 2017

Economic and Environmental Valuation被引用数 20

ひとこと要約

本稿では、意思決定木と離散的選択理論を統合したベイジアンモデルツリーを提案する。意思決定木を非補償的「論理和の論理積」ルールとして定式化し、2段階の準補償的モデルに統合する。バーチャルの自転車移動選択研究において、真のデータ生成過程に近づく能力が、マルチノミアルロジット（MNL）モデルの1,000倍以上優れていることを示し、自転車インフラの限界効果の減少と、文脈依存的な行動の多様性を捉えている。

ABSTRACT

We provide a microeconomic framework for decision trees: a popular machine learning method. Specifically, we show how decision trees represent a non-compensatory decision protocol known as disjunctions-of-conjunctions and how this protocol generalizes many of the non-compensatory rules used in the discrete choice literature so far. Additionally, we show how existing decision tree variants address many economic concerns that choice modelers might have. Beyond theoretical interpretations, we contribute to the existing literature of two-stage, semi-compensatory modeling and to the existing decision tree literature. In particular, we formulate the first bayesian model tree, thereby allowing for uncertainty in the estimated non-compensatory rules as well as for context-dependent preference heterogeneity in one's second-stage choice model. Using an application of bicycle mode choice in the San Francisco Bay Area, we estimate our bayesian model tree, and we find that it is over 1,000 times more likely to be closer to the true data-generating process than a multinomial logit model (MNL). Qualitatively, our bayesian model tree automatically finds the effect of bicycle infrastructure investment to be moderated by travel distance, socio-demographics and topography, and our model identifies diminishing returns from bike lane investments. These qualitative differences lead to bayesian model tree forecasts that directly align with the observed bicycle mode shares in regions with abundant bicycle infrastructure such as Davis, CA and the Netherlands. In comparison, MNL's forecasts are overly optimistic.

研究の動機と目的

• 機械学習とミクロ経済学の間のギャップを埋めるために、意思決定木に経済的解釈を提供すること。
• 理論的根拠の欠如により、離散的選択モデラーが機械学習手法を採用することをためらう問題に対処すること。
• 非補償的意思決定ルールと補償的選択モデリングを組み合わせた、準補償的で2段階のモデルを開発すること。
• ベイジアンフレームワークを用いて、非補償的ルールと好みの多様性の不確実性を定量化すること。
• サンフランシスコ・ベイエリアの自転車移動選択データを用いて、モデルの実証的妥当性を検証すること。

提案手法

• 意思決定木を非補償的意思決定プロトコルとみなす「論理和の論理積」に定式化し、'自転車レーンの長さが30％以上' または '移動距離が2km未満' の場合に自転車移動を検討するといったルールを表現する。
• 2段階意思決定プロセスを提案する：第1段階で意思決定木が非補償的ルールに基づき選択肢集合を定義し、第2段階で補償的離散的選択モデル（例：MNL）が集合内の代替案から選択する。
• 非補償的ルールと選択モデルのパラメータの両方における不確実性を定量化可能な、最初のベイジアンモデルツリーを開発する。
• マルコフ連鎖モンテカルロ（MCMC）法を用いて、意思決定木構造と選択モデルパラメータの事後分布を推定する。
• 個々の個人の属性変数に応じて木の分割と選択モデルパラメータを変化させることで、文脈依存的な好みの多様性を組み込む。
• 階層的事前分布構造を用いて、非補償的ルールの不確実性をモデル化し、モデルの複雑さを正則化する。

実験結果

リサーチクエスチョン

• RQ1 意思決定木はどのようにミクロ経済学的意思決定理論の視点から解釈できるか？
• RQ2 意思決定木と離散的選択モデルを組み合わせた2段階準補償的モデルは、予測精度と政策的関連性を向上させられるか？
• RQ3 非補償的ルールの不確実性は、予測の信頼性とモデルの頑健性にどのように影響するか？
• RQ4 従来の補償的モデル（例：MNL）が欠いている行動的インサイトは何か？
• RQ5 ベイジアンモデルツリーは、現実の移動選択行動を捉える上で、マルチノミアルロジット（MNL）モデルをどの程度上回るか？

主な発見

• ベイジアンモデルツリーは、ベイズ因子が 99.01 / 0.09 ≈ 1,100 であるため、真のデータ生成過程にMNLモデルよりも約1,100倍近い。
• MNLモデルが楽観的すぎる予測を出すのに対し、本モデルはデイビス（カリフォルニア州）やオランダのようなインフラ整備が進んだ地域で自転車移動の割合を正確に予測する。
• 本モデルは、路上自転車レーンへの投資が限界効果の減少を示すことを明らかにしたが、これはMNLモデルには欠落していた重要な知見である。
• 本モデルは、移動距離、子供関連のプレッシャー、地形的要因が、自転車レーンの可用性が高くても、人々が自転車利用を避ける要因であることを特定した。
• ベイジアンモデルツリーは文脈依存的な好みの多様性を捉えており、非補償的ルールが社会的・文化的要因や環境条件によって異なることを示している。
• 本モデルの非補償的構造により、自転車レーンの割合が他の変数を補償せず、β_bike-lanes = 0 として固定され、予測の不確実性が安定する。