[論文レビュー] Deep Neural Networks for Choice Analysis: Extracting Complete Economic Information for Interpretation

Shenhao Wang, Qingyi Wang+1 more|arXiv (Cornell University)|Dec 11, 2018

Economic and Environmental Valuation参考文献 119被引用数 5

ひとこと要約

この論文は、深層ニューラルネットワーク（DNNs）が、古典的離散的選択モデル（DCMs）と同等の包括的経済情報——選択確率、価格弾力率、時間の価値など——を抽出できることを示している。入力勾配とアンサンブル手法を活用することで、DNNsは柔軟な行動パターンを明らかにするが、感度、非同定性、局所的不規則性の問題を軽減するため、大規模なサンプルサイズ、ハイパーパrameterのチューニング、正則化に依存する。

ABSTRACT

While deep neural networks (DNNs) have been increasingly applied to choice analysis showing high predictive power, it is unclear to what extent researchers can interpret economic information from DNNs. This paper demonstrates that DNNs can provide economic information as complete as classical discrete choice models (DCMs). The economic information includes choice predictions, choice probabilities, market shares, substitution patterns of alternatives, social welfare, probability derivatives, elasticities, marginal rates of substitution (MRS), and heterogeneous values of time (VOT). Unlike DCMs, DNNs can automatically learn the utility function and reveal behavioral patterns that are not prespecified by domain experts. However, the economic information obtained from DNNs can be unreliable because of the three challenges associated with the automatic learning capacity: high sensitivity to hyperparameters, model non-identification, and local irregularity. To demonstrate the strength and challenges of DNNs, we estimated the DNNs using a stated preference survey, extracted the full list of economic information from the DNNs, and compared them with those from the DCMs. We found that the economic information either aggregated over trainings or population is more reliable than the disaggregate information of the individual observations or trainings, and that even simple hyperparameter searching can significantly improve the reliability of the economic information extracted from the DNNs. Future studies should investigate other regularizations and DNN architectures, better optimization algorithms, and robust DNN training methods to address DNNs' three challenges, to provide more reliable economic information from DNN-based choice models.

研究の動機と目的

• DNNsが古典的離散的選択モデル（DCMs）と同等の包括的経済情報を抽出できることを示すこと。
• DNNの経済情報解釈における3つの主要な課題——ハイパーパrameterの感度、モデルの非同定性、局所的不規則性——を特定・分析すること。
• さまざまなデータサイズおよびモデル設定下でのDNNから得られる経済指標の信頼性を評価すること。
• DNNベースの選択モデルにおける解釈可能性と信頼性を向上させるための実用的提案を提示すること。

提案手法

• 選択確率関数の入力勾配を用いてDNNから経済的情報を抽出し、微分、弾力率、限界代替率の計算を可能にする。
• 複数回の訓練とアンサンブル手法を適用して結果を統合し、個々のモデル出力の分散を低減する。
• ハイパーパrameter探索と正則化技術（例：ドロップアウト、早期停止）を用いてモデルの安定性と一般化性能を向上させる。
• 2つの実世界データセット（シンガポールの提示選好調査とロンドンの顕在選好データセット）を用い、DNNの出力と古典的MNLモデルを比較する。
• 個々の個人およびモデル間の情報統合を通じて、個別レベルの経済指標の信頼性を向上させる。
• DCMベンチマークとの比較と、明らかにされた行動パターンの経済的妥当性の評価により、結果を検証する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、選択確率、弾力率、時間の価値といった包括的経済情報の全範囲を、古典的離散的選択モデルと同等に抽出できるか？
• RQ2 ハイパーパラメータの感度、モデルの非同定性、局所的不規則性は、DNNから抽出された経済情報の信頼性にどのように影響するか？
• RQ3 大規模なサンプルサイズ、ハイパーパラメータのチューニング、モデルアンサンブル、正則化は、DNNベースの経済指標の信頼性をどの程度向上させるか？
• RQ4 DNNが明らかにした行動パターン——例えば正の価格弾力率——は経済的に妥当なものか、それともモデルの複雑さや小規模サンプルに起因するアーチファクトか？

主な発見

• DNNsは、選択確率、弾力率、限界代替率、および異質な時間の価値を含む包括的経済情報を、古典的DCMsと同等に抽出可能である。
• 複数回の訓練または集団全体にわたる経済情報の統合は、個々のモデルや観測単位の個別レベルの結果よりも信頼性が高い。
• 小規模なサンプルサイズでは、ハイパーパラメータの感度、非同定性、局所的不規則性の3つの核心的課題が顕著に強化され、信頼性が低くまたは非現実的な行動パターンを引き起こす。
• 大規模なサンプルサイズ、ハイパーパラメータの探索、モデルアンサンブル、効果的な正則化は、DNNから得られる経済指標の信頼性を顕著に向上させる。
• DNNは、小規模なサンプル下で非単調的かつ直感に反するパターン——例えば正の価格弾力率——を示すが、これは真の行動的好みではなく、モデルのアーチファクトの可能性を示唆している。
• 本研究は、今後の研究における最適なサンプルサイズ、高度な正則化、耐性のあるトレーニング手法、および改善された最適化アルゴリズムの開発が、選択モデルにおけるDNNの解釈可能性課題に対処するために不可欠であると特定している。