[論文レビュー] Deep Learning for Choice Modeling

Zhongze Cai, Hanzhao Wang+2 more|arXiv (Cornell University)|Aug 19, 2022

Economic and Environmental Valuation被引用数 6

ひとこと要約

本稿では、特徴なしおよび特徴ありの両設定において、深層学習に基づく選択モデルを提案する。ニューラルネットワークを用いて、内在的効用とアソートメント効果を同時に捉える。提案された Gated-Assort-Net および Res-Assort-Net アーキテクチャは、従来の MLE、EM、LP に基づく手法よりも優れたサンプル効率および計算効率を達成し、複雑なアソートメント依存性を示す現実世界のデータを扱う際の選択モデルの回復において優れている。

ABSTRACT

Choice modeling has been a central topic in the study of individual preference or utility across many fields including economics, marketing, operations research, and psychology. While the vast majority of the literature on choice models has been devoted to the analytical properties that lead to managerial and policy-making insights, the existing methods to learn a choice model from empirical data are often either computationally intractable or sample inefficient. In this paper, we develop deep learning-based choice models under two settings of choice modeling: (i) feature-free and (ii) feature-based. Our model captures both the intrinsic utility for each candidate choice and the effect that the assortment has on the choice probability. Synthetic and real data experiments demonstrate the performances of proposed models in terms of the recovery of the existing choice models, sample complexity, assortment effect, architecture design, and model interpretation.

研究の動機と目的

• 既存の選択モデル学習手法の限界に対処する。これらはしばしば計算的に非現実的またはサンプル効率が悪い。
• 個々の製品の内在的効用と、アソートメント構成が選択確率に与える影響を同時に学習する深層学習モデルを開発する。
• 製品特徴や顧客特徴が存在しない状況を含め、特徴なしおよび特徴ありの両設定において、効果的な学習を可能にする。
• 高い予測性能を維持しつつ、モデルの解釈可能性とキャリブレーションを向上させる。
• 単一のニューラルネットワークアーキテクチャが、MNL から非パラメトリックおよびマルコフ連鎖モデルに至るまで多様な選択モデルを高精度で回復できることを示す。

提案手法

• Gated-Assort-Net および Res-Assort-Net と呼ばれる、個々の製品効用とアソートメントレベルの相互作用をモデル化することを目的とした、2つの新規ニューラルネットワークアーキテクチャを提案する。
• 全結合層を用いて入力アソートメントを処理し、非線形な効用相互作用を捉えることができる学習可能な変換を適用する。
• ゲート機構とリサidual接続を組み込むことで、訓練の安定性を向上させ、アソートメント効果の表現学習を改善する。
• エンド・ツー・エンドの訓練のため、交差エントロピー損失を用い、多様なアソートメント構成において正確な選択確率予測を最適化する。
• モデルのキャリブレーション性能を評価するために、アダプティブ・ビニングと ACE（アダプティブ期待キャリブレーション誤差）を適用する。
• 一般化を検証するため、特徴あり・なしの両方の合成データおよび実世界のデータセット（例：SwissMetro、Expedia、ホテルデータ）を用いてモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 単一の深層学習アーキテクチャが、MNL などの単純な（例：MNL）およびMCCM や NP などの複雑な（例：MCCM、NP）選択モデルを効果的に回復できるか？
• RQ2 提案手法は、古典的手法（MLE、EM、LP）と比較して、サンプル効率および計算スケーラビリティの面でどの程度優れているか？
• RQ3 製品特徴や顧客特徴に依存せずに、提供された製品の集合が選択確率に与える影響（アソートメント効果）をどの程度正確に捉えることができるか？
• RQ4 限られたまたは特徴が存在しない実世界のデータに対しても、モデルの一般化性能はどの程度高いか？
• RQ5 従来のアプローチと比較して、深層学習ベースの選択モデルのキャリブレーション性能はどの程度か？

主な発見

• Gated-Assort-Net(f) および Res-Assort-Net(f) は、合成データおよび実データの両方において、MLE、EM、LP に基づく手法よりも低いサンプル外交差エントロピー損失を達成した。
• SwissMetro および Expedia データセットでは、Gated-Assort-Net(f) の ACE キャリブレーション誤差はそれぞれ 4.67×10⁻² および 0.39 であり、MNL(f)-MLE および他のベースラインを上回った。
• 特徴なしのホテルデータでは、Gated-Assort-Net および Res-Assort-Net は、より大きなサンプルサイズを活かせるため、Hotel 1 および Hotel 3 で MCCM-EM を上回った。
• モデルは優れた一般化性能を示した。単一のアーキテクチャが、MNL、MCCM、非パラメトリック選択モデルを高精度で回復できた。
• モデルは良好なキャリブレーション性能を維持しており、大多数のデータセットで ACE 誤差が 0.5 未満であった。これは信頼性の高い確率的予測を示している。
• サンプルサイズが小さい場合（例：Hotel 2、4、5）、MNL-MLE や MCCM-EM などの単純なモデルがより好ましいことが示された。これは、深層学習の利点を発揮するには十分なデータが必要であることを示している。