[論文レビュー] A Neural Network Based Choice Model for Assortment Optimization

Hanzhao Wang, Zhongze Cai+2 more|arXiv (Cornell University)|Aug 10, 2023

Supply Chain and Inventory ManagementBusiness, Management and Accounting被引用数 3

ひとこと要約

本稿では、標準モデルとは異なる行動を示す場合でさえ、多様な文脈において顧客の購入確率を正確に予測できる統合型ニューラルネットワークベースの選択モデルを提案する。コンactなアーキテクチャと混合整数プログラミング（MIP）定式化を統合することで、効率的なアソート最適化が可能となり、特に複雑または非合理的な選択行動が見られる状況でも、従来のモデルを上回る性能を発揮する。また、データのシフトに強く、約100製品までスケーラブルである。

ABSTRACT

Discrete-choice models are used in economics, marketing and revenue management to predict customer purchase probabilities, say as a function of prices and other features of the offered assortment. While they have been shown to be expressive, capturing customer heterogeneity and behaviour, they are also hard to estimate, often based on many unobservables like utilities; and moreover, they still fail to capture many salient features of customer behaviour. A natural question then, given their success in other contexts, is if neural networks can eliminate the necessity of carefully building a context-dependent customer behaviour model and hand-coding and tuning the estimation. It is unclear however how one would incorporate assortment effects into such a neural network, and also how one would optimize the assortment with such a black-box generative model of choice probabilities. In this paper we investigate first whether a single neural network architecture can predict purchase probabilities for datasets from various contexts and generated under various models and assumptions. Next, we develop an assortment optimization formulation that is solvable by off-the-shelf integer programming solvers. We compare against a variety of benchmark discrete-choice models on simulated as well as real-world datasets, developing training tricks along the way to make the neural network prediction and subsequent optimization robust and comparable in performance to the alternates.

研究の動機と目的

• 複数の業界およびデータ文脈において、多様な顧客選択行動をモデル化できる単一のニューラルネットワークアーキテクチャの開発。
• ブラックボックス型ニューラルネットワークを用いた選択予測におけるアソート最適化の課題に対処し、計算上の tractability（取り扱いやすさ）を確保すること。
• 熟練した専門家による微調整が最小限で済み、既存の離散的選択モデルを凌駆または補完できる、強固で汎用的な選択モデルの構築。
• 合成データ（既知の選択モデルから生成）と、複雑で非合理的な行動を示す実世界データの両方において、モデルの性能を評価すること。

提案手法

• モデルはアソートのバイナリ表現を用い、順方向型ニューラルネットワークにより選択確率を学習する。特徴ベースの設定では、製品および顧客の特徴に対して別々の特徴エンコーダーを設ける。
• アソート最適化問題を解くために、混合整数プログラミング（MIP）定式化を構築し、訓練済みニューラルネットワーク上で正確な収益最大化を実現する。
• 観測データから選択確率を予測するために、標準的なバックプロパゲーションと交差エントロピー損失関数を用いてネットワークを訓練する。
• 独自の訓練戦略「ベストのベストを学ぶ」：ベンチマークのうち最も性能の良い従来モデルを選出し、そのモデルから生成された合成データを用いてニューラルモデルを再訓練・微調整することで性能を向上させる。
• 一般化性能の向上を図るため、データ拡張およびファインチューニング技術を組み込む。特に、訓練データが限られている場合に有効である。
• 多数の選択モデルタイプ（MNL、マルコフ連鎖、ミックスド・ロジット、非パラメトリック）および実世界データ（公開のホテルデータセットも含む）を用いた、広範なシミュレーションによるモデルの評価。

実験結果

リサーチクエスチョン

• RQ1 事前に選択メカニズムを知らない状況下でも、MNL、マルコフ連鎖、ミックスド・ロジットを含む多様な既存の離散的選択モデルを、単一のニューラルネットワークアーキテクチャが的確に回復・一般化できるか？
• RQ2 顧客行動が合理的な効用最大化から逸脱する場合、ニューラルネットワークベースの選択モデルは従来モデルに比べて、アソート最適化においてどの程度優れた性能を示すか？
• RQ3 アソートや顧客行動における分布シフトが生じた場合、ニューラルモデルはどの程度の強靭性（ロバストネス）を示すか？
• RQ4 ハイブリッドな訓練および選択戦略を用いることで、ニューラルモデルが既存の選択モデルを凌駆または補完するメタモデルとして機能できるか？
• RQ5 提案されたMIPベースの最適化フレームワークのスケーラビリティの限界は何か？また、容量制約下でヒューリスティック手法と比較してどうなるか？

主な発見

• 十分なデータでトレーニングされた場合、単一のニューラルネットワークアーキテクチャは、MNL、マルコフ連鎖、ミックスド・ロジットを含む幅広い既存の選択モデルを効果的に回復・一般化できる。
• 合成シミュレーションにおいて、真の行動が複雑または非合理的な場合、ニューラル選択モデルは従来モデルを著しく上回り、選択確率の予測性能を発揮する。
• アソートにおける分布シフトに対しても、モデルは高い予測精度を維持する強靭性を示し、トレーニングデータと異なるテストデータに対しても高い性能を発揮する。
• MIPベースの最適化フレームワークにより、正確な収益最大化アソート選択が可能であり、このアプローチと組み合わせたニューラルモデルは、特に容量制約下でヒューリスティック最適化手法を上回る性能を示す。
• 提案された「ベストのベストを学ぶ」訓練戦略により、最も性能の良い従来モデルをデータ生成源として用い、ニューラルネットワークの事前学習および微調整を実施することで、モデル性能が向上する。
• MIP定式化のおかげで、本手法は約100製品まで効果的にスケーリング可能であるが、この限界を超えるスケーラビリティを拡張するためのさらなる研究が必要である。