[論文レビュー] A network-based transfer learning approach to improve sales forecasting of new products

Tristan Karb, Niklas Kühl+2 more|arXiv (Cornell University)|May 13, 2020

Forecasting Techniques and Applications被引用数 12

ひとこと要約

本論文では、新規食品商品の販売予測を向上させるために、事前学習済みの深層ニューラルネットワークを用いたネットワークベースの転移学習手法を提案する。限られた歴史的データを持つ新製品に対して、類似した既存商品、特に同じ価格クラスタに属する商品から知識を転送することで、予測誤差を顕著に低減し、予測不能なプロモーション時においても性能が向上し、転移学習を用いない標準モデルを上回る。

ABSTRACT

Data-driven methods -- such as machine learning and time series forecasting -- are widely used for sales forecasting in the food retail domain. However, for newly introduced products insufficient training data is available to train accurate models. In this case, human expert systems are implemented to improve prediction performance. Human experts rely on their implicit and explicit domain knowledge and transfer knowledge about historical sales of similar products to forecast new product sales. By applying the concept of Transfer Learning, we propose an analytical approach to transfer knowledge between listed stock products and new products. A network-based Transfer Learning approach for deep neural networks is designed to investigate the efficiency of Transfer Learning in the domain of food sales forecasting. Furthermore, we examine how knowledge can be shared across different products and how to identify the products most suitable for transfer. To test the proposed approach, we conduct a comprehensive case study for a newly introduced product, based on data of an Austrian food retailing company. The experimental results show, that the prediction accuracy of deep neural networks for food sales forecasting can be effectively increased using the proposed approach.

研究の動機と目的

• 食品小売における新製品の販売予測精度が、訓練データが不足しているために低いという課題に対処すること。
• 深層ニューラルネットワークを用いて、専門家による知識の転送を模倣する転移学習フレームワークの開発および評価すること。
• 製品の類似度、特に価格ベースのクラスタリングを用いて、知識転送に最も適したソース製品を特定すること。
• 訓練データが限られている状況でも、プロモーションなどの予期しない出来事に対応できるモデルの頑健性を向上させること。
• オーストリアの食品小売業者を対象とした実世界の事例研究を通じて、本手法の有効性を検証すること。

提案手法

• 類似した既存製品の歴史的販売データに対して深層ニューラルネットワーク（DNN）を事前学習させ、これをソースドメインとして用いる。
• ターゲット製品の限られたデータに対して、事前学習済みDNNの層を微調整することで転移学習を適用し、学習済み特徴を共有する。
• 製品を類似度クラスタ（低価格、中価格、高価格）に分類し、最も転送可能なソースドメインを特定する。
• 異なるソースクラスタで訓練されたDNNを組み合わせたアンサンブルモデルを構築し、時間経過およびプロモーションイベントごとに性能を評価する。
• 複数の評価指標を用いて、転移学習モデル（ENS_TL_models）と転移学習なしのベースラインモデル（w/o_TL）を比較する。
• 特に初期週およびプロモーションイベント中に、一般化性能とバイアス低減の観点から、時間経過に伴うモデル性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 転移学習は、限られたデータでの新製品販売予測における深層ニューラルネットワークの予測精度をどのように向上させるか？
• RQ2 どのソース製品が知識転送に最も適しているか？ また、この文脈において製品の類似度はどのように効果的に測定できるか？
• RQ3 複数のソースモデルを組み合わせたアンサンブル戦略は、単一モデルの転移学習に比べ、予測の頑健性を向上させることができるか？
• RQ4 予期しないプロモーションイベントにおいて、転移学習手法は標準モデルに比べてどのように性能を発揮するか？
• RQ5 特に価格の類似度に基づいてソースドメインを選択することは、知識転送の成功に影響を与えるか？

主な発見

• ENS_TL_modelsは、転移学習なしのベースラインモデル（w/o_TL）に比べ、全体的な予測精度で顕著に優れていた。
• ターゲット製品と同じ価格クラスタ（中価格）のソース製品で訓練されたアンサンブルモデルが、すべての評価期間で最良のパフォーマンスを示した。
• 初期週のプロモーションデータの割合が低い場合、ENS_TL_modelの性能は、プロモーションデータの割合が高いモデルに比べ顕著に劣った。
• 転移学習により予測の分散が低減され、とくに初回のプロモーションイベント時における訓練データのバイアス処理が改善された。
• 転移学習を適用したモデルは、プロモーション週および非プロモーション週の両方で一貫して優れた性能を示し、データのスパarsityおよび出来事の予測不能性に対しても頑健であることがわかった。
• 類似した製品、特に同等の価格帯の製品からの知識転送が、人間の専門家による予測を効果的に補完または代替できることを結果が裏付けた。