[論文レビュー] Forecasting of Non-Stationary Sales Time Series Using Deep Learning

Bohdan M. Pavlyshenko|arXiv (Cornell University)|May 23, 2022

Forecasting Techniques and Applications被引用数 4

ひとこと要約

この論文では、非定常な販売時系列の予測精度を向上させるために、特化したトレンド補正ブロックを備えたディープラーニングモデルを提案する。モデルは販売量と時系列項の重み（正規化された時間 × 予測された重み）を同時に予測し、予測された販売量に加算する。全データセットにおいてRMSEが1076から943に顕著に低下し、特に個々の店舗ではより大きな改善が得られた。

ABSTRACT

The paper describes the deep learning approach for forecasting non-stationary time series with using time trend correction in a neural network model. Along with the layers for predicting sales values, the neural network model includes a subnetwork block for the prediction weight for a time trend term which is added to a predicted sales value. The time trend term is considered as a product of the predicted weight value and normalized time value. The results show that the forecasting accuracy can be essentially improved for non-stationary sales with time trends using the trend correction block in the deep learning model.

研究の動機と目的

• 時間トレンドがモデル化されていないことによる非定常な販売時系列の予測バイアスを是正すること。
• 新製品や新店舗を含む、短期的または極めて非定常な販売データの予測精度を向上させること。
• 各データグループ（例：各店舗）ごとに内在する時間トレンドを動的に学習・補正できるディープラーニングアーキテクチャを開発すること。
• 実世界の販売データを用いて、ディープラーニングフレームワークにおけるトレンド補正の有効性を評価すること。

提案手法

• 時間トレンド項の重みを予測するサブネットワークブロックをディープニューラルネットワークに統合する。
• 時間トレンドを、予測された重みと正規化された時間（例：シーケンス全体で[0,1]にスケーリング）の積としてモデル化する。
• 分類特徴（店舗、顧客数）と数値入力を連結して、メインネットワークに供給する。
• メインの販売予測とトレンド重み予測の両ブランチで、ドロップアウトを用いた正則化を施したReLU活性化関数を備えた全結合層を用いる。
• 損失関数内で予測された販売量と時間トレンド項を統合し、両方のコンポonentを同時に最適化する。
• 数値特徴の標準化と、分類変数のワンホット符号化または埋め込み符号化を用い、PyTorchでモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 販売量と時間トレンド重みを同時に予測するディープラーニングモデルは、非定常な販売時系列の予測精度を向上させることができるか？
• RQ2 標準的なディープラーニングモデルと比較して、特化したトレンド補正ブロックを含めることでRMSE性能にどのような影響があるか？
• RQ3 異なるトレンド方向（例：上行・下行）を示す店舗が存在する非定常データにおいて、トレンド補正ブロックは予測バイアスをどの程度低減するか？
• RQ4 異なる内在的時間トレンドを示す店舗にわたり、モデルは一般化性能を示すか？

主な発見

• トレンド補正ブロックを備えたモデルは、全体のRMSEが943であったのに対し、同ブロックなしのモデルでは1076であった。相対的な改善率は12.3%であった。
• 強い時間トレンドを示す個々の店舗では、改善が顕著であった：RMSEは3699から1753（52.5%の削減）に、2515から572（77.3%の削減）に低下した。
• トレンド補正ブロックは、非定常データにおける予測バイアスを顕著に低減した。特に、店舗間でトレンドの方向が異なる場合に顕著であった。
• 順列による特徴量重要度分析により、モデルは正確なトレンドおよび販売予測に、時間的および分類的特徴を効果的に活用していた。
• 訓練および検証損失曲線（図11および12）から、トレンド補正ブロックを備えたモデルは、より良い一般化性能と過学習の低減が確認された。
• モデルは各店舗ごとに異なるトレンド重みを学習し、多様な販売ダイナミクスに最適化されたトレンド補正を実現した。