[論文レビュー] MOrdReD: Memory-based Ordinal Regression Deep Neural Networks for Time Series Forecasting

Bernardo Pérez Orozco, Gabriele Abbati+1 more|arXiv (Cornell University)|Mar 26, 2018

Gaussian Processes and Bayesian Inference参考文献 13被引用数 9

ひとこと要約

本稿では、時系列予測の回帰を量子化によって順序分類タスクに変換するメモリベースの順序回帰深層ニューラルネットワーク、MOrdReDを提案する。再帰的アーキテクチャとエンド・ツー・エンドの学習を活用することで、複雑で多モーダルかつ非ガウス型の予測分布を高精度に推定し、不確実性のキャリブレーションとスケーラビリティを実現。45種類の多様なデータセットにおいて、長期間予測の文脈で最先端のモデル—ガウス過程を含む—を上回る性能を発揮する。

ABSTRACT

Time series forecasting is ubiquitous in the modern world. Applications range from health care to astronomy, and include climate modelling, financial trading and monitoring of critical engineering equipment. To offer value over this range of activities, models must not only provide accurate forecasts, but also quantify and adjust their uncertainty over time. In this work, we directly tackle this task with a novel, fully end-to-end deep learning method for time series forecasting. By recasting time series forecasting as an ordinal regression task, we develop a principled methodology to assess long-term predictive uncertainty and describe rich multimodal, non-Gaussian behaviour, which arises regularly in applied settings. Notably, our framework is a wholly general-purpose approach that requires little to no user intervention to be used. We showcase this key feature in a large-scale benchmark test with 45 datasets drawn from both, a wide range of real-world application domains, as well as a comprehensive list of synthetic maps. This wide comparison encompasses state-of-the-art methods in both the Machine Learning and Statistics modelling literature, such as the Gaussian Process. We find that our approach does not only provide excellent predictive forecasts, shadowing true future values, but also allows us to infer valuable information, such as the predictive distribution of the occurrence of critical events of interest, accurately and reliably even over long time horizons.

研究の動機と目的

• 長期間予測において特に顕著な、深層学習ベースの時系列予測における信頼性の高い不確実性評価の欠如に対処すること。
• 正規分布仮定に制限があり、スケーラビリティに劣るガウス過程モデルの限界を克服し、複雑で非ガウス型の予測分布を捉えること。
• モデル設計や適応に最小限の人的介入を要する、完全にエンド・ツー・エンドでスケーラブルな深層学習フレームワークの開発。
• 確率的予測のキャリブレーションを実現し、重要なイベントの発生確率を推定可能な高精度な長期間予測を可能にすること。
• 混沌とうつような非定常的ダイナミクスを示す実世界および合成時系列を含む、多様な時系列分野への一般化能力の実証。

提案手法

• 将来の離散的値に量子化を適用することで、時系列予測を順序（自己）回帰問題に再定式化する。
• 時間的依存性と長期的文脈をモデル化するため、メモリ機構を備えた再帰的ニューラルネットワーク（RNN）アーキテクチャを採用する。
• 順序クラスにおける交差エントロピー損失を用いてエンド・ツー・エンドで学習させ、予測分布の直接的学習を可能にする。
• 予測されたクラス確率を用いて完全な予測分布を再構築し、多モーダルおよび非ガウス型の挙動を表現可能にする。
• 長期的文脈を保持し、多様な時系列パターンへの一般化を向上させるメモリベースのコンponentsを統合する。
• 予測区間のカバレッジと信頼性図を用いた検証により、信頼性の高い不確実性推定を保証するキャリブレーション技術を適用する。

実験結果

リサーチクエスチョン

• RQ1 深層学習フレームワークは、豊富で多モーダルかつ非ガウス型の予測分布を持つ長期間時系列予測を効果的にモデル化できるか？
• RQ2 提案手法の順序回帰アプローチは、ガウス過程や他の最先端モデルと比較して、不確実性のキャリブレーションと予測精度の面でどのように差をつけるか？
• RQ3 熟練したハイパーパrameterチューニングやカーネル設計を要せず、多様な時系列分野に一般化できる程度の汎用性はどの程度か？
• RQ4 安全性が求められる応用分野（例：極端な値やシステム障害の発生確率推定）において、モデルは信頼性のある確率推定が可能か？
• RQ5 メモリベースのアーキテクチャは、標準的なRNNやseq2seqモデルと比較して、長期間予測性能を向上させるか？

主な発見

• MOrdReDは、予測精度、不確実性のキャリブレーション、信頼性指標の観点で、45種類の多様な時系列データセットにおいて、最先端のモデル—ガウス過程やベイジアンニューラルネットワークを含む—を上回る性能を発揮した。
• 予測区間カバレッジやシャープネスといったすべての評価指標でトップの性能を達成し、特にローレンツ写像のような混沌とした系においても、長期間予測（例：P_h = 1000）の文脈で優れた結果を示した。
• MOrdReDは、他のモデルが複雑で非ガウス型の形状を捉えきれない心電図データにおいても、多モーダルな予測分布を的確に捉えた。
• 心臓病学や気象学といった安全性が求められる分野でも、重要なイベント予測の信頼性のある信頼区間を提供することで、ロバスト性を示した。
• 一部のケースではベースラインを上回ったが、ローレンツ写像ではGP+GMMが極端なダイナミクスの処理に優れており、わずかにMOrdReDを上回った。
• すべてのタスクと指標において、MOrdReDは常に1位または2位にランクされ、任意の評価で他のすべてのモデルが同時に上回られる可能性は極めて低い。