[論文レビュー] Probabilistic Time Series Forecasts with Autoregressive Transformation Models

David Rügamer, Philipp F. M. Baumann+2 more|arXiv (Cornell University)|Oct 15, 2021

Stock Market Forecasting Methods被引用数 1

ひとこと要約

本稿では、表現力のある分布予測と解釈可能なパラメトリック変換を組み合わせた半パラメトリックなフレームワーク、自己回帰的変換モデル（ATMs）を紹介する。自己回帰的変換を通じて正規化フローを活用することで、ATMsは複雑で非ガウス分布（二峰性や歪度のある分布を含む）のモデリングにおいて優れた柔軟性を発揮しながら、計算効率と解釈可能性を維持し、シミュレートデータおよび実世界のデータセットにおいて、ARIMA や Prophet といった従来のモデルを上回る性能を示した。

ABSTRACT

Probabilistic forecasting of time series is an important matter in many applications and research fields. In order to draw conclusions from a probabilistic forecast, we must ensure that the model class used to approximate the true forecasting distribution is expressive enough. Yet, characteristics of the model itself, such as its uncertainty or its feature-outcome relationship are not of lesser importance. This paper proposes Autoregressive Transformation Models (ATMs), a model class inspired by various research directions to unite expressive distributional forecasts using a semi-parametric distribution assumption with an interpretable model specification. We demonstrate the properties of ATMs both theoretically and through empirical evaluation on several simulated and real-world forecasting datasets.

研究の動機と目的

• 複雑な条件付き分布を捉えることのできる、柔軟かつ解釈可能な確率的時系列予測のモデルクラスを開発すること。
• パラメトリックモデルの限界を是正し、非ガウス的、多峰的、または歪度のある予測分布を表現できるようにすること。
• 正規化フローの表現力とパラメトリックモデルの解釈可能性を、自己回帰的変換を介して統合すること。
• AT(p) モデルにおけるパrameter 推定の理論的漸近的結果を提示し、実証的に妥当性を検証すること。
• 電力、為替レート、交通、観光などの多様な実世界の時系列データにおいて、本手法の有効性を示すこと。

提案手法

• ATMs は、単純なベース分布 FZ を、パラメトリックで自己回帰的な変換の系列を通じて、複雑な条件付き分布 FY|x に変換する半パラメトリックなアプローチを採用する。
• 変換は逆変換 h(y) = z（z ∼ FZ）として定義され、変数変換の公式を用いて正確な密度評価が可能になる。
• 変換関数 h は、遅れ項を説明変数とする加法的予測子としてモデル化され、自己回帰構造と解釈可能性が保証される。
• 本手法は、正規化フロー（NFs）を一般フレームワークとして採用し、AT(p) は単一の変換層を用いる特別なケースである。
• モデルの適合は、深層回帰と加法的モデリングの最適化技術を用いた最尤推定により実施される。
• わずかな正則性条件のもとで、条件付き密度の普遍的近似が可能であり、複雑な時系列分布の柔軟なモデリングが可能になる。

実験結果

リサーチクエスチョン

• RQ1 自己回帰的変換モデルは、時系列予測における複雑で非ガウス的な条件付き密度を効果的にモデリングできるか？
• RQ2 ARIMA や Prophet といった古典的モデルと比較して、ATMs の確率的予測精度はどの程度高いか？
• RQ3 高い表現力を持つ一方で、ATMs はどの程度解釈可能性を維持しているか？
• RQ4 特に漸近的一貫性と有効性を含めた、AT(p) モデルにおけるパrameter 推定の理論的性質は何か？
• RQ5 他の深層確率的予測手法と比較して、ATMs のスケーラビリティと計算効率はどの程度か？

主な発見

• シミュレートデータにおいて、従来のパラメトリックモデルが失敗する二峰性の予測分布など、複雑な多峰的分布をATMsが効果的にモデリングできた。
• 電力、為替レート、交通、観光、および M4 の実世界データセットにおいて、ATMs は連続ランク確率スコア（CRPS）の観点で、ARIMA や Prophet を上回る予測性能を示した。
• ATMs の純粋な R 実装は、実行時間の増加が指数的ではなく、良好なスケーリングを示した。一方、ニューラルネットワーク版は 10^5 件の観測値でも安定した推論時間を維持した。
• ATMs は強力な理論的性質を示しており、AT(p) モデルにおけるパrameter 推定の漸近的正規性と一貫性が確立された。
• 遅延値と変換関数を結びつけることで、時系列の解釈可能なモデリングが可能になり、モデルの透明性を保ちながら高い柔軟性を実現した。
• 実証的結果から、ATMs が非線形的で非ガウス的かつ異分散性のあるダイナミクスを捉えることができることが確認され、実世界の予測応用に適していることが示された。