[論文レビュー] AutoGluon-TimeSeries: AutoML for Probabilistic Time Series Forecasting

Oleksandr Shchur, Caner Türkmen+5 more|arXiv (Cornell University)|Aug 10, 2023

Forecasting Techniques and Applications被引用数 20

ひとこと要約

AutoGluon-TimeSeries (AG–TS) は、統計、深層学習、表形式予測モデルを含む多様なモデルのアンサンブルを構築して、最小限のコード（3 行）で正確な点予測と分位予測を提供する確率的時系列予測のオープンソース AutoML ライブラリです。（3 行）

ABSTRACT

We introduce AutoGluon-TimeSeries - an open-source AutoML library for probabilistic time series forecasting. Focused on ease of use and robustness, AutoGluon-TimeSeries enables users to generate accurate point and quantile forecasts with just 3 lines of Python code. Built on the design philosophy of AutoGluon, AutoGluon-TimeSeries leverages ensembles of diverse forecasting models to deliver high accuracy within a short training time. AutoGluon-TimeSeries combines both conventional statistical models, machine-learning based forecasting approaches, and ensembling techniques. In our evaluation on 29 benchmark datasets, AutoGluon-TimeSeries demonstrates strong empirical performance, outperforming a range of forecasting methods in terms of both point and quantile forecast accuracy, and often even improving upon the best-in-hindsight combination of prior methods.

研究の動機と目的

• 使いやすい AutoML ツールを提供することで、確率的時系列予測を民主化する。
• 精度と堅牢性を高めるために、統計・深層学習・表形式の多様な予測モデルをアンサンブルで結合する。
• 静的および時変共変量をサポートする点予測と分位予測の両方を有効にする。
• 広範なベンチマークデータセットで性能を評価し、競争力のある精度と効率を実証する。

提案手法

• TimeSeriesDataFrame は、静的および時変共変量を伴う単変量系列のコレクションを格納します。
• TimeSeriesPredictor は予測長、分位レベル、評価指標を含む予測タスクを定義します。クロスバリデーションと任意のハイパーパラメータ最適化をサポートします。
• 適合手順はデータを前処理し、複数のモデルを訓練・評価し、必要に応じてハイパーパラメータを調整し、前進選択（確率予測の Vincentization）を用いてアンサンブルを構築します。
• 3 つのモデルファミリ: ローカルの古典的モデル（例: ARIMA, Theta, ETS）を系列ごとに適用; グローバルモデル（深層学習: DeepAR, PatchTST, TFT; 表形式は AutoGluon–Tabular + MLForecast）; および最終予測を生成するアンサンブル。
• 予測出力には、地平線の平均値（点予測）と分位予測が含まれ、ID、タイムスタンプ、予測値を含む長いフォーマットの DataFrame に格納されます。

実験結果

リサーチクエスチョン

• RQ1 AutoGluon–TimeSeries は、多様な単変量時系列データセット全体で競争力のある点予測と確率予測を提供できますか？
• RQ2 現実的な時間予算の下で、アンサンブルベースの AutoML アプローチは個別モデルや他の AutoML 予測フレームワークを上回りますか？
• RQ3 統計・深層学習・表形式の多様なモデルファミリとアンサンブルの導入が、予測精度と実行時間に与える影響はどの程度ですか？
• RQ4 プリセットと時間予算の制約が、エンドユーザーの精度と実用性にどう影響しますか？

主な発見

フレームワーク	勝利	敗北	引き分け	失敗	チャンピオン	平均順位	平均リスケール誤差	ベースラインに対する勝率
AutoGluon (MASE)	-	-	-	0	19	2.08	0.073	100.0%
StatEnsemble	6	20	0	3	3	3.12	0.238	82.8 %
AutoPyTorch (MASE)	4	25	0	0	2	4.12	0.257	93.1%
AutoETS	4	25	0	0	1	4.64	0.374	75.9 %
AutoTheta	4	23	0	2	0	4.92	0.427	72.4 %
DeepAR	4	24	0	1	2	5.08	0.434	93.1 %
AutoARIMA	4	22	0	3	1	5.92	0.612	79.3 %
TFT	2	27	0	0	1	6.12	0.635	75.9 %
Table 3 (points) - as listed above

• AG–TS は、29 のベンチマークデータセットにおいて、点予測（MASE）と確率予測（wQL）の両方で他の競合フレームワークを平均的に上回ります。
• 多様なモデルのアンサンブルと前向き選択は高い精度を達成し、しばしば事後最適な組み合わせを凌駕します。
• 3 つのモデルファミリ（統計、深層学習、表形式）は性能に有意に貢献し、アブレーションではすべてが有益であることが示され、アンサンブリングは特に重要です。
• AG–TS は実用的な実行時間を維持し、全データセットで4時間の予算内にトレーニングと予測を完了し、平均実行時間は約33分です。
• AutoPyTorch と比較して、AG–TS は競争力のある性能を、より簡素なセットアップと大規模データセットでの高速な結果で提供します。一方で AutoPyTorch はより多くのチューニングと時間を要することがあります。
• アブレーション研究は、アンサンブルを取り除く、またはいずれかのモデルファミリを取り除くと性能が低下することを示しており、統合された AutoML アプローチの重要性を強調しています。