[論文レビュー] Instance-wise Graph-based Framework for Multivariate Time Series Forecasting

Wentao Xu, Weiqing Liu+3 more|arXiv (Cornell University)|Sep 14, 2021

Time Series Analysis and Forecasting参考文献 24被引用数 5

ひとこと要約

本論文は、異なる変数の履歴時系列と現在のターゲット時系列の間の相関関係を捉えるために、動的インスタンスグラフを構築するインスタンス単位のグラフベースのフレームワーク（IGMTF）を提案する。グラフニューラルネットワークを用いて関連する履歴インスタンスをサンプリングし、特徴量をアグリゲートすることで、IGMTFはTraffic、Electricity、Exchange-Rateデータセットで最先端の性能を達成し、タイムスタンプ間のクロス依存関係を活用することで、既存の手法を上回る。

ABSTRACT

The multivariate time series forecasting has attracted more and more attention because of its vital role in different fields in the real world, such as finance, traffic, and weather. In recent years, many research efforts have been proposed for forecasting multivariate time series. Although some previous work considers the interdependencies among different variables in the same timestamp, existing work overlooks the inter-connections between different variables at different time stamps. In this paper, we propose a simple yet efficient instance-wise graph-based framework to utilize the inter-dependencies of different variables at different time stamps for multivariate time series forecasting. The key idea of our framework is aggregating information from the historical time series of different variables to the current time series that we need to forecast. We conduct experiments on the Traffic, Electricity, and Exchange-Rate multivariate time series datasets. The results show that our proposed model outperforms the state-of-the-art baseline methods.

研究の動機と目的

• 既存手法が異なるタイムスタンプにおける異なる変数間の相関関係を無視するという制限を解決すること。
• 他の変数の類似した過去の時系列パターンを活用することで、多変量時系列予測を改善すること。
• 動的かつ効果的なインスタンスのサンプリングとアグリゲーションを可能にする、シンプルだが効果的なフレームワークを設計すること。
• アブレーションと分析を通じて、コンponentモジュールおよびハイパーパramータの有効性を検証すること。

提案手法

• フレームワークは、特定のタイムスタンプにおける変数の観測値を表す「シリーズインスタンス」の概念を導入する。
• トレーニングインスタンスおよびミニバッチインスタンスエンコーダーを用いて、履歴および現在の時系列データを埋め込む。
• トレーニングインスタンスサンプラーは、現在のミニバッチインスタンスと類似度の高い履歴インスタンスを最も関連性の高いものとして選択する。
• ノードとしてサンプリングされたトレーニングインスタンスおよび現在のミニバッチインスタンスをもち、エッジが類似度に基づく接続を表すインスタンスグラフを構築する。
• 学習可能なマッピング行列 $W_h$ および $W_e$ を用いたグラフアグリゲーションにより、履歴インスタンスから現在のインスタンスへ情報が伝搬される。
• 最終的な予測は、アグリゲートされた履歴情報と現在のインスタンス特徴量を組み合わせることで生成される。

実験結果

リサーチクエスチョン

• RQ1 異なるタイムスタンプにおける異なる変数間の相関関係をモデル化することは、多変量時系列予測を改善できるか？
• RQ2 動的インスタンス単位のグラフ構築は、クロスタイムスタンプ依存関係を効果的に捉えられるか？
• RQ3 トレーニングインスタンスサンプラーおよびグラフアグリゲーションコンポーネントは、予測性能にどのような影響を与えるか？
• RQ4 ハイパーパramータ $k$（最も近いタイムスタンプの数）および $N$（近傍数）は、モデル性能に対してどれほど感受的か？

主な発見

• IGMTFは、Traffic、Electricity、Exchange-Rateデータセットで最先端の手法を上回り、優れた予測精度を示した。
• アブレーションスタディの結果、トレーニングインスタンスサンプラーまたはマッピング行列 $W_h$ および $W_{e}$ を削除すると性能が著しく低下し、これらが不可欠であることが確認された。
• Trafficデータセットでは、予測ホライズン6において $k=30$ が最適であったのに対し、Electricityデータセットでは、ホライズン3において $k=5$ が最良の結果をもたらした。
• 近傍数 $N$ は性能に強く影響を与え、最適値はデータセットおよびホライズンによって異なり、ホライズン6におけるTrafficでは $N=30$ が最適であった。
• $k$ および $N$ のハイパーパラメータチューニングは不可欠であり、両者がRRSEおよびCORR指標に顕著な影響を与えることが判明した。
• 実証的分析により、フレームワークが時系列間の周期的および環境的類似性を効果的に捉え、予測のロバスト性を向上させていることが確認された。