[論文レビュー] Forecasting Time Series with VARMA Recursions on Graphs

Elvin Isufi, Andreas Loukas+2 more|RePEc: Research Papers in Economics|Oct 19, 2018

Time Series Analysis and Forecasting被引用数 7

ひとこと要約

本稿では、グラフ上の同時時刻・頂点定常性を活用することで、多次元時系列の予測にグラフ正則化VARMAフレームワークを提案する。データをグラフスペクトルドメインに投影することにより、多次元予測を非相関な単変量ARMAモデルに還元し、低ランク近似を可能にすることで、推定コストを著しく低減するとともに、最先端手法よりも予測精度を向上させる。

ABSTRACT

Graph-based techniques emerged as a choice to deal with the dimensionality issues in modeling multivariate time series. However, there is yet no complete understanding of how the underlying structure could be exploited to ease this task. This work provides contributions in this direction by considering the forecasting of a process evolving over a graph. We make use of the (approximate) time-vertex stationarity assumption, i.e., timevarying graph signals whose first and second order statistical moments are invariant over time and correlated to a known graph topology. The latter is combined with VAR and VARMA models to tackle the dimensionality issues present in predicting the temporal evolution of multivariate time series. We find out that by projecting the data to the graph spectral domain: (i) the multivariate model estimation reduces to that of fitting a number of uncorrelated univariate ARMA models and (ii) an optimal low-rank data representation can be exploited so as to further reduce the estimation costs. In the case that the multivariate process can be observed at a subset of nodes, the proposed models extend naturally to Kalman filtering on graphs allowing for optimal tracking. Numerical experiments with both synthetic and real data validate the proposed approach and highlight its benefits over state-of-the-art alternatives.

研究の動機と目的

• グラフ構造的依存関係を活用することで、多次元時系列における高次元予測の課題に取り組む。
• 時間的・グラフ的シフトに対して統計的モーメントが不変である「同時時刻・頂点定常性」を活用し、モデルの一般化能力を向上させる。
• グラフスペクトルドメインにおける独立した単変量ARMAモデルへの変換により、多次元VARMA推定の計算複雑度を低減する。
• グラフ上のカルマンフィルタリングを用いて、部分観測プロセスの最適追跡を可能にする。
• 予測精度を維持しながら推定コストを最小化する低ランクデータ表現を提供する。

提案手法

• 本手法は、時刻・頂点信号の同時広義定常性を仮定し、グラフラプラシアン固有値分解を用いたスペクトルモデリングを可能にする。
• グラフフーリエ変換を用いて多次元時系列をグラフスペクトルドメインに投影し、システムを非相関な単変量ARMAプロセスに分離する。
• VARMAモデルをスペクトルドメインに再定式化し、各ノードの信号を独立してARMAプロセスとしてモデル化することで、次元削減と計算コスト低減を実現する。
• グラフ信号共分散のK個の最大固有成分を選択することで低ランク近似を適用し、Eckart–Young–Mirsky定理に従い再構成誤差を最小化する。
• 部分観測データに対しては、フレームワークをグラフ上のカルマンフィルタリングに拡張し、再帰的更新を用いて最適追跡を可能にする。
• スペクトル投影を用いて滑らかさを強制しバンドリミテッド性を活用することで、ノイズや限られた学習サンプルに対して高いロバスト性を実現する。

実験結果

リサーチクエスチョン

• RQ1 同時時刻・頂点定常性を活用することで、グラフ上での多次元時系列予測を簡素化できるか？
• RQ2 問題をグラフスペクトルドメインに変換することで、推定複雑度を低減しつつ予測精度を維持できるか？
• RQ3 スペクトルドメインにおける低ランク近似が、予測性能と計算コストに与える影響は何か？
• RQ4 提案モデルは、完全観測および部分観測の両設定において、最先端手法を上回る性能を示せるか？
• RQ5 非構造的多次元モデルと比較して、グラフ構造が予測精度にどの程度寄与するか？

主な発見

• G-VARMAモデルは、分離ARMAおよびGP-VARモデルよりも低い予測誤差を達成し、特に多段階予測において性能差が拡大する。
• 提案された低ランク近似は再構成誤差を最小化し、精度を損なわず計算コストを顕著に削減する。
• グラフ上のカルマンフィルタリングにより、部分観測プロセスの最適追跡が可能となり、時間経過とともにより多くのノードがサンプリングされるほどrNMSEが低下する。
• 本手法は、合成データおよび実世界データの両方で、限られた学習サンプルを伴う高次元設定において、既存手法を上回る性能を示す。
• 理論的分析により、最適な低ランク表現は、グラフ信号のスペクトルエネルギーのK個の最大成分を選択することで達成されることを確認した。
• 実験的結果から、グラフ正則化ARMAモデルは、非構造的VARMAや独立ARMAモデルと比較して、より安定的かつ正確な予測を提供することが示された。