[論文レビュー] Modeling Combinatorial Evolution in Time Series Prediction.

Wenjie Hu, Yang Yang+3 more|arXiv (Cornell University)|May 10, 2019

Time Series Analysis and Forecasting参考文献 39被引用数 1

ひとこと要約

本稿では、時間的要因間の変化する関係を進化的状態グラフを用いてモデル化する、進化的グラフ再帰的ネットワーク（EGRN）というグラフニューラルネットワークフレームワークを提案する。EGRNは要因の組み合わせ的進化を捉え、6つの実世界データセットにおいて平均で+5%の精度および+15%のF1スコアの向上を達成し、論理的因果パターンを明らかにすることで予測の解釈可能性を高めている。

ABSTRACT

Time series modeling aims to capture the intrinsic factors underpinning observed data and its evolution. However, most existing studies ignore the evolutionary relations among these factors, which are what cause the combinatorial evolution of a given time series. In this paper, we propose to represent time-varying relations among intrinsic factors of time series data by means of an evolutionary state graph structure. Accordingly, we propose the Evolutionary Graph Recurrent Networks (EGRN) to learn representations of these factors, along with the given time series, using a graph neural network framework. The learned representations can then be applied to time series classification tasks. From our experiment results, based on six real-world datasets, it can be seen that our approach clearly outperforms ten state-of-the-art baseline methods (e.g. +5% in terms of accuracy, and +15% in terms of F1 on average). In addition, we demonstrate that due to the graph structure's improved interpretability, our method is also able to explain the logical causes of the predicted events.

研究の動機と目的

• 既存の時系列モデルが内在要因間の変化する関係を無視するという限界に対処すること。
• 時間的変動する相互作用を構造的な表現でモデル化することで、時系列要因の動的かつ組み合わせ的進化を捉えること。
• 要因表現とその進化する関係を同時に学習可能なフレームワークを構築し、時系列分類の性能を向上させること。
• グラフ構造を用いて予測事象の背後にある論理的因果を露呈させることで、モデルの解釈可能性を高めること。

提案手法

• 時間的変動する要因間の関係を、時間経過に伴う遷移と相互作用を符号化する進化的状態グラフで表現する。
• 時系列とその進化する要因関係の共同表現を学習するため、EGRNと呼ばれるグラフニューラルネットワークベースのアーキテクチャを設計する。
• 再帰的メカニズムをグラフフレームワーク内に統合し、時間的依存性および動的要因進化をモデル化する。
• グラフネットワーク内のメッセージパッシング機構を用いて、関連する要因間で表現を伝達・更新する。
• 予測性能を最適化するために、教師あり時系列分類損失を用いてEGRNをエンドツーエンドで学習する。
• グラフ構造を活用して予測の背後にある因果パターンを抽出・解釈可能にする。これにより解釈可能性が向上する。

実験結果

リサーチクエスチョン

• RQ1 時系列モデルは、どのようにして内在要因の組み合わせ的進化をよりよく捉えることができるか？
• RQ2 要因関係の進化をモデル化することで、時系列分類の精度はどの程度向上するか？
• RQ3 グラフベースのフレームワークは、時系列データにおける論理的因果関係を露呈させることで、より解釈可能な予測を提供できるか？
• RQ4 EGRNは、多様な実世界の時系列データセットにおいて、最先端手法と比較してどのように評価されるか？

主な発見

• EGRNは、6つの実世界の時系列データセットにおいて、10の最先端ベースライン手法と比較して平均で+5%の分類精度向上を達成した。
• 同じベースラインと比較して、平均で+15%のF1スコア向上を記録し、不均衡または複雑な予測タスクにおいて優れた性能を示した。
• 進化的状態グラフ構造のおかげで、予測結果の意味的な解釈が可能となり、予測事象の背後にある論理的因果が明らかにされた。
• モデルの性能向上は、多様なデータセットで一貫しており、さまざまなデータ特性および時間的ダイナミクスに強く、ロバストであることが示された。