[論文レビュー] Interpretable Models for Granger Causality Using Self-explaining Neural Networks

Ričards Marcinkevičs, Julia E. Vogt|arXiv (Cornell University)|Jan 19, 2021

Bayesian Modeling and Causal Inference参考文献 43被引用数 28

ひとこと要約

GVARを導入し、非線形Granger因果性の解釈可能性を持つ自己説明型ニューラルネットワークを時系列に拡張した一般化ベクトル自己回帰モデル（GVAR）を提案。符号と時変効果を考慮し、安定性に基づく推論閾値設定を導入する。syntheticデータ上で競合的なGC検出と優れた符号検出を、ベースラインと比較して達成する。

ABSTRACT

Exploratory analysis of time series data can yield a better understanding of complex dynamical systems. Granger causality is a practical framework for analysing interactions in sequential data, applied in a wide range of domains. In this paper, we propose a novel framework for inferring multivariate Granger causality under nonlinear dynamics based on an extension of self-explaining neural networks. This framework is more interpretable than other neural-network-based techniques for inferring Granger causality, since in addition to relational inference, it also allows detecting signs of Granger-causal effects and inspecting their variability over time. In comprehensive experiments on simulated data, we show that our framework performs on par with several powerful baseline methods at inferring Granger causality and that it achieves better performance at inferring interaction signs. The results suggest that our framework is a viable and more interpretable alternative to sparse-input neural networks for inferring Granger causality.

研究の動機と目的

• Multivariate time seriesにおける解釈可能な非線形Granger因果性分析の必要性を動機づける。
• 時系列に対して解釈可能で時変するGranger効果を生み出す自己説明型ニューラルネットワーク拡張（GVAR）を提案する。
• 偽陽性の関連を低減し符号検出を可能にするスパース性と時間平滑性のペナルティを提供する。
• 安定性に基づく時間反転閾値設定スキームを開発し、2値のGCグラフを推定する。
• syntheticデータ上で最先端の非線形GC手法と比較した競争的性能を示し、効果の符号を評価する。

提案手法

• 自己説明型ニューラルネットワークを自己回帰時間系列に拡張し、K次の一般化ベクトル自己回帰（GVAR）を形成する。すなわち x_t = sum_{k=1}^K Ψ_{θ_k}(x_{t-k}) x_{t-k}, ここで Ψ_{θ_k} は遅延kのp×p係数行列を生成するMLPである。
• GVARをペナルティ付き損失で学習する：mean squared errorにスパース性ペナルティR(Ψ_t)と Ψ_{t+1}を Ψ_tに近づける時間平滑ペナルティを加える。
• Elastic-net風のスパース性を用いる：R(Ψ_t) = α||Ψ_t||_1 + (1-α)||Ψ_t||_2^2 で α=0.5。
• 時変係数を要約隣接行列Sに集約する：S_{i,j} = max_k median_t |(Ψ_{θ_k}(x_t))_{i,j}| を用い、Granger因果強度を定量化する。
• 安定性に基づく時系列反転GC推論を適用する：元データと反転データで学習し、Sを分位点で閾値化して、元データと反転データの間のバランス精度を最大化する閾値を選択する。

実験結果

リサーチクエスチョン

• RQ1 多変量時系列で解釈可能なニューラルフレームワークを用いて非線形Granger因果関係を推定できるか。
• RQ2 このようなモデル内でGranger因果効果の符号を検出し、時変性を検査できるか。
• RQ3 時系列反転を用いた安定性ベースの閾値設定手法はGC関係の識別性を改善するか。
• RQ4 提案手法のGVARは、構造回復と符号検出の点でsynthetic benchmarks上で最先端の非線形GC手法と比較してどうか。
• RQ5 予測性能を犠牲にすることなく、時変で解釈可能な相互作用を明らかにできる枠組みか。

主な発見

• GVARは、GC構造回復の精度とバランス精度で競争力があり、ベンチマーク間でしばしば最高またはほぼ最高の成績を示す。
• GVARは正のGC符号と負のGC符号の検出性能が高く、Lotka–Volterraシミュレーションにおける符号推定でベースラインを上回る。
• 安定性に基づく閾値設定と時間反転は頑健なGCグラフを生み出し、偽陽性接続の抑制に寄与する。
• GVARはLorenz 96データで強力なAUROCとAUPRC指標を示し、BAスコアと符号解釈性も競争力がある。