[論文レビュー] Sparse Causal Discovery in Multivariate Time Series

Stefan Haufe, Guido Nolte+2 more|arXiv (Cornell University)|Jan 15, 2009

Bayesian Modeling and Causal Inference参考文献 18被引用数 23

ひとこと要約

この論文は、ベクトル自己回帰（VAR）モデルを用いて、時間系列のペアごとにすべての時間ラグにわたる結合スパarsityを強制することで、因果関係の欠如をよりよく反映する、グループlassoに基づく多変量時系列におけるスパース因果発見の手法を提案する。この手法は、ノイズ下でも標準的手法（lassoやGranger因果）を上回る性能を示し、特にシミュレーション環境下でグループlassoが優れた性能を発揮する。

ABSTRACT

Our goal is to estimate causal interactions in multivariate time series. Using vector autoregressive (VAR) models, these can be defined based on non-vanishing coefficients belonging to respective time-lagged instances. As in most cases a parsimonious causality structure is assumed, a promising approach to causal discovery consists in fitting VAR models with an additional sparsity-promoting regularization. Along this line we here propose that sparsity should be enforced for the subgroups of coefficients that belong to each pair of time series, as the absence of a causal relation requires the coefficients for all time-lags to become jointly zero. Such behavior can be achieved by means of l1-l2-norm regularized regression, for which an efficient active set solver has been proposed recently. Our method is shown to outperform standard methods in recovering simulated causality graphs. The results are on par with a second novel approach which uses multiple statistical testing.

研究の動機と目的

• 標準的手法が多変量時系列におけるスパース因果構造を回復する際の限界を解消すること。
• 各時系列ペアに対してすべての時間ラグにわたるグループスパarsityを強制することで、因果発見の精度を向上させること。
• グループlassoと従来のlasso、Granger因果、複数の仮説検定を伴うリッジ回帰の性能を比較すること。
• さまざまなノイズ条件およびモデル次数の仮定下でのロバストネスを評価すること。
• 効率的な最適化とスパarsityの強制により、fMRIデータなどの高次元時系列におけるスケーラブルな因果推論を可能にすること。

提案手法

• 多変量時系列の線形ダイナミクスを次数Pのベクトル自己回帰（VAR）モデルで表現する。
• 各時系列ペアのすべての時間ラグ係数の結合スパarsityを強制するために、ℓ1,2-ノルム正則化（グループlasso）を適用する。
• VAR係数推定におけるグループlasso問題の効率的最適化のため、アクティブセットソルバーを用いる。
• 補足的手法として、リッジ回帰を適用し、Hothornら（2008）の手法を用いて複数の仮説検定を実施する。
• 予測精度に基づき、lassoおよびグループlassoの正則化パラメータの選択に10分割交差検証を用いる。
• 性能評価には受信者操作特性曲線（ROC）分析とAUCスコアを用い、さまざまなノイズレベルおよびモデル次数の下で評価する。

実験結果

リサーチクエスチョン

• RQ1 グループlassoに基づく正則化は、標準的なlassoと比較して、多変量時系列における因果構造回復を改善できるか？
• RQ2 各時系列ペアに対してすべての時間ラグにわたる結合スパarsityを強制することで、因果的影響の真正の欠如をよりよく反映できるか？
• RQ3 さまざまなノイズ条件下で、グループlassoの性能はGranger因果、リッジ回帰、lassoと比較してどうなるか？
• RQ4 真のモデル次数を知ることが因果発見の精度を顕著に向上させるか？
• RQ5 問題の分解と効率的ソルバーを用いることで、fMRIデータなどの大規模次元時系列にスケーラブルに適用可能か？

主な発見

• すべてのシミュレーションノイズ条件下で、グループlassoはlassoを上回り、顕著に高いAUCスコア（例：ホワイトノイズ下、P=5で0.971 vs. 0.941）を達成した。
• ノイズなし条件下では、複数の仮説検定を伴うリッジ回帰がほぼ完璧な性能（AUC = 1.000）を示し、他のすべての手法を上回った。
• ホワイトノイズ下では、グループlassoはAUCが0.971（P=5）および0.979（P=10）を達成し、lassoおよびGranger因果を顕著に上回った。
• 混合ノイズ条件下では、グループlassoとリッジ回帰が同等の性能を示し、AUCスコアはそれぞれ0.926（P=5）および0.931（P=5）であった。
• ROC曲線から、lassoは一貫してグループlassoに劣っており、より密度の高い、正確性に欠ける因果グラフを生成することが示された。
• 真のモデル次数の知識は、性能向上に顕著な利点をもたらさなかったため、モデル次数の誤指定に対しても手法がロバストであることが示された。