[論文レビュー] Causal Discovery and Forecasting in Nonstationary Environments with State-Space Models

Biwei Huang, Kun Zhang+2 more|PubMed|May 26, 2019

Data Stream Mining Techniques参考文献 9被引用数 23

ひとこと要約

本稿では、非定常性を活用して因果構造を同定し、時系列における予測性能を向上させる非線形状態空間モデルフレームワークを提案する。時間に依存する因果強度とノイズ分散をモデル化することで、識別可能な因果発見が可能となり、ベイズ推論を用いた適応的で因果に配慮した予測が実現され、合成データおよび実世界のデータにおいて優れた性能を示す。

ABSTRACT

In many scientific fields, such as economics and neuroscience, we are often faced with nonstationary time series, and concerned with both finding causal relations and forecasting the values of variables of interest, both of which are particularly challenging in such nonstationary environments. In this paper, we study causal discovery and forecasting for nonstationary time series. By exploiting a particular type of state-space model to represent the processes, we show that nonstationarity helps to identify causal structure and that forecasting naturally benefits from learned causal knowledge. Specifically, we allow changes in both causal strengths and noise variances in the nonlinear state-space models, which, interestingly, renders both the causal structure and model parameters identifiable. Given the causal model, we treat forecasting as a problem in Bayesian inference in the causal model, which exploits the timevarying property of the data and adapts to new observations in a principled manner. Experimental results on synthetic and real-world data sets demonstrate the efficacy of the proposed methods.

研究の動機と目的

• 従来のi.i.d.または定常性の仮定が成り立たない非定常時系列における因果発見と予測の課題に対処すること。
• 既存の関数的因果モデルの限界を克服するため、非定常性を因果方向の非対称性の源泉として活用すること。
• 学習された因果構造を活用することで、精度と解釈可能性の両方を向上させる原理的で整合性のある予測手法を開発すること。
• 非線形状態空間モデルにおける時間に依存する因果強度とノイズ分散を許容することで、モデルの識別可能性を保証すること。
• SCADペナルティを用いたスパarsity制約を導入することで、安定的かつ解釈可能な因果構造の学習を促進すること。

提案手法

• 非定常プロセスを表現するために、時間に依存する係数とノイズ分散を有する非線形状態空間モデルをフレームワークが用いる。
• 因果構造は、非定常性下での分布シフトにおける統計的非対称性、特に原因とメカニズムの分布の独立性に基づいて同定される。
• 予測は、学習された因果モデルにおけるベイズ推論により実行され、新規観測値と時間に依存するパラメータに基づいて適応的に更新される。
• パラメータ推定にはEMアルゴリズムが用いられ、Eステップでは状態推定にための条件付きパーティクルフィルタにアンセストラサンプリングを適用する。
• 因果隣接行列のスパarsityは、滑らかに切り捨てられた絶対値（SCAD）ペナルティを用いて強制され、安定的かつ解釈可能な因果グラフの学習を促進する。
• 本手法は、時間に依存する因果パラメータとノイズ分散を同時に推定することで、統合的なフレームワーク内で因果発見と予測を両立可能にする。

実験結果

リサーチクエスチョン

• RQ1 時系列における非定常性は、定常的またはi.i.d.な設定では同定不可能な因果構造を同定するために活用可能か？
• RQ2 時間に依存するメカニズムを伴う非線形的・非定常的環境において、因果発見をどのように識別可能にするか？
• RQ3 因果構造を組み込むことで、非定常時系列における予測精度はどの程度向上するか？
• RQ4 因果状態空間モデルにおけるベイズ推論は、新規観測値と時間に依存するダイナミクスに効果的に適応可能か？
• RQ5 バイアスを生じさせることなく、因果関係のスパarsityをどのように強制するか？

主な発見

• 本手法は、非線形状態空間モデルにおける時間に依存する因果強度とノイズ分散のモデル化により、識別可能な因果発見を達成する。
• 非定常性により、原因と効果の分布間の統計的非対称性を介して因果方向の同定が可能になる。
• 学習された因果構造を活用することで、予測性能が顕著に向上し、モデルの複雑さが低減され、解釈可能性が向上する。
• SCADペナルティを用いたスパarsity導入により、ラッソと比較してバイアスが低減された安定した因果隣接行列の推定が達成される。
• 合成データおよび実世界のデータセットにおける実験結果から、ベースライン手法と比較して因果発見および予測精度の両面で優れた性能が示された。
• アンセストラサンプリングを組み合わせた条件付きパーティクルフィルタは、非線形的・非定常的状態空間モデルにおける効果的な状態推定を可能にし、頑健なパラメータ推定を支援する。