[论文解读] Causal Inference on Time Series using Structural Equation Models

Jonas Peters, Dominik Janzing+1 more|arXiv (Cornell University)|Jul 21, 2012

Bayesian Modeling and Causal Inference参考文献 13被引用 8

一句话总结

本文提出TiMINo（带独立噪声的时间序列模型），一种用于时间序列因果推断的结构方程模型框架，可在不依赖马尔可夫性或线性假设的前提下，实现非线性、瞬时及滞后因果效应的可识别性。该方法提出了一种实用算法，在假设被违反时保持‘不确定’状态，从而避免错误的因果结论，其在合成数据与真实数据上的表现优于现有方法。

ABSTRACT

Causal inference uses observations to infer the causal structure of the data generating system. We study a class of functional models that we call Time Series Models with Independent Noise (TiMINo). These models require independent residual time series, whereas traditional methods like Granger causality exploit the variance of residuals. There are two main contributions: (1) Theoretical: By restricting the model class (e.g. to additive noise) we can provide a more general identifiability result than existing ones. This result incorporates lagged and instantaneous effects that can be nonlinear and do not need to be faithful, and non-instantaneous feedbacks between the time series. (2) Practical: If there are no feedback loops between time series, we propose an algorithm based on non-linear independence tests of time series. When the data are causally insufficient, or the data generating process does not satisfy the model assumptions, this algorithm may still give partial results, but mostly avoids incorrect answers. An extension to (non-instantaneous) feedbacks is possible, but not discussed. It outperforms existing methods on artificial and real data. Code can be provided upon request.

研究动机与目标

• 为解决现有时间序列因果推断方法的局限性，这些方法通常假设线性、马尔可夫性，或排除瞬时效应。
• 开发一种框架，利用结构方程模型实现时间序列中非线性、瞬时及滞后因果效应的可识别性。
• 设计一种实用算法，在模型假设被违反时保持‘不确定’状态，从而避免错误的因果推论。
• 将此前仅适用于i.i.d.数据的功能模型因果推断方法拓展至时间序列领域，并提供理论保证。

提出的方法

• 本文引入TiMINo，一种结构方程模型类别，其中每个时间序列是其直接原因和独立噪声的函数，且所有变量在时间上的噪声项整体相互独立。
• 假设平稳性及有限时间阶数（无超过滞后$p$的影响），并建模瞬时与滞后因果效应，包括非线性和非马尔可夫关系。
• 该方法依赖于残差时间序列之间的非线性独立性检验来推断因果结构，避免依赖如格兰杰因果中基于方差的度量。
• 算法TiMINo因果推断使用条件独立性检验与非线性独立性检验，从有限样本中恢复因果图。
• 引入一种决策规则，当数据违反模型假设时默认选择‘不确定’，从而降低错误因果声明的风险。
• 在较弱条件下证明了理论可识别性：若噪声项整体独立，且函数形式足够一般（例如加性噪声），则可从分布中完全恢复因果结构。

实验结果

研究问题

• RQ1 在包含非线性、瞬时效应及非马尔可夫关系的一般条件下，能否识别时间序列中的因果结构？
• RQ2 如何将功能模型适配至时间序列，以确保在非线性或非高斯假设下的可识别性？
• RQ3 能否设计一种实用算法，在模型假设被违反时避免错误的因果结论？
• RQ4 该方法在合成数据与真实世界数据上，相较于格兰杰因果、LiNGAM或相位斜率指数等现有方法，性能提升程度如何？

主要发现

• TiMINo通过允许非线性、瞬时效应、非马尔可夫关系以及非瞬时反馈，提供了比现有方法更广义的可识别性结果。
• 所提出的TiMINo因果推断算法在人工数据与真实世界时间序列数据上均优于现有方法，尤其在检测复杂因果结构方面表现更优。
• 当模型假设被违反时，算法大多保持‘不确定’状态而非得出错误的因果结论，从而增强了鲁棒性。
• 在存在隐藏共同原因的场景中（如牛奶价格同时影响黄油与奶酪），TiMINo能正确避免在黄油与奶酪之间推断出直接因果关系，而TS-LiNGAM与格兰杰因果方法则会错误推断。
• 在存在时滞效应与隐藏混淆因子的情况下，该方法能成功识别出正确的因果结构，而其他方法则会失败。
• 理论分析证实，在噪声项整体独立与结构约束条件下，完整的因果图可从联合分布中实现可识别。