[论文解读] On Data-Driven Computation of Information Transfer for Causal Inference in Dynamical Systems

Subhrajit Sinha, Umesh Vaidya|arXiv (Cornell University)|Mar 22, 2018

Model Reduction and Neural Networks参考文献 18被引用 5

一句话总结

本文提出了一种数据驱动方法，利用Koopman算子和Perron-Frobenius算子计算动力系统中的信息传递，即使在传统方法（如Granger因果性）失效的情况下，也能实现准确的因果推断。该方法采用一种稳健的自然结构动态模式分解（NSDMD）算法，从噪声时间序列数据中近似传递算子，成功识别出线性和非线性系统中的真实因果结构，包括标准方法错误推断出双向因果关系的情况。

ABSTRACT

In this paper, we provide a novel approach to capture causal interaction in a dynamical system from time-series data. In \cite{sinha_IT_CDC2016}, we have shown that the existing measures of information transfer, namely directed information, granger causality and transfer entropy fail to capture true causal interaction in dynamical system and proposed a new definition of information transfer that captures true causal interaction. The main contribution of this paper is to show that the proposed definition of information transfer in \cite{sinha_IT_CDC2016}\cite{sinha_IT_ICC} can be computed from time-series data. We use transfer operator theoretic framework involving Perron-Frobenius and Koopman operators for the data-driven approximation of the system dynamics and for the computation of information transfer. Several examples involving linear and nonlinear system dynamics are presented to verify the efficiency of the developed algorithm.

研究动机与目标

• 为了解决现有因果性度量（如Granger因果性、定向信息和传递熵）在动力系统中，甚至在简单线性情况下，无法正确识别因果结构的问题。
• 实现在新定义的信息传递度量上的数据驱动计算，通过引入‘冻结’系统动态的概念，捕捉真实的因果相互作用。
• 开发一种稳健、抗噪声的算法，从时间序列数据中近似Koopman算子和Perron-Frobenius算子，克服从观测数据推断干预的挑战。
• 在线性和非线性动力系统上验证所提方法，证明其在识别正确因果方向方面优于传统因果性度量。

提出的方法

• 该方法基于Koopman算子和Perron-Frobenius算子的传递算子框架，将非线性动力系统在可观测量空间中线性表示并进行度量。
• 采用NSDMD算法的稳健实现，从时间序列数据中近似Koopman算子和P-F算子，增强了在噪声下的稳定性。
• 变量x对y的信息传递计算为y(t+1), y(t)的熵与x被‘冻结’（即其动态从系统中移除）时y(t+1), y(t)的熵之差。
• 通过数据驱动的系统动态重建模拟冻结操作，实现在不直接修改系统情况下的干预分析。
• 算法使用高斯径向基函数作为Koopman算子近似的字典，参数经过调优以增强抗噪声能力。
• 信息传递计算为H(y(t+1), y(t)) − H¬x(y(t+1), y(t))，其中第二项来自x被解耦的修改后系统。

实验结果

研究问题

• RQ1 当传统因果性度量失效时，数据驱动方法能否准确计算动力系统中的信息传递？
• RQ2 如何从时间序列数据中实现‘冻结’动态的概念，而无需直接干预系统？
• RQ3 在标准度量错误推断出虚假双向影响的非线性系统中，该方法能否正确识别单向因果性？
• RQ4 噪声的存在如何影响因果推断的准确性？该方法是否仍具有鲁棒性？
• RQ5 该信息传递度量能否恢复线性系统中的已知解析结果，如平方影响系数？

主要发现

• 对于一个两状态的非线性系统，该方法正确识别出x到y的信息传递为零（T_x→y = -0.03），而y到x存在显著传递（T_y→x = 1.63），而Granger因果性则错误地推断出相互影响。
• 在Henon映射中，该方法计算出T_x→y = 0.0982，T_y→x = -0.7246，x到y的正向传递与线性近似中的理论值b² = 0.09非常接近。
• Henon映射中y到x的负向信息传递归因于系统的混合Lyapunov指数，表明存在复杂的动力学行为。
• 基于NSDMD的Koopman算子近似对过程噪声（γ = 0.01）具有鲁棒性，使得从1000步时间序列数据中准确计算信息传递成为可能。
• 该方法在线性和非线性系统中均成功恢复了正确的因果结构，优于Granger因果性和传递熵，后者未能检测到单向因果性。
• 该算法表明，即使无法进行直接干预，也可通过算子理论方法从观测数据中可靠计算信息传递。