[论文解读] Causal Discovery from Heterogeneous/Nonstationary Data

Biwei Huang, Kun Zhang+5 more|arXiv (Cornell University)|Mar 5, 2019

Bayesian Modeling and Causal Inference被引用 76

一句话总结

本文提出CD-NOD，一种基于约束的非参数框架，用于从异质性或非平稳数据中进行因果发现，通过利用分布变化来识别因果骨架和方向，无需窗口分割。该方法能够估计机制变化的低维表示，并表明即使存在混淆因素，数据异质性也能增强因果结构识别能力。

ABSTRACT

It is commonplace to encounter heterogeneous or nonstationary data, of which the underlying generating process changes across domains or over time. Such a distribution shift feature presents both challenges and opportunities for causal discovery. In this paper, we develop a framework for causal discovery from such data, called Constraint-based causal Discovery from heterogeneous/NOnstationary Data (CD-NOD), to find causal skeleton and directions and estimate the properties of mechanism changes. First, we propose an enhanced constraint-based procedure to detect variables whose local mechanisms change and recover the skeleton of the causal structure over observed variables. Second, we present a method to determine causal orientations by making use of independent changes in the data distribution implied by the underlying causal model, benefiting from information carried by changing distributions. After learning the causal structure, next, we investigate how to efficiently estimate the driving force of the nonstationarity of a causal mechanism. That is, we aim to extract from data a low-dimensional representation of changes. The proposed methods are nonparametric, with no hard restrictions on data distributions and causal mechanisms, and do not rely on window segmentation. Furthermore, we find that data heterogeneity benefits causal structure identification even with particular types of confounders. Finally, we show the connection between heterogeneity/nonstationarity and soft intervention in causal discovery. Experimental results on various synthetic and real-world data sets (task-fMRI and stock market data) are presented to demonstrate the efficacy of the proposed methods.

研究动机与目标

• 解决由于分布变化导致机制在不同领域或随时间变化时的因果发现挑战。
• 开发一种非参数方法，以识别因果骨架和方向，而无需依赖窗口分割或强分布假设。
• 估计非平稳因果机制背后驱动力的低维表示。
• 探讨数据异质性如何在存在混淆因子的情况下提升因果结构识别能力。
• 建立非平稳性与软干预在因果发现中的理论联系。

提出的方法

• 一种增强的约束基程序检测机制发生变化的变量，并恢复跨领域或时间点的因果骨架。
• 通过利用数据分布中独立变化的特性来确定因果方向，利用因果模型所隐含的分布变化信息。
• 采用非参数方法估计机制变化的低维表示，捕捉非平稳性的驱动因素。
• 该方法不假设数据分布或因果机制的具体参数形式，确保广泛适用性。
• 通过直接建模跨领域或时间的分布变化，避免窗口分割。
• 该框架整合了软干预理论的见解，将非平稳性与因果发现中的干预效应联系起来。

实验结果

研究问题

• RQ1 如何从机制在不同领域或时间发生变化的异质性或非平稳数据中可靠地恢复因果结构？
• RQ2 是否可以利用分布变化来改善因果方向检测，而无需事先知道变化点？
• RQ3 一种有效的非参数方法是什么，可用于估计因果模型中机制变化的低维表示？
• RQ4 数据异质性如何影响因果结构识别，尤其是在存在混淆因子的情况下？
• RQ5 非平稳性与软干预在因果发现中存在何种理论联系？

主要发现

• 所提出的CD-NOD框架在无需窗口分割的情况下，成功识别了异质性和非平稳数据中的因果骨架和方向。
• 通过利用分布变化，该方法即使在存在混淆因子的情况下，也能提升因果结构识别能力。
• 对机制变化驱动因素的非参数估计，实现了对非平稳性的有效低维表示。
• 在合成数据、fMRI数据和股票市场数据上的实证结果表明，该方法在多种数据类型中均表现出稳健性和有效性。
• 本研究建立了非平稳性与软干预之间的理论联系，丰富了因果发现的概念框架。