[논문 리뷰] Causal Discovery from Heterogeneous/Nonstationary Data

Biwei Huang, Kun Zhang외 5명|arXiv (Cornell University)|2019. 03. 05.

Bayesian Modeling and Causal Inference인용 수 76

한 줄 요약

이 논문은 비모수적 제약 기반 프레임워크인 CD-NOD를 제안하며, 창시된 분포 이동을 활용하여 창시된 윈도우 분할 없이 비동일하거나 비정상 데이터에서 인과적 스케letal과 방향을 식별한다. 이는 낮은 차원의 기계 변화 표현을 추정하고, 혼란 변수가 존재하더라도 데이터의 이질성이 인과적 구조 식별을 향상시킨다는 점을 드러낸다.

ABSTRACT

It is commonplace to encounter heterogeneous or nonstationary data, of which the underlying generating process changes across domains or over time. Such a distribution shift feature presents both challenges and opportunities for causal discovery. In this paper, we develop a framework for causal discovery from such data, called Constraint-based causal Discovery from heterogeneous/NOnstationary Data (CD-NOD), to find causal skeleton and directions and estimate the properties of mechanism changes. First, we propose an enhanced constraint-based procedure to detect variables whose local mechanisms change and recover the skeleton of the causal structure over observed variables. Second, we present a method to determine causal orientations by making use of independent changes in the data distribution implied by the underlying causal model, benefiting from information carried by changing distributions. After learning the causal structure, next, we investigate how to efficiently estimate the driving force of the nonstationarity of a causal mechanism. That is, we aim to extract from data a low-dimensional representation of changes. The proposed methods are nonparametric, with no hard restrictions on data distributions and causal mechanisms, and do not rely on window segmentation. Furthermore, we find that data heterogeneity benefits causal structure identification even with particular types of confounders. Finally, we show the connection between heterogeneity/nonstationarity and soft intervention in causal discovery. Experimental results on various synthetic and real-world data sets (task-fMRI and stock market data) are presented to demonstrate the efficacy of the proposed methods.

연구 동기 및 목표

• 분포 이동으로 인해 도메인 간 또는 시간에 따라 기계의 기반이 변화하는 데이터에서 인과적 발견의 과제를 해결하기 위해.
• 윈도우 분할이나 강력한 분포 가정에 의존하지 않는 비모수적 방법을 개발하여 인과적 스케letal과 방향을 식별하기 위해.
• 비정상적인 인과 기계의 변화를 이끄는 요인의 낮은 차원 표현을 추정하기 위해.
• 혼란 변수가 존재하더라도 데이터의 이질성이 인과적 구조 식별을 향상시킬 수 있는지 탐색하기 위해.
• 비정상성과 소프트 간섭 간의 이론적 연결을 설정하기 위해.

제안 방법

• 향상된 제약 기반 절차는 국소 기계가 변화하는 변수를 탐지하고, 도메인 또는 시간 포인트 간의 인과 스케letal을 복원한다.
• 독립적인 데이터 분포 변화를 활용하여 인과적 방향을 결정하며, 인과 모델이 암시하는 분포 이동의 정보를 활용한다.
• 비모수적 접근법은 기계 변화의 낮은 차원 표현을 추정하여 비정상성의 주요 원인을 포착한다.
• 데이터 분포나 인과 기계에 대한 특정한 모수적 형태를 가정하지 않아 광범위한 적용 가능성을 확보한다.
• 도메인 또는 시간 간의 분포 이동을 직접 모델링하여 윈도우 분할을 피한다.
• 소프트 간섭 이론의 통찰을 통합하여 비정상성과 인과 발견에서 간섭 유사 효과 간의 연결을 맺는다.

실험 결과

연구 질문

• RQ1 기계가 도메인 간 또는 시간에 따라 변화하는 이질적이거나 비정상적인 데이터에서 인과적 구조를 신뢰성 있게 복원할 수 있는가?
• RQ2 변화점에 대한 사전 지식 없이도 분포 이동을 활용하여 인과적 방향 탐지 성능을 향상시킬 수 있는가?
• RQ3 기계 변화의 낮은 차원 표현을 효과적으로 추정하는 비모수적 방법은 무엇인가?
• RQ4 혼란 변수가 존재할 경우 데이터의 이질성이 인과적 구조 식별에 어떤 영향을 미치는가?
• RQ5 비정상성과 소프트 간섭 간의 이론적 연결은 무엇인가?

주요 결과

• 제안된 CD-NOD 프레임워크는 윈도우 분할 없이 이질적이고 비정상적인 데이터에서 인과적 스케letal과 방향을 성공적으로 식별한다.
• 혼란 변수가 존재하더라도 분포 이동을 활용함으로써 인과적 구조 식별 성능이 향상된다.
• 기계 변화의 주요 원인에 대한 비모수적 추정은 비정상성의 효과적인 낮은 차원 표현을 가능하게 한다.
• 합성 데이터, fMRI 데이터, 주식 시장 데이터에 대한 실험 결과는 다양한 데이터 유형에서 본 방법의 강인성과 효능을 입증한다.
• 본 연구는 비정상성과 소프트 간섭 간의 이론적 연결을 확립하여 인과적 발견의 개념적 프레임워크를 풍부히 한다.