[논문 리뷰] Causal Inference on Time Series using Structural Equation Models

Jonas Peters, Dominik Janzing외 1명|arXiv (Cornell University)|2012. 07. 21.

Bayesian Modeling and Causal Inference참고 문헌 13인용 수 8

한 줄 요약

이 논문은 시간 시리즈에서 인과 추론을 위한 구조적 방정식 모델 프레임워크인 TiMINo (Time Series Models with Independent Noise)를 제안한다. 이는 충성도 또는 선형성 가정 없이 비선형, 즉각적, 지연된 인과 효과의 식별 가능성을 보장한다. 실용적인 알고리즘을 도입하여 모델 가정이 위반될 경우 잘못된 인과적 결론을 내리지 않고 결정을 유보함으로써 기존 방법보다 더 뛰어난 성능을 보이며, 합성 및 실세계 데이터에서 검증된다.

ABSTRACT

Causal inference uses observations to infer the causal structure of the data generating system. We study a class of functional models that we call Time Series Models with Independent Noise (TiMINo). These models require independent residual time series, whereas traditional methods like Granger causality exploit the variance of residuals. There are two main contributions: (1) Theoretical: By restricting the model class (e.g. to additive noise) we can provide a more general identifiability result than existing ones. This result incorporates lagged and instantaneous effects that can be nonlinear and do not need to be faithful, and non-instantaneous feedbacks between the time series. (2) Practical: If there are no feedback loops between time series, we propose an algorithm based on non-linear independence tests of time series. When the data are causally insufficient, or the data generating process does not satisfy the model assumptions, this algorithm may still give partial results, but mostly avoids incorrect answers. An extension to (non-instantaneous) feedbacks is possible, but not discussed. It outperforms existing methods on artificial and real data. Code can be provided upon request.

연구 동기 및 목표

• 기존 시간 시리즈 인과 추론 방법의 한계를 해결하기 위해, 선형성, 충성도 가정, 즉각적 영향의 배제를 포함한 가정을 줄이기 위해.
• 구조적 방정식 모델을 사용하여 비선형, 즉각적, 지연된 인과 효과의 식별 가능성을 보장하는 프레임워크를 개발하기 위해.
• 모델 가정이 위반될 경우 결정을 유보함으로써 잘못된 인과적 결론을 피할 수 있는 실용적인 알고리즘을 설계하기 위해.
• 이전에 i.i.d. 데이터에 적용된 기능 모델 기반 인과 추론을 이론적 보장과 함께 시간 시리즈 영역으로 확장하기 위해.

제안 방법

• 논문은 TiMINo를 도입하며, 각 시간 시리즈가 직접 원인과 독립된 노이즈의 함수로 구성되며, 모든 변수와 시간에 걸쳐 노이즈 항목이 공동으로 독립적이 되는 구조적 방정식 모델의 일종이다.
• 정적성과 유한한 시간 순서(지연 $p$ 이상의 영향 없음)를 가정하며, 즉각적 및 지연된 인과 효과를 모두 모델링하며, 비선형 및 비충성관계도 포함한다.
• 인과 구조를 추론하기 위해 잔차 시간 시리즈 간의 비선형 독립성 검정에 의존하며, 그라저 인과관계에서처럼 분산 기반 측정에 의존하지 않는다.
• TiMINo 인과성 알고리즘은 조건부 독립 검정과 비선형 독립성 검정을 사용하여 유한 표본으로부터 인과 그래프를 복원한다.
• 데이터가 모델 가정을 위반할 경우 결정을 유보하는 의사결정 규칙을 통합함으로써 잘못된 인과적 주장의 위험을 줄인다.
• 이론적으로는 미약한 조건 하에서 식별 가능성을 증명한다: 노이즈 항목이 공동으로 독립적이며 기능 형태가 충분히 일반적(예: 가산 노이즈)이면, 전체 인과 구조는 분포로부터 복원 가능하다.

실험 결과

연구 질문

• RQ1 비선형, 즉각적, 비충성 효과를 포함하는 일반적인 조건 하에서 시간 시리즈의 인과 구조를 식별할 수 있는가?
• RQ2 기능 모델은 시간 시리즈에 어떻게 적응시켜 비선형 또는 가우시안 가정을 초월한 식별 가능성을 보장할 수 있는가?
• RQ3 모델 가정이 위반될 경우 잘못된 인과적 결론을 피할 수 있는 실용적인 알고리즘을 설계할 수 있는가?
• RQ4 이러한 방법은 합성 및 실세계 데이터에서 기존의 접근 방식인 그라저 인과관계, LiNGAM, 또는 단위 위상 기반 인덱스보다 얼마나 뛰어나게 성능을 보이는가?

주요 결과

• TiMINo는 비선형, 즉각적, 비충성 효과뿐만 아니라 비즉각적 피드백까지 허용함으로써, 이전 방법보다 더 일반적인 식별 가능성 결과를 제공한다.
• 제안된 TiMINo 인과성 알고리즘이 인위적 및 실세계 시간 시리즈 데이터에서 모두 기존 방법보다 뛰어난 성능을 보이며, 특히 복잡한 인과 구조를 탐지하는 데 유리하다.
• 모델 가정이 위반될 경우 알고리즘은 대부분 결정을 유보하며 잘못된 인과적 결론을 내리지 않아 강건성을 향상시킨다.
• 예를 들어 버터와 치즈에 영향을 주는 숨겨진 공통 원인(예: 우유 가격)이 존재하는 상황에서, TiMINo는 버터와 치즈 사이에 직접적인 인과적 연결을 잘못 추론하지 않고 정확히 회피한다. 반면 TS-LiNGAM과 그라저 인과관계는 잘못된 연결을 유도한다.
• 시간 지연 효과와 숨겨진 교란 요인 존재 시, 다른 방법이 실패하는 상황에서도 TiMINo는 정확한 인과 구조를 식별하는 데 성공한다.
• 이론적 분석을 통해 공동 노이즈 독립성과 구조적 제약 조건 하에서 전체 인과 그래프가 공동 분포로부터 식별 가능하다는 것이 확인되었다.