[논문 리뷰] Causal discovery for time series from multiple datasets with latent contexts

W. Gunther, Urmi Ninad외 1명|arXiv (Cornell University)|2023. 06. 22.

Bayesian Modeling and Causal Inference인용 수 6

한 줄 요약

이 논문은 잠재적인 시간적 및 공간적 맥락을 가진 다변량 시계열에 대한 비모수적 원인 발견 방법인 J-PCMCI+를 제안한다. 다양한 데이터셋을 통합함으로써, 관측되지 않은 맥락 혼란 변수를 보정하기 위해 시간 및 공간 드럼 변수를 사용함으로써 점차적 일致성을 확보하고 원인 발견 정확도를 향상시킨다. 특히 충분한 표본 크기와 중간 수준의 데이터셋 수에서 뛰어난 성능을 발휘한다.

ABSTRACT

Causal discovery from time series data is a typical problem setting across the sciences. Often, multiple datasets of the same system variables are available, for instance, time series of river runoff from different catchments. The local catchment systems then share certain causal parents, such as time-dependent large-scale weather over all catchments, but differ in other catchment-specific drivers, such as the altitude of the catchment. These drivers can be called temporal and spatial contexts, respectively, and are often partially unobserved. Pooling the datasets and considering the joint causal graph among system, context, and certain auxiliary variables enables us to overcome such latent confounding of system variables. In this work, we present a non-parametric time series causal discovery method, J(oint)-PCMCI+, that efficiently learns such joint causal time series graphs when both observed and latent contexts are present, including time lags. We present asymptotic consistency results and numerical experiments demonstrating the utility and limitations of the method.

연구 동기 및 목표

• 다양한 맥락(예: 강수권)에서 유래한 다수의 데이터셋이 가용할 경우, 잠재적 혼란 변수(예: 대규모 기상 또는 지형)를 고려하지 못하는 단일 데이터셋 원인 발견 방법의 한계를 보완한다.
• PCMCI+ 알고리즘을 확장하여 시스템 변수, 관측된 맥락, 잠재적 맥락 혼란 변수를 시간 및 공간 드럼 변수를 통해 동시에 모델링한다.
• 시간적 및 공간적 맥락의 영향을 제거함으로써 점차적 조건 하에서 일致한 원인 그래프 추정을 가능하게 하며, 자가상관을 유지하면서도 높은 재현율을 확보한다.
• 공동 그래프 내에서 맥락 변수와 그 의존성 정보를 활용하여 시스템 변수 간의 원인 방향을 향상시킨다.

제안 방법

• 다양한 맥락(예: 강수권)에서 유래한 다변량 시계열 데이터셋을 하나의 통합 데이터셋으로 통합하여 표본 크기를 증가시킨다.
• 잠재적인 시간에 따라 변하는 혼란 변수를 나타내기 위해 시간 드럼 변수와 공간적으로 일정한 혼란 변수를 나타내기 위해 공간 드럼 변수를 도입한다.
• 통합된 데이터에 대해 PCMCI+ 알고리즘을 적용하며, 관측된 맥락 변수와 드럼 변수를 모두 원인 그래프의 일부로 간주한다.
• 시간적 의존성과 시계열의 자가상관을 고려하기 위해 지연된 변수를 포함한 조건부 이상성 테스트를 수행한다.
• 드럼 변수를 조건으로 설정하여, 그 외에 시스템 변수 간의 관계를 왜곡시키는 잠재적 맥락 효과를 제거한다.
• Markov 동치성의 모호성이 존재할 경우, 맥락 변수와 그 의존성을 활용하여 시스템 변수 간 원인 관계의 방향을 결정한다.

Figure 1: Causal discovery with temporal- and spatial-contexts. (A) Two datasets of system variables $X^{1},X^{2}$ may be confounded by the same temporal context $\tilde{C}^{1}_{\rm time}$ , but differ in dataset-specific characteristics that are constant over time, here autocorrelation, which can b

실험 결과

연구 질문

• RQ1 관측되지 않은 시간적 및 공간적 맥락이 시스템 변수에 영향을 주는 상황에서, 여러 시계열 데이터셋 간의 통합 원인 발견이 원인 추론을 향상시킬 수 있는가?
• RQ2 시간 및 공간 드럼 변수의 포함 여부가 관측되지 않은 혼란 변수 존재 시 원인 발견의 일치성과 정확도에 미치는 영향은 어떠한가?
• RQ3 시간 길이(T)와 데이터셋 수(M)와의 관계에서, 제한된 표본 크기에서의 수렴 성질은 어떠한가?
• RQ4 관측된 맥락 변수는 공동 그래프 내에서 시스템 변수 간 원인 관계의 방향을 어느 정도 향상시킬 수 있는가?
• RQ5 작은 표본 크기 또는 고차원 드럼 변수 조건에서 이 방법의 한계는 무엇인가?

주요 결과

• 충분한 표본 크기가 확보된 경우, 관측된 맥락 변수와 잠재적 맥락 변수가 모두 존재할 때 J-PCMCI+는 원인 발견에서 점차적 일치성을 확보한다.
• 잠재적 혼란 변수 존재 시 기존 PCMCI+ 대비 거짓 양성률이 크게 감소하며, 특히 관측되지 않은 맥락을 모델링하기 위해 드럼 변수를 사용할 경우 두드러진 성능 향상을 보인다.
• 수치 실험 결과, 시간 길이(T)가 길어지고 데이터셋 수(M)가 중간 수준일수록 성능 향상이 두드러지며, T가 크면 TPR이 이론적 최대치에 가까워진다.
• T가 M에 비해 작을 경우, 완전한 혼란 제거가 이루어지지 않아 기저의 유한 표본 편향이 지속되며, 고정 효과 모델의 Nickell 편향과 일치하는 거짓 양성률 상승 현상이 발생한다.
• PCMCI+의 고자기상관 시계열 처리 능력은 그대로 유지되어 조건부 이상성 테스트에서 높은 재현율을 확보한다.
• 드럼 변수 사용은 차원 수를 증가시키지만, 잠재적 맥락 변수의 효과를 효과적으로 제거할 수 있게 하며, 모델 위반 정도가 심하거나 표본 크기가 작을 경우 그 효과가 감소한다.

Figure 2: Discovery results of context-system links for varying sample sizes $T$ , $M=10$ . All other setup parameters are set as the defaults described in the main text. In this setting all context nodes are observed. Here, we compare our method (J-PCMCI + ) to PCMCI + using all data of observed no