[논문 리뷰] Causal Discovery from Temporal Data: An Overview and New Perspectives

Chang Gong, Di Yao외 3명|arXiv (Cornell University)|2023. 03. 17.

Time Series Analysis and Forecasting인용 수 7

한 줄 요약

이 논문은 시간적 데이터에서의 인과적 발견에 대한 종합적인 설문 조사로, 다변량 시계열 및 이벤트 시퀀스 인과 발견을 다룹니다. 제약 기반, 점수 기반, FCM 기반, 그랜저 인과 기반의 방법에 대한 체계적인 분류를 제안하며, 공개 데이터셋, 평가 지표, 인과 표현 학습 및 압축 모델링에 대한 새로운 시각을 제공하여 기존 설문 조사에서 이벤트 시퀀스 분석을 간과한 중요한 격차를 메웁니다.

ABSTRACT

Temporal data, representing chronological observations of complex systems, has always been a typical data structure that can be widely generated by many domains, such as industry, medicine and finance. Analyzing this type of data is extremely valuable for various applications. Thus, different temporal data analysis tasks, eg, classification, clustering and prediction, have been proposed in the past decades. Among them, causal discovery, learning the causal relations from temporal data, is considered an interesting yet critical task and has attracted much research attention. Existing causal discovery works can be divided into two highly correlated categories according to whether the temporal data is calibrated, ie, multivariate time series causal discovery, and event sequence causal discovery. However, most previous surveys are only focused on the time series causal discovery and ignore the second category. In this paper, we specify the correlation between the two categories and provide a systematical overview of existing solutions. Furthermore, we provide public datasets, evaluation metrics and new perspectives for temporal data causal discovery.

연구 동기 및 목표

• 시간적 데이터, 특히 다변량 시계열 및 이벤트 시퀀스 데이터에 대한 인과적 발견 방법의 체계적인 개요를 제공하기 위해.
• 기존 설문 조사가 다변량 시계열에 집중하면서 이벤트 시퀀스 인과 발견을 간과한 격차를 식별하고 해결하기 위해.
• 재현 가능한 연구를 지원하기 위해 공개 데이터셋과 표준화된 평가 지표를 수집하고 공유하기 위해.
• 스케일링되고 강건한 시간적 인과 추론을 위한 가능성을 지닌 인과 표현 학습 및 압축 모델링과 같은 새로운 방향을 탐색하기 위해.
• 비정상성, 관측되지 않은 혼란 변수, 데이터 이질성과 같은 실질적 과제를 부각하고 향후 방법론적 개발을 안내하기 위해.

제안 방법

• 다변량 시계열 인과 발견을 네 가지 주요 접근 방식으로 분류함: 제약 기반, 점수 기반, 기능적 인과 모델(FCM) 기반, 그랜저 인과 기반 방법.
• 이벤트 시퀀스 인과 발견을 세 가지 유사한 범주로 분류함: 제약 기반, 점수 기반, 그랜저 인과 기반 방법. 특히 그랜저 인과와 하크스 과정 간의 자연스러운 일치성에 중점을 둠.
• 잠재 인과 변수의 비모수적 및 모수적 식별 조건을 설정하는 LEAP(Latent Temporal Causal Process Estimation) 프레임워크를 도입하고 논의함. 비정상적 설정에서의 적용 가능성을 강조함.
• 개입 대상 정보와 데이터 증강을 활용하여 강한 파rametric 가정 없이도 잠재 인과 요소를 식별할 수 있는 대조 학습 기반 방법(CITRIS 및 iCITRIS)을 검토함.
• VAE에 인과 프로세스 네트워크를 통합하고 비정상적 노이즈를 위한 플로 기반 모델을 사용하여 잠재 인과 구조의 식별도 향상시키는 학습 프레임워크를 제안함.
• 시간적 구조와 다중 시각을 통합하여 독립 인과 요소의 분리도 향상시키며, ICA 및 딥 생성 모델 기법을 활용함.

실험 결과

연구 질문

• RQ1 다변량 시계열과 이벤트 시퀀스 데이터 간의 인과적 발견 방법을 어떻게 체계적으로 분류하고 비교할 수 있는가?
• RQ2 보정된 시계열과 비정기적으로 관측된 이벤트 시퀀스에서의 인과 발견 간의 주요 방법론적 차이점과 유사점은 무엇인가?
• RQ3 비정상성, 관측되지 않은 혼란 변수, 및 샘플링 감소 조건 하에서 시간적 데이터로부터 인과 구조를 식별하는 데 주요 과제는 무엇인가?
• RQ4 복잡하고 고차원적인 시간적 관측치로부터 잠재 인과 요소를 식별하기 위해 인과 표현 학습을 어떻게 활용할 수 있는가?
• RQ5 시간적 인과 발견 방법을 평가하기 위한 가장 효과적인 평가 지표와 공개된 데이터셋은 무엇인가?

주요 결과

• 그랜저 인과 기반 방법, 특히 하크스 과정과 조합된 경우, 이론적 일치성이 자연스럽게 이루어지므로 이벤트 시퀀스 인과 발견에 특히 잘 발전되어 있음.
• LEAP는 비정상적 시간 과정에서 잠재 인과 변수에 대한 비모수적 및 모수적 식별 조건을 설정하여 강건한 인과 구조 학습이 가능함.
• CITRIS 및 iCITRIS는 엄격한 기능적 또는 분포 가정 없이도 개입 대상 정보를 통해 인과 요소의 블록 식별이 가능함을 보여줌.
• 시간적 구조와 다중 시각을 통합한 인과 표현 학습 프레임워크는 잠재 인과 요소의 분리도 및 식별도를 크게 향상시킴.
• 논문은 비정상성, 관측되지 않은 혼란 변수, 데이터 샘플링 감소가 실제 시간적 데이터에서 유추된 인과 관계의 품질을 떨어뜨리는 주요 과제임을 규명함.
• 저자는 향후 시간적 인과 발견 연구의 표준화된 벤치마킹과 재현 가능성을 지원하기 위해 공개 데이터셋과 평가 지표의 정제된 목록을 제공함.