[논문 리뷰] Deciphering Spatio-Temporal Graph Forecasting: A Causal Lens and Treatment

Yutong Xia, Yuxuan Liang외 5명|arXiv (Cornell University)|2023. 09. 23.

Air Quality Monitoring and Forecasting인용 수 15

한 줄 요약

CaST는 STG 예측에서 시간적 OoD 문제와 동적 공간 인과를 다루기 위해 백-도어 및 프런트-도어 보정을 포함한 인과 프레임워크를 도입하여, 데이터셋 전반에 걸쳐 강력하고 안정적인 개선을 달성한다.

ABSTRACT

Spatio-Temporal Graph (STG) forecasting is a fundamental task in many real-world applications. Spatio-Temporal Graph Neural Networks have emerged as the most popular method for STG forecasting, but they often struggle with temporal out-of-distribution (OoD) issues and dynamic spatial causation. In this paper, we propose a novel framework called CaST to tackle these two challenges via causal treatments. Concretely, leveraging a causal lens, we first build a structural causal model to decipher the data generation process of STGs. To handle the temporal OoD issue, we employ the back-door adjustment by a novel disentanglement block to separate invariant parts and temporal environments from input data. Moreover, we utilize the front-door adjustment and adopt the Hodge-Laplacian operator for edge-level convolution to model the ripple effect of causation. Experiments results on three real-world datasets demonstrate the effectiveness and practicality of CaST, which consistently outperforms existing methods with good interpretability.

연구 동기 및 목표

• STG 예측에서 시간적 OoD 문제를 해결하는 동기를 제시한다.
• STG 데이터에 대한 구조적 인과 모델(SCM)을 제안하여 교란 변수를 식별한다.
• 일반화 및 해석가능성을 향상시키기 위한 인과적 처리(백-도어 보정 및 프런트-도어 보정)를 개발한다.
• 이러한 처리들을 구현하는 인과 시공간 신경망 CaST를 소개한다.
• 해석가능한 구성요소를 가진 실세계 데이터셋에서 정확도와 견고성이 향상되었음을 입증한다.

제안 방법

• 교란 경로를 식별하기 위해 시간적 환경 E, 공간 맥락 C, 과거 X, 미래 Y를 갖는 SCM을 구성한다.
• 환경 분리기(Environment Disentangler)와 학습 가능한 환경 코드북을 이용해 백-도어 보정을 적용하고 불변 콘텐츠를 시간적 환경으로부터 분리한다.
• 대리 변수 X*와 엣지-레벨 Hodge-Laplacian 비혼합 모듈을 사용해 프런트-도어 보정을 적용하고 엣지-레벨 합성곱을 통해 동적 공간 인과를 포착한다.
• 환경 및 엔티티 표현의 해를 서로 분리(disentangle)하기 위해 예측 손실, 코드북 손실 및 상호 정보 정규화를 결합한 손실로 최적화한다.
• 환경 이산화 및 MI 기반 정규화를 도입하여 OoD 일반화 및 해석가능성을 향상시킨다.

실험 결과

연구 질문

• RQ1 인과 방법을 활용하여 STG 예측에서 시간적 OoD를 어떻게 완화할 수 있는가?
• RQ2 포괄적인 맥락 구분 없이도 동적 공간 인과를 포착할 수 있는가?
• RQ3 제안된 CaST 프레임워크가 다양한 실세계 STG 데이터셋에서 예측 정확도와 안정성을 향상시키는가?
• RQ4 학습된 환경 코드와 동적 인과 관계의 해석가능성은 어느 정도인가?

주요 결과

• CaST는 MAE와 RMSE에서 PEMS08, AIR-BJ, AIR-GZ 데이터셋 전반에서 모든 베이스라인을 능가한다.
• 소거 실험은 핵심 구성요소(환경, 엔티티, 엣지)가 성능에 기여함을 보여주며, 엔티티 및 환경 분리에서 특히 큰 이점을 보인다.
• 호지-라플라시안 기반의 엣지-레벨 합성곱이 공간에서 인과 관계의 파급 효과를 효과적으로 포착한다.
• 환경 코드북은 OoD 일반화를 가능하게 하고 기상 요소와 관련된 해석가능한 환경 유형을 밝힌다.
• CaST는 숨겨진 차원에 대한 민감도가 낮고 강건하며 해석가능한 동적 공간 인과를 제공한다.