[논문 리뷰] Spatio-Temporal Meta-Graph Learning for Traffic Forecasting

Renhe Jiang, Zhaonan Wang외 7명|arXiv (Cornell University)|2022. 11. 27.

Traffic Prediction and Management Techniques인용 수 11

한 줄 요약

이 논문은 메타노드 백업과 하이퍼네트워크를 통해 동적으로 노드 임베딩을 학습하는 메타노드 기반 메타그래프 학습 메커니즘을 포함한 메타그래프 컨볼루션 순환망(MegaCRN) 내에서 공간-시간 이질성과 비정상적인 교통 조건에 적응하는 데에 초점을 맞춘 새로운 스펙트럴 메타그래프 학습 기법을 제안한다. 이 모델은 METR-LA, PEMS-BAY 및 새로운 대규모 도쿄 데이터셋(EXPY-TKY)에서 최신 기술(SOTA) 성능을 달성하여 높은 정확성과 사고 발생에 대한 강건성을 입증한다.

ABSTRACT

Traffic forecasting as a canonical task of multivariate time series forecasting has been a significant research topic in AI community. To address the spatio-temporal heterogeneity and non-stationarity implied in the traffic stream, in this study, we propose Spatio-Temporal Meta-Graph Learning as a novel Graph Structure Learning mechanism on spatio-temporal data. Specifically, we implement this idea into Meta-Graph Convolutional Recurrent Network (MegaCRN) by plugging the Meta-Graph Learner powered by a Meta-Node Bank into GCRN encoder-decoder. We conduct a comprehensive evaluation on two benchmark datasets (i.e., METR-LA and PEMS-BAY) and a new large-scale traffic speed dataset called EXPY-TKY that covers 1843 expressway road links in Tokyo. Our model outperformed the state-of-the-arts on all three datasets. Besides, through a series of qualitative evaluations, we demonstrate that our model can explicitly disentangle the road links and time slots with different patterns and be robustly adaptive to any anomalous traffic situations. Codes and datasets are available at https://github.com/deepkashiwa20/MegaCRN.

연구 동기 및 목표

• 기존 모델들이 효과적으로 포착하지 못하는 교통 예측에서의 공간-시간 이질성과 비정상성 문제를 해결하기 위해.
• 다른 교통 패턴을 가지는 도로 구간과 시간대를 명시적으로 분리하는 그래프 구조 학습 기법을 개발하기 위해.
• 재학습 없이도 사고 및 혼잡과 같은 비정상적인 교통 사건에 강건하게 적응할 수 있도록 하기 위해.
• 다양한 교통 제도와 대규모 도로 네트워크에 일반화 가능한 확장성 있고 메모리 효율적인 모델을 구축하기 위해.

제안 방법

• 메타그래프 러닝 기법은 가중치 학습이 가능한 메타노드 백업에서 프로토타입을 검색하여 각 시간 스텝에 대한 동적 노드 임베딩을 생성한다.
• 하이퍼네트워크를 사용해 검색된 프로토타입 기반으로 노드 임베딩을 재구성함으로써 파라미터 효율적인 적응을 가능하게 한다.
• 이 방법은 GCRN 인코더-디코더 프레임워크에 통합되어 엔드 투 엔드 교통 예측을 위한 MegaCRN 아키텍처를 형성한다.
• 모델은 입력 조건에 따라 변하는 시간적 그래프 구조를 학습하여 변화하는 공간적 의존성과 교통 역학을 반영한다.
• 메타노드 백업은 국소화된, 패턴에 특화된 표현을 저장하여 모델이 다양한 도로 유형과 교통 제도를 구분할 수 있도록 한다.
• 고정 또는 히우리스틱 기반의 그래프 정의에 의존하는 것을 피하고, 데이터에서 직접 그래프 구조를 학습한다.

실험 결과

연구 질문

• RQ1 메타학습 기반의 그래프 구조 학습 기법은 교통 데이터의 공간-시간 이질성을 효과적으로 분리할 수 있는가?
• RQ2 동적으로 학습된 그래프 구조는 사고나 정점 시간대와 같은 비정상적인 교통 조건에 얼마나 잘 적응하는가?
• RQ3 제안된 메타그래프 러닝 기법은 정적 또는 적응형 그래프 방법에 비해 예측 정확도를 향상시키는가?
• RQ4 복잡한 사고 패tern을 가진 실제 대규모 도로 네트워크에 일반화 가능한가?

주요 결과

• MegaCRN은 METR-LA 및 PEMS-BAY와 같은 기준 데이터셋에서 최신 기술(SOTA) 성능을 달성하여 기존 SOTA 모델을 초월했다.
• 도쿄의 1,843개 도로 구간을 포함한 신규 공개된 EXPY-TKY 데이터셋에서, MegaCRN는 평가된 모든 모델 중 가장 낮은 전체 MAE를 기록했다.
• 모델은 가장 작은 MAE를 달성하면서도 두 번째로 적은 파라미터 수(133,597개)를 사용하여 높은 메모리 효율성을 입증했다.
• t-SNE 시각화 결과, 모델은 교차로나 통행료 정류장과 같이 특징이 뚜렷한 공간적·시간적 패턴을 가진 도로 구간을 군집화하는 것으로 확인되었다.
• 모델은 사고로 인한 교란을 성공적으로 포착했으며, 사고 발생 후 주목적 가중치와 국소 메타그래프가 동적으로 변화하는 것을 확인했다.
• 국소 메타그래프는 시간이 지남에 따라 변화했으며, 사고 발생 후 노드 1의 영향력은 감소한 반면, 인접 노드(7–10)는 더 중심적인 역할을 하게 되어 동적 적응성의 타당성을 확인했다.