[논문 리뷰] Do We Really Need Graph Neural Networks for Traffic Forecasting?

Xu Liu, Yuxuan Liang외 5명|arXiv (Cornell University)|2023. 01. 30.

Traffic Prediction and Management Techniques인용 수 9

한 줄 요약

본 논문은 그래프 없는 시공간 학습 접근법인 SimST를 소개하며, 지역 근접 모델링과 전역 센서 임베딩으로 GNN의 통찰을 근사하고, STGNN과 비슷한 정확도를 훨씬 더 높은 처리량으로 달성한다.

ABSTRACT

Spatio-temporal graph neural networks (STGNN) have become the most popular solution to traffic forecasting. While successful, they rely on the message passing scheme of GNNs to establish spatial dependencies between nodes, and thus inevitably inherit GNNs' notorious inefficiency. Given these facts, in this paper, we propose an embarrassingly simple yet remarkably effective spatio-temporal learning approach, entitled SimST. Specifically, SimST approximates the efficacies of GNNs by two spatial learning techniques, which respectively model local and global spatial correlations. Moreover, SimST can be used alongside various temporal models and involves a tailored training strategy. We conduct experiments on five traffic benchmarks to assess the capability of SimST in terms of efficiency and effectiveness. Empirical results show that SimST improves the prediction throughput by up to 39 times compared to more sophisticated STGNNs while attaining comparable performance, which indicates that GNNs are not the only option for spatial modeling in traffic forecasting.

연구 동기 및 목표

• 교통 예측에 그래프 신경망의 필요성을 의문시하고 공간 모델링을 간단하고 확장 가능한 구성 요소로 축소한다.
• 메시지 전달 없이 GNN의 효율을 근사하는 두 가지 공간 학습 모듈을 제안: 로컬 근접성 모델링과 글로벌 상관 학습.
• 다양한 시간 인코더와의 플러그앤플레이 호환성과 일반화 성능을 향상시키는 학습 전략을 제시한다.
• 다섯 가지 교통 벤치마크에서 최첨단 STGNN 기준과 비교하여 효율성과 정확도를 평가한다.

제안 방법

• (1) Local Proximity Modeling은 에고 그래프와 MLP를 사용하여 노드와 그 상위 k 이웃의 과거 정보를 양방향으로 처리한다. (2) Global Correlation Learning은 MLP로 변환된 정적 센서 임베딩을 사용하여 장거리 공간 관계를 모델링한다.
• 공간 모듈을 GRU, WaveNet, Causal Transformer 등의 다양한 시간 인코더와 함께 엔드투엔드 프레임워크로 결합하고, 시간 요약을 위치 임베딩과 연결한 뒤 MLP로 예측한다.
• 노드 기반 배치 샘플링 전략을 채택하여 일반화와 메모리 사용을 줄이고, 각 노드-시간 창을 별개의 인스턴스로 간주하여 샘플 다양성을 높인다.
• 제안된 공간 모듈이 일반적인 STGNN의 적응형 인접성에서의 이차적 확장에 비해 선형 확장을 보인다는 복잡도 분석을 제공한다.
• 상관 학습, 근접성 모델링, 학습 전략의 기여도를 정량화하기 위한 어블레이션 연구 및 사례 분석을 수행한다.

실험 결과

연구 질문

• RQ1 GNN 기반 메시지 전달 없이 교통 예측에서 공간 의존성을 효과적으로 모델링할 수 있는가?
• RQ2 단순한 로컬 및 글로벌 공간 모듈로 STGNN의 성능에 필적하거나 이를 상회하면서도 훨씬 높은 추론 처리량을 제공할 수 있는가?
• RQ3 제안된 학습 전략(노드 기반 샘플링)이 일반화와 효율성에 어떤 영향을 미치는가?
• RQ4 제안된 공간 모듈이 서로 다른 시간 백본(GRU, WaveNet, Transformer)과 데이터셋에서 로버스트한가?

주요 결과

• SimST 변형은 다섯 가지 교통 벤치마크에서 최첨단 STGNN과 비교해 경쟁력 있는 정확도를 달성한다.
• SimST는 기초 모델 대비 최대 39배 더 높은 추론 처리량을 제공하면서도 비슷한 성능을 유지한다.
• 전역 센서 임베딩과 로컬 에고 그래프 모델링이 성능에 크게 기여하며, 이웃 정보가 희소할 때 글로벌 모듈이 특히 영향력이 크다.
• 노드 기반 배치 샘플링은 일반화를 개선하고 메모리 비용을 줄여 큰 그래프의 확장을 가능하게 한다.
• 트랜스포머가 항상 우수한 것은 아니며, GRU 기반 SimST 변형이 강력하게 성능을 발휘하는 점은 간단한 공간 설계의 효과를 강조한다.