[논문 리뷰] Adaptive Graph Convolutional Recurrent Network for Traffic Forecasting

Lei Bai, Lina Yao외 3명|arXiv (Cornell University)|2020. 07. 06.

Traffic Prediction and Management Techniques참고 문헌 46인용 수 697

한 줄 요약

이 논문은 AGCRN을 도입한다. 이는 노드별 GCN 매개변수와 데이터 기반 그래프를 학습하는 적응 프레임워크로서, 미리 정해진 공간 그래프 없이 다단계 트래픽을 예측하고, 최첨단 방법들보다 정확도를 향상시킨다.

ABSTRACT

Modeling complex spatial and temporal correlations in the correlated time series data is indispensable for understanding the traffic dynamics and predicting the future status of an evolving traffic system. Recent works focus on designing complicated graph neural network architectures to capture shared patterns with the help of pre-defined graphs. In this paper, we argue that learning node-specific patterns is essential for traffic forecasting while the pre-defined graph is avoidable. To this end, we propose two adaptive modules for enhancing Graph Convolutional Network (GCN) with new capabilities: 1) a Node Adaptive Parameter Learning (NAPL) module to capture node-specific patterns; 2) a Data Adaptive Graph Generation (DAGG) module to infer the inter-dependencies among different traffic series automatically. We further propose an Adaptive Graph Convolutional Recurrent Network (AGCRN) to capture fine-grained spatial and temporal correlations in traffic series automatically based on the two modules and recurrent networks. Our experiments on two real-world traffic datasets show AGCRN outperforms state-of-the-art by a significant margin without pre-defined graphs about spatial connections.

연구 동기 및 목표

• 트래픽 데이터에서 GCN의 공유 파라미터를 넘어 노드별 패턴 학습의 필요성을 제시한다.
• 사전에 손으로 설계된 인접 그래프에 의존하지 않고 데이터에서 관계를 추론한다.
• 노드-적응 GCN과 순환 네트워크를 결합해 공간-시간 동적 특성을 포착한다.
• 엔드 투 엔드로 학습 가능한 모듈을 제공하여 다단계 트래픽 예측 성능을 향상시킨다.

제안 방법

• 작은 노드 임베딩과 공유 가중치 풀에서 노드별 GCN 매개변수를 생성하는 Node Adaptive Parameter Learning(NAPL)을 제안한다.
• 학습된 노드 임베딩과 Softmax-ReLU 정규화를 통해 노드 간 의존 관계를 추정하는 Data Adaptive Graph Generation(DAGG)을 제안하고, 데이터 기반 인접 표현을 생성한다.
• NAPL과 DAGG를 GRU 기반 순환 백본과 통합해 AGCRN을 형성하고, 다층에서 하나의 노드 임베딩을 공유한다.
• 다중-step 예측을 위해 AGCRN 층을 쌓고, 선형층으로 출력을 투영한다.
• Adam 옵티마이저를 사용해 다음 τ 단계에 대한 L1 손실로 엔드 투 엔드 학습한다.

실험 결과

연구 질문

• RQ1 노드별 매개변수화가 공유 매개변수 기반 GCN보다 트래픽 예측을 향상시킬 수 있는가?
• RQ2 미리 정의된 그래프 없이도 데이터에서 공간 의존성을 추론하면서 예측 정확성을 유지할 수 있는가?
• RQ3 적응 모듈에서 노드 임베딩을 통합하면 성능과 해석 가능성이 개선되는가?
• RQ4 AGCRN이 실제 데이터셋에서 다단계 트래픽 예측에 대해 기존 기준선들과 비교하여 어떠한가?
• RQ5 임베딩 차원이 성능 및 모델 복잡도에 미치는 영향은 무엇인가?

주요 결과

모델	데이터셋	MAE	RMSE	MAPE
HA	PeMSD4	38.03	59.24	27.88%
HA	PeMSD8	34.86	52.04	24.07%
VAR	PeMSD4	24.54	38.61	17.24%
VAR	PeMSD8	19.19	29.81	13.10%
GRU-ED	PeMSD4	23.68	39.27	16.44%
GRU-ED	PeMSD8	22.00	36.23	13.33%
DSANet	PeMSD4	22.79	35.77	16.03%
DSANet	PeMSD8	17.14	26.96	11.32%
DCRNN	PeMSD4	21.22	33.44	14.17%
DCRNN	PeMSD8	16.82	26.36	10.92%
STGCN	PeMSD4	21.16	34.89	13.83%
STGCN	PeMSD8	17.50	27.09	11.29%
ASTGCN	PeMSD4	22.93	35.22	16.56%
ASTGCN	PeMSD8	18.25	28.06	11.64%
STSGCN	PeMSD4	21.19	33.65	13.90%
STSGCN	PeMSD8	17.13	26.86	10.96%
AGCRN	PeMSD4	19.83	32.26	12.97%
AGCRN	PeMSD8	15.95	25.22	10.09%

• AGCRN은 PeMSD4 및 PeMSD8에서 12개의 horizon에 걸쳐 MAE, RMSE, MAPE 기준으로 최첨단 기준선을 상회하며, 특히 PeMSD4에서 MAE가 19.83로 감소하고 PeMSD8에서 15.95로 감소하는 등 유의한 향상을 보여준다.
• 특정 모듈의 제거 실험(ablation)에서 노드별 패턴(NAPL)과 데이터 기반 그래프(DAGG) 각각이 성능 개선에 기여하며, DAGG와 통합 임베딩이 큰 이점을 제공한다.
• 모델은 두 데이터셋 모두에서 strongest baseline 대비 MAE와 MAPE에서 5% 이상 상대 개선을 달성한다.
• DAGG 분석에 따르면 자기 정보 용어(identity)가 중요하며 학습된 그래프는 Chebyshev 기반 GCN의 특성과 유사한 성능으로 미리 정의된 그래프와 비슷한 특성을 보인다.
• 임베딩 차원은 약 10일 때 표현력과 과적합 위험의 균형을 잘 이루어 안정적인 성능을 제공한다.