[논문 리뷰] Incrementally Improving Graph WaveNet Performance on Traffic Prediction

Sam Shleifer, Clara H. McCreery외 1명|arXiv (Cornell University)|2019. 12. 11.

Traffic Prediction and Management TechniquesEngineering참고 문헌 4인용 수 17

한 줄 요약

이 논문은 하이퍼파ram터 최적화, 더 나은 기울기 흐름을 위한 스킵 커넥션 추가, 그리고 단기 예측에 대한 사전 훈련을 통해 Graph WaveNet의 교통 예측 성능을 점진적으로 향상시켰다. 이러한 변화로 인해 METR-LA에서 평균 MAE가 0.054 감소했고, PEMS-BAY에서 0.055 감소하여 구조적 변경을 최소화하면서도 최신 기술 수준의 성능을 달성했다.

ABSTRACT

We present a series of modifications which improve upon Graph WaveNet's previously state-of-the-art performance on the METR-LA traffic prediction task. The goal of this task is to predict the future speed of traffic at each sensor in a network using the past hour of sensor readings. Graph WaveNet (GWN) is a spatio-temporal graph neural network which interleaves graph convolution to aggregate information from nearby sensors and dilated convolutions to aggregate information from the past. We improve GWN by (1) using better hyperparameters, (2) adding connections that allow larger gradients to flow back to the early convolutional layers, and (3) pretraining on an easier short-term traffic prediction task. These modifications reduce the mean absolute error by .06 on the METR-LA task, nearly equal to GWN's improvement over its predecessor. These improvements generalize to the PEMS-BAY dataset, with similar relative magnitude. We also show that ensembling separate models for short-and long-term predictions further improves performance. Code is available at https://github.com/sshleifer/Graph-WaveNet .

연구 동기 및 목표

• 주요 아키텍처 변경 없이도 Graph WaveNet의 교통 속도 예측 성능을 점진적으로 향상시키는 것.
• 하이퍼파ram터 조정, 스킵 커넥션, 사전 훈련과 같은 소규모 수정이 성능 향상에 기여하는지 조사하는 것.
• 입력 표현 방식(특히 정지 속도 값 처리 방식)이 모델 정확도에 미치는 영향을 평가하는 것.
• 단기 및 장기 예측 헤드를 앙상블하여 전체 성능 향상 여부를 확인하는 것.
• 공간-시간 모델링에서 시간적 역사, 그래프 컨벌루션, 학습된 인접 행렬의 상대적 중요도를 이해하는 것.

제안 방법

• 표현 능력을 향상시키기 위해 컨벌루션 레이어의 필터 수를 32에서 40으로 증가시켰다.
• 기울기 흐름을 더 효과적으로 하기 위해 초기 컨벌루션 레이어에 스킵 커넥션을 추가하여 훈련 안정성을 향상시켰다.
• 입력 특징에서 정지 속도 값을 전체 센서 평균 속도로 대체하여 누락 데이터를 더 잘 표현했다.
• 수렴 안정성 향상과 일반화 성능 향상을 위해 훈련 중에 학습률 감소를 적용했다.
• 전체 60분 예측 작업에 대한 미세조정 전에 단기 교통 예측 작업(15분 예측 수준)에서 모델을 사전 훈련했다.
• 단기(15분) 및 장기(60분) 예측에 대해 별도로 훈련된 모델을 앙상블하여 전체 정확도를 향상시켰다.

실험 결과

연구 질문

• RQ1 Graph WaveNet에 소규모 점진적 수정을 가했을 때 교통 예측 작업의 성능 향상이 크게 이루어지는가?
• RQ2 더 단순한 단기 예측 작업에서의 사전 훈련이 전체 60분 예측 작업 성능 향상에 기여하는가?
• RQ3 입력 표현 방식(특히 정지 속도 값 처리 방법)이 모델 정확도에 어떤 영향을 미치는가?
• RQ4 다른 예측 수준에 대해 별도로 훈련된 모델을 앙상블하면 성능 향상이 이루어지는가?
• RQ5 그래프 컨벌루션과 학습된 인접 행렬이 모델 성능에 기여하는 상대적 기여도는 얼마인가?

주요 결과

• 최종 모델은 METR-LA 데이터셋에서 평균 MAE 3.002를 기록하여 기준 Graph WaveNet(3.057) 대비 0.055 감소시켰다.
• PEMS-BAY 데이터셋에서도 평균 MAE가 0.055 감소하여 원래 데이터셋 외부로도 일반화 가능함을 입증했다.
• 학습률 감소나 스킵 커넥션과 같은 핵심 수정 요소를 제거할 경우 성능 저하가 명확히 관측되어 이들의 필요성을 확인했다.
• 단기 예측 작업에서의 사전 훈련이 전체 작업 성능 향상에 기여했지만, 미세조정된 모델은 단기 예측 수준에서 일부 정확도를 상실했다.
• 시간적 역사로 5~6개 타임스텝(30분)을 사용한 이후 성능 향상 폭이 감소함을 확인하여 그 이상의 역사 사용에는 한계가 있음을 시사했다.
• 그래프 컨벌루션을 제거할 경우 평균 MAE는 3.59로 상승했고, 학습된 인접 행렬을 제거할 경우 3.08로 상승하여 양측 요소의 중요성을 확인했다.