[논문 리뷰] Network-Scale Traffic Modeling and Forecasting with Graphical Lasso and Neural Networks

Shiliang Sun, Rongqing Huang외 1명|arXiv (Cornell University)|2017. 12. 25.

Gaussian Processes and Bayesian Inference참고 문헌 5인용 수 3

한 줄 요약

이 논문은 그래픽스 라소(Gaussian Lasso, GL)를 사용한 희박한 의존성 모델링과 신경망(NN)을 결합한 다중 링크 교통 흐름 예측 프레임워크를 제안한다. 이는 단일 링크 및 다중 작업 학습 기반 모델보다 뛰어난 성능을 보이며, 인접 링크의 관련 역사를 추출함으로써 정확도를 향상시킨다. 실제 데이터에서의 실험 결과, GL-NN는 MMTL 및 기타 모델보다 일관되게 뛰어난 성능을 보였다.

ABSTRACT

Traffic flow forecasting, especially the short-term case, is an important topic in intelligent transportation systems (ITS). This paper does a lot of research on network-scale modeling and forecasting of short-term traffic flows. Firstly, we propose the concepts of single-link and multi-link models of traffic flow forecasting. Secondly, we construct four prediction models by combining the two models with single-task learning and multi-task learning. The combination of the multi-link model and multi-task learning not only improves the experimental efficiency but also the prediction accuracy. Moreover, a new multi-link single-task approach that combines graphical lasso (GL) with neural network (NN) is proposed. GL provides a general methodology for solving problems involving lots of variables. Using L1 regularization, GL builds a sparse graphical model making use of the sparse inverse covariance matrix. In addition, Gaussian process regression (GPR) is a classic regression algorithm in Bayesian machine learning. Although there is wide research on GPR, there are few applications of GPR in traffic flow forecasting. In this paper, we apply GPR to traffic flow forecasting and show its potential. Through sufficient experiments, we compare all of the proposed approaches and make an overall assessment at last.

연구 동기 및 목표

• 단일 링크 교통 흐름 예측의 한계를 보완하기 위해 인접 링크의 공간적 의존성을 통합한다.
• 기계 학습 기법을 활용한 다중 링크 모델링을 통합함으로써 예측 정확도와 효율성을 향상시킨다.
• 불확실성 인식 예측을 위한 가우시안 프로세스 회귀(Gaussian Process Regression, GPR)의 교통 흐름 예측 응용을 탐색한다.
• 대규모 교통 네트워크에서 관련 변수를 추출하는 데 있어 그래픽스 라소(GL)의 효과를 평가한다.
• 다양한 모델 아키텍처에서 단일 작업 및 다중 작업 학습 프레임워크의 성능을 비교한다.

제안 방법

• 링크별 및 네트워크 전반의 의존성을 구분하기 위해 단일 링크 및 다중 링크 예측 모델을 제안한다.
• L1-정규화된 역공분산 행렬을 사용한 특성 선택을 위한 희박한 그래픽스 모델을 구축하기 위해 그래픽스 라소(GL)와 신경망을 결합한 GL-NN를 구성한다.
• 다중 링크 간 예측을 동시에 학습시켜 일반화 능력과 효율성을 향상시키기 위해 다중 작업 학습(Multi-Task Learning, MTL)을 적용한다.
• GL-NN 및 MMTL 프레임워크의 핵심 회귀 모델로 백프로파게이션(BP) 신경망을 사용한다.
• 예측 분포를 활용해 불확실성 정량화를 수행하기 위해 단일 링크 단일 작업 기반 모델로 가우시안 프로세스 회귀(GPR)를 통합한다.
• 실제 교통 흐름 데이터를 사용해 모든 모델을 학습 및 평가하며, 평가 지표로 평균 절대 오차(MAE)와 유의성 검정을 위한 t-검정을 사용한다.

실험 결과

연구 질문

• RQ1 인접 링크 데이터를 통합한 다중 링크 모델링이 단일 링크 모델 대비 단기 교통 흐름 예측 정확도를 향상시킬 수 있는가?
• RQ2 그래픽스 라소를 신경망과 융합한 GL-NN가 네트워크 규모의 교통 흐름 예측에서 다중 작업 학습(MMTL)보다 더 뛰어난 성능을 보일 수 있는가?
• RQ3 예측 정확도와 불확실성 추정 측면에서 가우시안 프로세스 회귀(GPR)는 신경망 기반 모델과 비교해 어떻게 다른가?
• RQ4 GL을 통한 희박한 그래픽스 모델링이 대규모 교통 네트워크에서 특성 선택 및 예측 효율성을 얼마나 향상시키는가?
• RQ5 다중 링크 교통 흐름 예측에 적용했을 때 다중 작업 학습이 단일 작업 학습보다 더 효과적인가?

주요 결과

• 실제 데이터에서 31개 링크 중 22개에서 다중 링크 단일 작업 모델인 GL-NN가 다중 링크 다중 작업 학습(MMTL) 모델보다 뛰어난 성능을 보였으며, 이 중 21개 링크에서 통계적으로 유의미한 향상이 확인되었다.
• GL-NN는 제안된 네 가지 모델(SSTL, SMTL, MSTL, MMTL) 중에서 가장 높은 예측 정확도를 기록하여 GL이 네트워크 전반의 데이터에서 관련 의존성을 효과적으로 추출함을 입증했다.
• t-검정 결과, GL-NN는 MMTL를 유의미하게 뛰어넘으며, 공동 다중 작업 최적화보다 GL 기반 특성 선택의 우수성을 검증했다.
• 가우시안 프로세스 회귀(GPR)는 불확실성 구간을 포함한 예측 분포를 제공하며, 노이즈 분산을 줄임으로써 실제 값이 완전히 예측 구간에 포함되는 것을 확인하여 강건한 예측 잠재력을 보여주었다.
• 다중 링크 접근 방식은 일관되게 단일 링크 모델을 능가했으며, 다중 작업 학습 프레임워크는 단일 작업 학습보다 더 우수한 결과를 도출하여 공간적 및 시간적 상관관계를 활용하는 가치를 확인했다.