[논문 리뷰] Dynamic Spatiotemporal Graph Convolutional Neural Networks for Traffic Data Imputation with Complex Missing Patterns

Yuebing Liang, Zhan Zhao외 1명|arXiv (Cornell University)|2021. 09. 17.

Traffic Prediction and Management Techniques참고 문헌 38인용 수 20

한 줄 요약

이 논문은 이중 방향 RNN과 학습 가능한 그래프 구조를 사용하여 교통 데이터의 동적 공간적 의존성과 시간적 상관관계를 모델링하는 딥러닝 프레임워크인 동적 시공간 그래프 컨볼루션 신경망(DSTGCN)을 제안한다. 두 개의 실세계 교통 속도 데이터셋에서 랜덤, 시간적으로 상관관계가 있는, 공간적으로 상관관계가 있는, 그리고 둘 다인 네 가지 복잡한 누락 패턴에 대해 최신 기술 수준(SOTA) 성능을 달성하며, 특히 높은 누락 비율과 복잡한 누락 시나리오에서 기존의 딥러닝 및 텐서 분해 방법들을 능가한다.

ABSTRACT

Missing data is an inevitable and ubiquitous problem for traffic data collection in intelligent transportation systems. Despite extensive research regarding traffic data imputation, there still exist two limitations to be addressed: first, existing approaches fail to capture the complex spatiotemporal dependencies in traffic data, especially the dynamic spatial dependencies evolving with time; second, prior studies mainly focus on randomly missing patterns while other more complex missing scenarios are less discussed. To fill these research gaps, we propose a novel deep learning framework called Dynamic Spatiotemporal Graph Convolutional Neural Networks (DSTGCN) to impute missing traffic data. The model combines the recurrent architecture with graph-based convolutions to model the spatiotemporal dependencies. Moreover, we introduce a graph structure estimation technique to model the dynamic spatial dependencies from real-time traffic information and road network structure. Extensive experiments based on two public traffic speed datasets are conducted to compare our proposed model with state-of-the-art deep learning approaches in four types of missing patterns. The results show that our proposed model outperforms existing deep learning models in all kinds of missing scenarios and the graph structure estimation technique contributes to the model performance. We further compare our proposed model with a tensor factorization model and find distinct behaviors across different model families under different training schemes and data availability.

연구 동기 및 목표

• 정적 거리 기반 그래프를 초월해 시간에 따라 변화하는 동적 공간적 의존성을 포착하지 못하는 기존 교통 데이터 보정 방법의 한계를 해결한다.
• 일반적으로 연구되는 랜덤 누락 시나리오를 초월해 시간적 또는 공간적으로 상관관계가 있는 누락 데이터와 같은 복잡한 누락 패턴을 다루는 데 격차를 해소한다.
• 딥러닝 프레임워크를 개발하여 교통 네트워크 내에서 시간 역학성과 변화하는 공간적 관계를 동시에 모델링함으로써 보정 정확도와 강건성을 향상시킨다.
• 다양한 데이터 가용성과 누락 패턴에서 딥러닝 모델(DSTGCN 등)과 텐서 분해 방법의 성능을 비교한다.

제안 방법

• 교통 시계열 데이터의 장거리 시간적 의존성을 모델링하기 위해 이중 방향 순환 신경망을 통합한다.
• 실시간 교통 데이터와 도로 네트워크 구조를 기반으로 공간 관계를 동적으로 추론하는 학습 가능한 그래프 구조 추정 모듈을 적용한다.
• 적응형 인접 행렬을 사용한 그래프 컨volution 신경망(GCNs)을 적용하여 교통 네트워크 전반의 변화하는 공간적 상관관계를 포착한다.
• 기울기 흐름을 유지하고 특징 표현 학습을 향상시키기 위해 잔차 연결을 갖춘 다중 블록 아키텍처를 사용한다.
• 관측된 데이터 포인트에 대한 평균 제곱오차 손실을 사용하여 엔드 투 엔드 모델을 훈련하며, 정의된 누락 패턴에 따라 마스킹을 적용한다.
• 모델의 강건성 평가를 위해 네 가지 누락 패턴—랜덤(RM), 시간적으로 상관관계 있는(ТСМ), 공간적으로 상관관계 있는(SCM), 그리고 둘 다(BM)—을 생성한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 공간적 의존성을 동적으로 추정하는 딥러닝 모델이 복잡한 누락 패턴 하에서 정적 그래프 기반 모델보다 우수한 성능을 보일 수 있는가?
• RQ2 DSTGCN는 다양한 누락 비율과 누락 패턴 유형에서 최신 기술 수준의 딥러닝 모델들과 비교해 어떻게 성능을 내는가?
• RQ3 훈련 데이터 가용성이 변할 경우 딥러닝 모델과 텐서 분해 방법 간의 상대적 성능은 어떻게 되는가?
• RQ4 그래프 구조 추정 및 시간 모델링 구성 요소가 전체 보정 정확도에 얼마나 기여하는가?

주요 결과

• DSTGCN는 로스앤젤레스와 시애틀 데이터셋 모두에서 네 가지 누락 패턴—랜덤, 시간적으로 상관관계 있는, 공간적으로 상관관계 있는, 복합형—에 대해 뛰어난 보정 정확도를 달성한다.
• 특히 높은 누락 비율(예: 50%)과 복잡한 누락 패턴에서 기존의 딥러닝 기준 모델(GCN, GCRN, DAE)보다 뚜렷이 뛰어난 성능을 보인다.
• 제거 분석 결과 그래프 구조 추정 모듈이 비정상적인 공간적 의존성을 포착하는 데 특히 기여한다는 점이 확인되었다.
• 고품질의 훈련 데이터가 제공될 경우 딥러닝 모델(DSTGCN 포함)이 텐서 분해 방법보다 우수하지만, 훈련 데이터가 제한되고 복잡한 누락 패턴이 존재할 경우 텐서 분해 방법이 더 우수한 성능을 보였다.
• 모델는 다양한 교통 네트워크 구조와 누락 데이터 시나리오에서 강건성과 일반화 능력을 보이며, 강력한 적응 가능성임을 시사한다.
• 주의 히트맵과 동적 그래프의 시각화 결과, 모델이 실제 도로 네트워크 구조와 교통 흐름 패턴과 일치하는 의미 있는 공간적 관계를 학습하고 있음을 확인할 수 있었다.