[논문 리뷰] Forecasting Sparse Movement Speed of Urban Road Networks with Nonstationary Temporal Matrix Factorization

Xinyu Chen, Chengyuan Zhang외 3명|PolyPublie (École Polytechnique de Montréal)|2022. 03. 20.

Time Series Analysis and Forecasting인용 수 8

한 줄 요약

이 논문은 고차원적이고 희박하며 비stationary한 시계열 데이터를 모델링하기 위해 저질수행 행렬 분해와 차분된 시간 요인에 대한 벡터 자기회귀(VAR) 과정을 결합한 새로운 프레임워크인 비stationary 시계열 행렬 분해(NoTMF)를 제안한다. NoTMF는 적응적 계절 차분을 통해 비stationary 동역학을 효과적으로 포착함으로써 도시 이동성 및 에너지 데이터셋에서 최신 기술 수준의 예측 성능을 달성하며, TMF 및 TRMF와 같은 기준 모델을 능가한다.

ABSTRACT

Movement speed data from urban road networks, computed from ridesharing vehicles or taxi trajectories, is often high-dimensional, sparse, and nonstationary (e.g., exhibiting seasonality). To address these challenges, we propose a Nonstationary Temporal Matrix Factorization (NoTMF) model that leverages matrix factorization to project high-dimensional and sparse movement speed data into low-dimensional latent spaces. This results in a concise formula with the multiplication between spatial and temporal factor matrices. To characterize the temporal correlations, NoTMF takes a latent equation on the seasonal differenced temporal factors using higher-order vector autoregression (VAR). This approach not only preserves the low-rank structure of sparse movement speed data but also maintains consistent temporal dynamics, including seasonality information. The learning process for NoTMF involves optimizing the spatial and temporal factor matrices along with a collection of VAR coefficient matrices. To solve this efficiently, we introduce an alternating minimization framework, which tackles a challenging procedure of estimating the temporal factor matrix using conjugate gradient method, as the subproblem involves both partially observed matrix factorization and seasonal differenced VAR. To evaluate the forecasting performance of NoTMF, we conduct extensive experiments on Uber movement speed datasets, which are estimated from ridesharing vehicle trajectories. These datasets contain a large proportion of missing values due to insufficient ridesharing vehicles on the urban road network. Despite the presence of missing data, NoTMF demonstrates superior forecasting accuracy and effectiveness compared to baseline models. Moreover, as the seasonality of movement speed data is of great concern, the experiment results highlight the significance of addressing the nonstationarity of movement speed data.

연구 동기 및 목표

• 현대의 다변량 시계열 데이터에서 고차원성, 희박성, 비stationarity의 과제를 해결하기 위해.
• 복잡한 시계열 역학을 모델링하면서도 저질수행 구조를 유지하는 확장성 있고 효율적인 예측 프레임워크를 개발하기 위해.
• 차분된 시간 요인에 대한 VAR 모델링을 통해 행렬 분해에 비stationarity를 통합하기 위해.
• 도시 이동성 네트워크와 같은 대규모, 불완전한 시계열 데이터에 대해 정확한 예측을 가능하게 하기 위해.
• 실제 데이터에서 비stationary 패턴을 포착하기 위해 적절한 계절 차분의 중요성을 검증하기 위해.

제안 방법

• NoTMF는 질수행 분해를 사용하여 관측된 시계열 행렬 Y ≈ WᵀX를 분해한다. 이때 질수행 수치 R은 min(N,T)보다 작다.
• 비stationary 동역학을 모델링하기 위해 시간 요인 행렬 X의 차분된 형태에 벡터 자기회귀(VAR) 과정을 적용한다.
• 모델은 교차 최소화를 통해 두 개의 요인 행렬(W와 X)과 VAR 계수 행렬 집합(A₁,…,Aₖ)을 최적화한다.
• 비stationary 성분을 안정화하기 위해 X에 차분을 적용하며, 계절 윈도우 m(예: 일일 기준 m=24, 주간 기준 m=168)를 사용한다.
• 최적화 과정의 하위 문제는 대규모 데이터셋에서의 확장성을 확보하기 위해 공액 기울기법과 최소 제곱법을 사용하여 해결한다.
• 손실 계산을 관측된 항목에만 국한하기 위해 손실 함수에 투영 연산자 PΩ를 통합하여 결측치를 처리한다.

실험 결과

연구 질문

• RQ1 행렬 분해 프레임워크가 비stationary하고 고차원적이며 희박한 시계열 데이터를 효과적으로 모델링할 수 있는가?
• RQ2 차분된 시간 요인에 대한 VAR 과정을 통합함으로써 표준 TMF에 비해 예측 정확도가 어떻게 향상되는가?
• RQ3 도시 이동성 데이터에서 비stationary 패턴을 포착하기 위해 최적의 계절 차분 윈도우(예: 일일 대비 주간)는 무엇인가?
• RQ4 NoTMF는 결측치가 있는 실세계의 희박한 시계열 데이터에서 기존 모델인 TMF 및 TRMF를 능가하는가?
• RQ5 차분을 통한 비stationarity 모델링이 다양한 데이터셋에서 예측 성능 향상에 얼마나 기여하는가?

주요 결과

• NoTMF는 Uber 이동 속도 데이터셋에서 TMF 및 TRMF를 능가하여 모든 예측 수준과 데이터셋에서 낮은 RMSE를 기록했다.
• 시애틀 이동 속도 데이터셋(63,490개 도로 세그먼트, 87.35% 결측)에서 NoTMF는 주간 차분(m=168)을 사용할 경우 일일 차분(m=24)보다 뛰어난 성능을 보였다.
• JERICHO-E-usage 데이터셋(1,178개 에너지 시계열, 50% 결측)에서 NoTMF는 시즌-168 차분을 사용할 경우 TMF 및 TRMF를 뚜렷이 능가했다.
• Google 인플루엔자 추세 데이터셋(97개 미국 도시, 3.18% 결측)에서 NoTMF는 시즌-52 차분을 사용할 경우 TMF 및 TRMF보다 뛰어난 결과를 도출했다.
• 계절 차분(예: 주간 패턴에 대해 m=168)의 사용은 NoTMF의 성능에 결정적인 영향을 미쳤으며, 비stationarity를 모델링하는 데의 중요성을 입증했다.
• 모든 데이터셋에서 NoTMF는 안정적이고 일관된 향상을 보였으며, 이는 대규모, 불완전하고 비stationary한 시계열 데이터에 대한 강건성과 확장성을 확인한다.