[논문 리뷰] Tensor Completion for Weakly-dependent Data on Graph for Metro Passenger Flow Prediction

Ziyue Li, Nurettin Dorukhan Sergin외 3명|arXiv (Cornell University)|2019. 12. 11.

Tensor decomposition and applications참고 문헌 9인용 수 11

한 줄 요약

이 논문은 메트로 역 네트워크에서 약한 상관 관계를 가지는 공간 패턴을 모델링하기 위해 L1-노름과 그래프 라플라시안 페널티를 통합한 새로운 저질수 CP 텐서 완성 프레임워크를 제안한다. 지리적 및 맥락적 그래프를 활용하여 홍콩 메트로 승객 유동성 데이터에서 예측 정확도를 크게 향상시켰으며, 기준 방법 대비 MSE를 최대 60%까지 감소시켰다.

ABSTRACT

Low-rank tensor decomposition and completion have attracted significant interest from academia given the ubiquity of tensor data. However, the low-rank structure is a global property, which will not be fulfilled when the data presents complex and weak dependencies given specific graph structures. One particular application that motivates this study is the spatiotemporal data analysis. As shown in the preliminary study, weakly dependencies can worsen the low-rank tensor completion performance. In this paper, we propose a novel low-rank CANDECOMP / PARAFAC (CP) tensor decomposition and completion framework by introducing the $L_{1}$-norm penalty and Graph Laplacian penalty to model the weakly dependency on graph. We further propose an efficient optimization algorithm based on the Block Coordinate Descent for efficient estimation. A case study based on the metro passenger flow data in Hong Kong is conducted to demonstrate improved performance over the regular tensor completion methods.

연구 동기 및 목표

• 표준 저질수 텐서 완성 방법이 그래프 구조를 가진 네트워크에서 약한 상관 관계를 가지는 시공간 데이터를 다루는 데에 한계가 있음을 해결하기 위해.
• 전역적인 저질수 구조를 가정하는 대신, 지리적 및 맥락적 그래프를 모두 활용하여 메트로 역 간 국소적 의존성을 모델링하기 위해.
• CP 텐서 분해에 그래프 기반 정규화를 통합하여 메트로 승객 유동성 예측 정확도를 향상시키기 위해.
• 확장 가능한 추정을 위한 블록 좌표 강하 기반 효율적인 최적화 알고리즘을 개발하기 위해.
• 실세계 홍콩 메트로 승객 유동성 데이터를 대상으로 비교 기준 테스트를 통한 프레임워크 검증을 위해.

제안 방법

• 약한 의존성을 캐릭터라이즈하기 위해 L1-노름 페널티를 통한 희박성 유도와 그래프 라플라시안 페널티를 통합한 정규화된 CP 텐서 분해 프레임워크를 도입한다.
• 메트로 승객 유동성을 3모드 텐서(역 × 시간대 × 일)로 모델링하며, 역 모드는 지리적 및 맥락적(POI 기반) 두 가지 그래프를 통해 약한 의존성을 가지도록 설정한다.
• 목적 함수를 최적화하기 위해 블록 좌표 강하를 사용하며, 인자 행렬과 정규화 파라미터를 순차적으로 갱신한다.
• 두 가지 그래프 구조를 통합: 공간적 근접성 기반(넷 그래프, NET graph), 기능적 유사성 기반(POI 그래프, POI graph), 각각 고유한 페널티 계수를 가짐.
• 초기화 파라미터를 위한 그리드 서치를 실시하며, 각각 β(저질수), α(약한 의존성), γ(POI 그래프), δ(넷 그래프)에 대해 단위 간격 10, 100, 10, 10을 사용한다.
• 목적 함수는 저질수 근사, L1 정규화, 그래프 라플라시안 페널티를 조합하여 국소적 역 수준의 의존성을 유지한다.

실험 결과

연구 질문

• RQ1 그래프 구조를 가진 데이터에서 약한 의존성을 명시적으로 모델링하는 텐서 완성 방법이 표준 저질수 텐서 완성 방법보다 우수한 성능을 보일 수 있는가?
• RQ2 지리적 및 맥락적 그래프 구조가 승객 유동성 예측 정확도에 어떤 영향을 미치는가?
• RQ3 L1 및 그래프 라플라시안 페널티를 도입함으로써 약한 의존성을 가지는 메트로 유동성 데이터의 완성 성능 향상 정도는 어느 정도인가?
• RQ4 제안된 최적화 알고리즘이 실세계 시공간 텐서 완성 작업에 대해 효율적이고 확장 가능한가?
• RQ5 전체 추세에서 벗어나 고유하거나 비주기적인 유동 패턴을 보이는 역에서는 이 방법이 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 WDGTC 방법은 MSE 2.68 × 10⁶ 및 MAPE 63%를 기록하여 비교 대안들 중에서 가장 낮은 성능을 달성했다.
• 두 번째로 우수한 기준 방법(FBCP) 대비 MSE를 약 60% 감소시켰으며, 주로 약한 의존성 페널티 덕분이었다.
• POI 그래프 페널티는 약 30%의 MSE 감소 기여를 하였고, NET 그래프 페널티는 약 10% 기여를 하였다.
• 역별 성능 분석(표 3)에서 WDGTC는 15개 역 중 12개에서 최고 또는 근접한 최고 성능을 기록하였으며, 특히 복잡하거나 고유한 유동 패턴을 가지는 역에서 뛰어난 성능을 보였다.
• geomCG 방법은 데이터 희박성과 조기 수렴으로 인해 의미 있는 예측을 하지 못하여 누락된 데이터 집계 문제의 도전성을 드러냈다.
• 최적의 파라미터 조합(번호 5)은 모든 페널티에 대해 비영인 값을 일관되게 사용하며, 이는 정규화가 완성 정확도 향상에 필수적임을 확인한다.