[논문 리뷰] Z-GCNETs: Time Zigzags at Graph Convolutional Networks for Time Series Forecasting

Yuzhou Chen, Ignacio Segovia-Domínguez외 1명|arXiv (Cornell University)|2021. 05. 10.

Topological and Geometric Data Analysis참고 문헌 39인용 수 44

한 줄 요약

Z-GCNETs는 시간 조건부 위상 기능을 활용하기 위해 그래프 컨볼루션 네트워크 내부에 시간 인식 지그재그 지속성 계층을 도입하여 트래픽 및 이더리움 토큰 네트워크의 시계열 예측 성능을 향상시킵니다. 4개 데이터셋에서 13개 최첨단 방법을 능가합니다.

ABSTRACT

There recently has been a surge of interest in developing a new class of deep learning (DL) architectures that integrate an explicit time dimension as a fundamental building block of learning and representation mechanisms. In turn, many recent results show that topological descriptors of the observed data, encoding information on the shape of the dataset in a topological space at different scales, that is, persistent homology of the data, may contain important complementary information, improving both performance and robustness of DL. As convergence of these two emerging ideas, we propose to enhance DL architectures with the most salient time-conditioned topological information of the data and introduce the concept of zigzag persistence into time-aware graph convolutional networks (GCNs). Zigzag persistence provides a systematic and mathematically rigorous framework to track the most important topological features of the observed data that tend to manifest themselves over time. To integrate the extracted time-conditioned topological descriptors into DL, we develop a new topological summary, zigzag persistence image, and derive its theoretical stability guarantees. We validate the new GCNs with a time-aware zigzag topological layer (Z-GCNETs), in application to traffic forecasting and Ethereum blockchain price prediction. Our results indicate that Z-GCNET outperforms 13 state-of-the-art methods on 4 time series datasets.

연구 동기 및 목표

• 딥러닝에서 명시적인 시간 조건부 표현과 위상 데이터 분석의 통합 동기를 제시합니다.
• 지그재그 지속성 기반 토폴로미 요약(지그재그 지속성 이미지를) 안정성 보장과 함께 개발합니다.
• 전용 지그재그 계층(Z-GCNETs)을 통해 GCN에 시간 인식 위상 특징을 통합합니다.
• 공간, 시간 및 토폴로지 정보를 하나의 예측 프레임워크에 융합합니다.

제안 방법

• 다중 변수 시계열 데이터에서 슬라이딩 윈도우를 이용해 시계 evolving 그래프를 구성합니다.
• 시간에 걸친 지그재그 지속성 다이어그램을 추출하고 이를 안정성 보장과 함께 지그재그 지속성 이미지(ZPI)로 변환합니다.
• ZPI를 CNN으로 처리해 학습된 위상 표현(Z^{(\nabla)})를 얻습니다.
• 공간 그래프 컨볼루션과 확산 유사 라플라시안링크(\u211d̃) 및 다중 단계 예측을 위한 순환 모듈(GRU)과 함께 Z^{(\nabla)}를 융합합니다.
• GRU 기반 예측 전에 공간, 시간 및 토폴로지 특징을 융합하는 시간 인식 지그재그 토폴로지 계층을 사용합니다.

실험 결과

연구 질문

• RQ1 시간 조건부 지그재그 지속성이 표준 공간-시간 GCN을 넘어선 시계열 예측 정확도를 개선할 수 있는가?
• RQ2 신경망 내에서 지그재그 지속성을 이미지로 표현하는 것의 안정성과 실용적 이점은 무엇인가?
• RQ3 토폴로지 정보를 통합하는 것이 교통 및 블록체인 데이터셋에서 강건성 및 성능에 어떤 영향을 미치는가?

주요 결과

• Z-GCNETs는 네 개의 시계열 데이터셋에서 13개의 최첨단 기준선보다 우세합니다.
• PeMSD4/PeMSD8에서 Z-GCNETs는 경쟁자들보다 더 낮은 RMSE/MAE/MAPE를 달성합니다. 예: PeMSD4 RMSE 31.61 대 타자 32.30–39.88
• 이더리움 토큰 네트워크(Bytom, Decentraland)에서 Z-GCNETs가 기준선보다 더 나은 MAPE(각각 31.04% 및 23.81%)를 달성합니다.
• 절삭법(아랍) 제거 시 지그재그 학습, 공간 GCN, 또는 시간 GCN 중 하나를 제거하면 성능이 저하되며, 특히 시간 GCN의 영향이 큽니다.
• ZPI 표현은 Wasserstein-1 거리와 관련해 안정적이어서 토폴로지 요약이 신뢰할 수 있음을 보장합니다.