[논문 리뷰] Modeling Multivariate Spatial-Temporal Data with Latent Low-Dimensional Dynamics

Elynn Y. Chen, Yun Xin외 2명|arXiv (Cornell University)|2020. 02. 02.

Spatial and Panel Data Analysis참고 문헌 41인용 수 5

한 줄 요약

이 논문은 고차원 데이터에서 변수, 공간, 시간의 복합적 의존성을 동시에 포착하기 위해 잠재적 저차원 역학을 활용하는 새로운 다변량 시공간 모델을 제안한다. 다변량 요인 분석와 비모수적 잠재 고유직교함수(EOF)를 조합함으로써 복잡한 공분산 구조를 유지하면서도 상당한 차원 감소를 달성하여, 정규적인 시간 샘플링을 갖는 비정규적인 공간 데이터에 대해 효율적이고 정확한 시공간 예측을 가능하게 한다.

ABSTRACT

High-dimensional multivariate spatial-temporal data arise frequently in a wide range of applications; however, there are relatively few statistical methods that can simultaneously deal with spatial, temporal and variable-wise dependencies in large data sets. In this paper, we propose a new approach to utilize the correlations in variable, space and time to achieve dimension reduction and to facilitate spatial/temporal predictions in the high-dimensional settings. The multivariate spatial-temporal process is represented as a linear transformation of a lower-dimensional latent factor process. The spatial dependence structure of the factor process is further represented non-parametrically in terms of latent empirical orthogonal functions. The low-dimensional structure is completely unknown in our setting and is learned entirely from data collected irregularly over space but regularly over time. We propose innovative estimation and prediction methods based on the latent low-rank structures. Asymptotic properties of the estimators and predictors are established. Extensive experiments on synthetic and real data sets show that, while the dimensions are reduced significantly, the spatial, temporal and variable-wise covariance structures are largely preserved. The efficacy of our method is further confirmed by the prediction performances on both synthetic and real data sets.

연구 동기 및 목표

• 변수, 공간, 시간 간의 동시 의존성이 있는 복잡한 고차원 다변량 시공간 데이터를 모델링하는 데 도전하는 것.
• 변수, 공간, 시간 간의 전체 공분산 구조를 유지하면서 차원을 감소시키는 것.
• 정규적인 시간 관측과 비정규적인 공간 샘플링을 갖는 데이터에 대해 효율적인 추정 및 예측 방법을 개발하는 것.
• 제안된 추정사 및 예측사의 이론적 渐近적 성질을 확립하는 것.
• 합성 및 실세계 환경 데이터 세트를 통해 방법의 성능을 검증하는 것.

제안 방법

• 다변량 시공간 과정은 저차원 잠재 요인 과정의 선형 변환으로 모델링되며, 이 요인 과정이 변수 간 상관관계를 포착한다.
• 잠재 요인 과정의 공간적 의존성은 잠재 고유직교함수(EOF)를 사용한 비모수적 방식으로 표현되며, 이를 공간 로딩 함수라고 한다.
• 공간 로딩 함수의 계수는 시간에 따라 변동하여 모델이 시간 역학을 포착할 수 있도록 한다.
• n개의 공간 위치에서의 관측치는 시간에 따른 n×p 행렬의 시계열로 재구성되어 추정을 위한 행렬 요인 모델로 재정의된다.
• 추정은 공간 노이즈 효과의 백색성에 기반하며, 공간 로딩 함수에 비모수적 스무딩을 통합한다.
• 새로운 공간 위치와 향후 시간 포인트에 대한 예측은 추정된 잠재 저랭크 구조를 기반으로 수행된다.

실험 결과

연구 질문

• RQ1 저랭크 잠재 요인 모델이 고차원 시공간 데이터에서 공간, 시간, 다변량 의존성을 효과적으로 포착할 수 있는가?
• RQ2 정규적인 시간 샘플링을 갖는 비정규적인 공간 데이터로부터 비모수적 공간 로딩 함수를 어떻게 추정할 수 있는가?
• RQ3 차원 감소 과정에서 원래의 시공간 공분산 구조는 어느 정도 유지되는가?
• RQ4 실세계 환경 데이터에서 제안된 방법의 예측 성능은 기존 표준 방법과 비교해 어떻게 되는가?
• RQ5 비모수적, 저랭크 프레임워크에서 추정사 및 예측사의 이론적 渐近적 성질은 무엇인가?

주요 결과

• 제안된 방법은 합성 및 실세계 데이터 모두에서 공간, 시간, 변수 간의 공분산 구조를 유지하면서 상당한 차원 감소를 달성하였다.
• 잠재 요인의 추정된 시공간 공분산 구조는 테스트 세트의 히트맵을 통해 전체 데이터의 표본 공분산과 매우 유사하게 나타났다.
• CCDS 데이터셋에서의 시간 예측에 대해, 9년의 학습 데이터를 사용한 1단계 예측의 평균 제곱예측오차(MSPE)는 0.574(SD 0.141)였다.
• 5년의 학습 데이터를 사용한 2단계 예측의 MSPE는 0.682(SD 0.225)였으며, 증가한 예측 수준에도 불구하고 강건성을 입증하였다.
• 계산 비용을 크게 감소시켜, 9년의 학습 데이터를 사용한 학습 시간은 단 1.55분(SD 0.20)에 불과하여 대규모 데이터의 확장 가능한 분석을 가능케 하였다.
• 추정사 및 예측사의 이론적 渐近적 성질이 철저히 확립되어, 방법의 통계적 타당성을 뒷받침하였다.