[논문 리뷰] Krigings Over Space and Time Based on Latent Low-Dimensional Structures

Da Huang, Qiwei Yao외 1명|arXiv (Cornell University)|2016. 09. 22.

Face and Expression Recognition인용 수 3

한 줄 요약

이 논문은 비모수적 kriging 방법을 제안하며, 비정규적인 공간 데이터와 정규적인 시간 데이터로부터 학습된 저차원 잠재因수를 사용하여 시공간 과정을 다룹니다. 고유분석과 그래프 라플라시안 정규화, 무작위 분할 집합 평균화를 조합함으로써, 모수적 공분산 가정이나 공간 정상성을 필요로 하지 않으면서도 확장 가능하고 정확한 예측을 가능하게 하며, 계산 비용을 크게 줄이고 장거리 공간 상관관계를 포착합니다.

ABSTRACT

We propose a new approach to represent nonparametrically the linear dependence structure of a spatio-temporal process in terms of latent common factors. Though it is formally similar to the existing reduced rank approximation methods (Section 7.1.3 of Cressie and Wikle, 2011), the fundamental difference is that the low-dimensional structure is completely unknown in our setting, which is learned from the data collected irregularly over space but regularly over time. Furthermore a graph Laplacian is incorporated in the learning in order to take the advantage of the continuity over space, and a new aggregation method via randomly partitioning space is introduced to improve the efficiency. We do not impose any stationarity conditions over space either, as the learning is facilitated by the stationarity in time. Krigings over space and time are carried out based on the learned low-dimensional structure, which is scalable to the cases when the data are taken over a large number of locations and/or over a long time period. Asymptotic properties of the proposed methods are established. Illustration with both simulated and real data sets is also reported.

연구 동기 및 목표

• 제한적인 모수적 공분산 모델을 피하는 확장 가능한 비모수적 방법을 개발하여 공간과 시간에 걸친 kriging을 수행하는 것.
• 공간 정상성을 가정하지 않고도 비정규적인 공간 데이터와 정규적인 시간 샘플링에서 저차원 잠재因수 구조를 추정하는 것.
• 그래프 라플라시안 정규화를 통해 공간 연속성을 통합함으로써 추정 및 예측 정확도를 향상시키는 것.
• 무작위 공간 분할을 통한 집합 평균화를 도입하여 인수 추정의 분산을 줄이고 정확도 및 안정성을 향상시키는 것.
• 잠재因수의 수와 동일한 크기의 행렬의 역행렬 계산이 필요하므로, 위치 수에 비해 더 작은 행렬의 역행렬 계산을 통해 대규모 시공간 예측을 가능하게 하는 것.

제안 방법

• 모델은 요인 과정과 요인 하중 모두를 데이터로부터 비모수적으로 추정하는 저랭크 잠재因수 구조를 사용하여 시공간 과정을 모델링합니다.
• 공간적으로 분할된 데이터 세트 간의 공분산 행렬에 대한 고유분석을 통해 잠재因수를 추출하며, 측정 오차(노이즈 효과)를 명시적으로 모델링할 필요 없이 수행됩니다.
• 공간 연속성을 강제하고 공간 도메인 내 局소 연속성을 활용하기 위해 고유분석에 그래프 라플라시안을 통합합니다.
• 무작위 공간 분할을 통한 집합 평균화를 적용하여 인수 추정을 안정화시키며, 재표본 추출이 아닌 무작위 분할을 사용하는 배깅과 유사한 방식을 취합니다.
• 학습된 저차원 인수 구조를 사용하여 kriging 예측을 수행하며, 작은 행렬(인수의 수와 동일한 크기)의 역행렬 계산만으로도 확장 가능성을 확보합니다.
• 잠재因수의 수는 고유값 기반 비율 추정기로 추정되며, 큰 표본 크기에서 잘 작동합니다.

실험 결과

연구 질문

• RQ1 모수적 공분산 형태를 가정하지 않고 비정규적인 공간 데이터와 정규적인 시간 데이터로부터 비모수적이고 저랭크인 시공간 의존성 표현을 학습할 수 있는가?
• RQ2 공간 정상성을 가정하지 않을 경우, 공간 연속성을 어떻게 활용하여 인수 추정 및 kriging 정확도를 향상시킬 수 있는가?
• RQ3 무작위 공간 분할을 통한 집합 평균화가 단일 분할 추정에 비해 분산 감소 및 예측 정확도 향상에서 뛰어난가?
• RQ4 고유분석에 그래프 라플라시안을 통합할 경우, 잠재因수 추정 및 kriging 성능 향상에 얼마나 기여하는가?
• RQ5 특히传통적 kriging과 비교할 때, 대규모 공간 영역과 장기 시간 시리즈에 대해 제안된 방법은 얼마나 확장 가능한가?

주요 결과

• 공간 kriging의 평균제곱예측오차(MSPE)는 공간 위치 수(p)가 증가할수록 감소하며, p=320 및 n=320일 때 약 1.02 수준까지 낮아집니다.
• 시간 kriging의 경우 MSPE 값은 공간 kriging보다 높으며, 한 단계 앞선 예측의 MSPE는 약 1.73, 두 단계 앞선 예측은 1.88 수준으로 나타나 시간 예측 정확도의 예상되는 열화를 반영합니다.
• 집합 kriging 추정기는 항상 비집합 버전을 능가하며, 시뮬레이션 설정에서는 MSPE를 최대 5%까지 감소시키고 실제 데이터에서는 안정성이 향상됨을 보였습니다.
• 인수의 수(d)를 추정하는 비율 추정기는 큰 n과 p에서 잘 작동하며, 실제 데이터 반복 실험 100회 중 98회에서 d=1로 추정되어 모델 순서 선택의 강건성을 보여줍니다.
• 중국 기상관측소 데이터 분석 결과, 공간 예측의 MSPE는 0.7718(표준오차 0.0444), 한 단계 앞선 시간 예측의 MSPE는 1.7303(표준오차 1.2583)로 나타나 낮은 분산을 동반한 뛰어난 예측 성능를 보였습니다.
• 최적의 조정 파라미터 τ는 93%의 반복 실험에서 0보다 큰 값을 보였으며, 교차검증에서 정규화가 모델에 유리하다는 것을 시사하며, 그래프 라플라시안은 추정 안정성을 향상시켰습니다.