[논문 리뷰] Autoregressive Models for Matrix-Valued Time Series

Rong Chen, Xiao Han외 1명|arXiv (Cornell University)|2018. 12. 21.

Complex Systems and Time Series Analysis참고 문헌 28인용 수 3

한 줄 요약

이 논문은 이전 행렬을 두 개의 계수 행렬을 사용한 이차형 변환로 조건부 평균을 모델링함으로써 시간 시리즈 데이터의 행렬 구조를 유지하는 행렬 자기회귀 모델(MAR)을 제안한다. 이 방법은 벡터 자기회귀 모델에 비해 상당한 차원 감소와 해석 가능성 향상을 달성하며, 추론 및 예측을 위한 이론적 성질과 추정 방법이 확립되어 있다.

ABSTRACT

In finance, economics and many other fields, observations in a matrix form are often generated over time. For example, a set of key economic indicators are regularly reported in different countries every quarter. The observations at each quarter neatly form a matrix and are observed over many consecutive quarters. Dynamic transport networks with observations generated on the edges can be formed as a matrix observed over time. Although it is natural to turn the matrix observations into a long vector, and then use the standard vector time series models for analysis, it is often the case that the columns and rows of the matrix represent different types of structures that are closely interplayed. In this paper we follow the autoregressive structure for modeling time series and propose a novel matrix autoregressive model in a bilinear form that maintains and utilizes the matrix structure to achieve a greater dimensional reduction, as well as more interpretable results. Probabilistic properties of the models are investigated. Estimation procedures with their theoretical properties are presented and demonstrated with simulated and real examples.

연구 동기 및 목표

• 행렬 구조를 벡터로 평탄화함으로써 구조적 정보를 상실하는 문제를 해결하기 위해, 행렬형 시간 시리즈에 적용할 때의 벡터 자기회귀 모델의 한계를 해결한다.
• 경제 지표의 국가 간 변화나 네트워크 간선 관측치와 같은 행렬 구조 시간 시리즈 데이터의 고유한 행과 열의 구조를 유지하는 간결한 모델을 개발한다.
• 두 개의 계수 행렬이 각각 행과 열의 동적 구조를 나타내어 모델의 해석 가능성을 향상시키는 통계적으로 해석 가능한 모델을 제공한다.
• 다양한 오차 공분산 구조 하에서 모델의 이론적 성질, 특히 추정기의 점근적 분포를 수립한다.
• 시뮬레이션과 실제 데이터를 통한 성능 평가를 통해 예측 성능과 잔차 진단을 포함한 모델 성능을 입증한다.

제안 방법

• 일阶 행렬 자기회귀 모델인 $\mathbf{X}_t = \mathbf{A}\mathbf{X}_{t-1}\mathbf{B}' + \mathbf{E}_t$ 의 형태로 제안하며, 여기서 $\mathbf{X}_t$ 는 시간 $t$ 에서의 $m \times n$ 행렬이고 $\mathbf{A}, \mathbf{B}$ 는 계수 행렬이다.
• 다중 지연 행렬을 포함함으로써 고차 자기회귀 구조(MAR(p))로 모델을 확장한다.
• 오차 공분산 가정에 따라 적합한 세 가지 추정 방법을 적용한다: 최소제곱법(LSE), 최대우도법(MLE), 최근접 크로네커 곱 투영(PROJ).
• 정규 조건 하에서 추정기의 점근적 분포를 유도하여 통계적 추론과 가설 검정을 가능하게 한다.
• 오차 공분산 행렬을 모델링하기 위해 크로네커 곱 구조를 활용하여 비정규화된 형태에 비해 매개변수 수를 감소시킨다.
• 실제 경제 데이터에서 MAR(1)의 성능을 비교하기 위해 롤링 예측 평가를 적용하여 단일 변수 AR(1), AR(2), 스택형 VAR(1) 모델과 비교한다.

실험 결과

연구 질문

• RQ1 이차형 행렬 자기회귀 모델이 행렬형 시간 시리즈의 행과 열 간의 구조적 관계를 벡터 자기회귀 모델보다 더 효과적으로 유지할 수 있는가?
• RQ2 실제 경제 데이터에서 제안된 MAR(1) 모델이 단일 변수 AR 모델과 스택형 벡터 자기회귀 모델에 비해 예측 성능에서 어떻게 비교되는가?
• RQ3 특히 점근 정규성 측면에서 다양한 오차 공분산 가정 하에서 추정기의 이론적 성질은 어떠한가?
• RQ4 모델이 예측 정확도와 해석 가능성을 유지하면서 얼마나 효과적으로 차원 감소를 달성하는가?
• RQ5 모델은 고차 자기회귀로 확장하거나 금융 또는 경제 응용 분야의 변동성 모델링에 적응할 수 있는가?

주요 결과

• 최소제곱법을 사용한 MAR(1) 모델은 외부 예측 오차 제곱합이 141.82로, 스택형 VAR(1) 모델(296.62)을 능가했지만, 개별 AR(1) 모델(136.00)에 비해 略적으로 열등한 성능을 보였다.
• 최대우도법을 사용한 MAR(1) 모델은 테스트된 세 가지 추정기 중에서 가장 낮은 예측 오차(136.69)를 기록하여 뛰어난 성능을 보였다.
• 잔차 진단 결과, ACF 플롯과 잔차 플롯에서 유의미한 자기상관이 없었으며, 이는 모델이 동적 구조를 잘 포착하고 있음을 뒷받침한다.
• 모델은 상당한 차원 감소를 보였다: 스택형 VAR 모델은 $m^2n^2$ 개의 매개변수를 필요로 하지만, MAR(1)은 오직 $m^2 + n^2 - 1$ 개의 매개변수만 필요로 한다.
• 정규 조건 하에서 추정기의 점근적 분포가 유도되었으며, 이는 유효한 통계적 추론을 가능하게 한다.
• 예측 기간의 후반 세 해 동안 MAR(1) 모델은 단일 변수 AR(1) 모델보다 뛰어난 성능을 보였으며, 초기에는 성능이 열등했음에도 불구하고 시간이 지남에 따라 더 강건한 성능을 보였다.