[논문 리뷰] Estimation of Causal Invertible VARMA Models

Anindya Roy, Tucker McElroy외 1명|arXiv (Cornell University)|2014. 06. 18.

Random Matrices and Applications참고 문헌 34인용 수 3

한 줄 요약

이 논문은 블록 토플리츠 행렬을 매개변수화하기 위해 양의 정부호 행렬과 직교 행렬을 사용하여 다변량 인과적 역가능한 VARMA 모형을 새로운 방식으로 재매개변수화한다. 이는 엄격한 인과성 및 역가능성 제약 조건 하에서 정확한 최대우도 기반 추정을 가능하게 하며, 이는 이전에는 복잡한 매개변수 공간 기하학으로 인해 해결이 어려웠다. 주요 기여는 안정적인 추정을 보장하는 슈어-안정 행렬 다항식의 수학적으로 엄밀한 특성화이다. 이는 예측 및 동적 시스템 분석에 유용하다.

ABSTRACT

We present a re-parameterization of vector autoregressive moving average (VARMA) models that allows estimation of parameters under the constraints of causality and invertibility. The parameter constraints associated with a causal invertible VARMA model are highly complex. Currently there are no procedures that can maintain the constraints in the estimated VARMA process, except in the special case of a vector autoregression (VAR), where some moment based causal estimators are available. Even in the VAR case, the available likelihood based estimators are not causal. The maximum likelihood estimator based on the full likelihood that does not condition on the initial observations by definition satisfies the causal invertible constraints but optimization of the likelihood under the complex constraints is an intractable problem. The commonly used Bayesian procedure for VAR often has posterior mass outside the causal set because the priors are not constrained to the causal set of parameters. We provide an exact mathematical solution to this problem. An $m$-variate VARMA$(p, q)$ process contains $(p+ q) m^2 + \binom{m+1}{2}$ parameters, which must be constrained to a subset of Euclidean space in order to guarantee causality and invertibility. This space is implicitly described in this paper, through the device of parameterizing the entire space of block Toeplitz matrices in terms of positive definite matrices and orthogonal matrices. The parameterization has connection to Schur- stability of polynomials and the associated Stein transformation that are often used in dynamical systems literature. As an important by-product of our investigation, we generalize a classical result in dynamical systems to provide a characterization of Schur stable matrix polynomials.

연구 동기 및 목표

• 일반 VARMA 모형에서 인과성과 역가역성을 유지하는 추정 절차의 부재를 해결함으로써, 안정적인 장기 예측에 필수적인 조건을 확보하고자 한다.
• 다변량 시간 시리즈 모형에서 인과성 및 역가역성의 암묵적 제약 조건 하에서 전체 우도를 최적화하는 데 있어 발생하는 비가역성 문제를 해결하고자 한다.
• 고전적인 슈어 안정성 결과를 행렬 다항식으로 일반화하여, VARMA 과정에 대한 안정적인 매개변수 공간 표현을 가능하게 하고자 한다.
• 최대우도 추정기들이 인과성-역가역성 매개변수 공간 내에 머물 수 있도록 하는 재매개변수화 기법을 개발하고자 한다. 이는 기존의 MLE 및 베이지안 방법의 한계를 극복한다.
• 특히 거시경제학 및 동적 시스템 분석에서 유용한 안정성이 보장되는 계산적으로 실현 가능한 VARMA 모형 추정 프레임워크를 제공하고자 한다.

제안 방법

• 블록 토플리츠 공분산 행렬의 구조를 표현하기 위해 양의 정부호 행렬과 직교 행렬을 사용하여 VARMA 모형을 재매개변수화한다.
• 스테인 변환과 행렬식 방정식을 활용하여 계수 행렬 A와 공분산 행렬 간의 관계를 설정함으로써 슈어 안정성을 확보한다.
• 매개변수 공간을 $ C_t = U(0) - \xi_t' \underline{U}_{t-1}^{-1} \xi_t $ 를 포함하는 재귀 공식으로 특성화하여 각 단계에서의 양의 정부호성을 보장한다.
• 행렬 다항식 $ A(z) $ 의 슈어 안정성과 유도된 공분산 블록 $ C_t $ 의 양의 정부호성 간의 등가성을 확립한다.
• 모든 동반 행렬 고유값 $ \lambda $ 에 대해 $ |\lambda| < 1 $ 를 유도하기 위해 $ \underline{U}_k $ 가 양의 정부호이고 $ C_k > 0 $ 임을 보장함으로써 안정적인 매개변수화를 구성한다.
• 블록 토플리츠 구조를 활용하여 인과성 및 역가역성 제약 조건을 직접 매개변수 공간에 통합함으로써, 복잡한 다양체 위에서의 수치 최적화를 피한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 추정 과정 중 안정성을 보장하면서도 인과성-역가역성 VARMA 모형의 공간을 재매개변수화할 수 있는가?
• RQ2 VARMA 모형이 동시에 인과적이고 역가역적임을 보장하는 수학적 조건은 무엇이며, 이러한 조건을 최대우도 기반 추정 프레임워크에 어떻게 통합할 수 있는가?
• RQ3 스칼라 다항식에 대한 고전적인 슈어 안정성 결과를 다변량 시간 시리즈 모형의 행렬 다항식으로 일반화할 수 있는가?
• RQ4 기존의 최대우도 기반 및 베이지안 추정기들이 왜 인과성과 역가역성을 유지하지 못하는가? 이러한 문제를 어떻게 수정할 수 있는가?
• RQ5 블록 토플리츠 행렬과 직교 변환은 어떻게 하여 VARMA 모형에 대한 안정적이고 제약 조건이 부여된 매개변수 공간을 구성하는 데 기여하는가?

주요 결과

• 논문은 인과성-역가역성 제약 조건을 통합한 재매개변수화를 통해 안정적인 VARMA 모형과 양의 정부호 블록 토플리츠 행렬 사이의 일대일 대응을 확립한다.
• 슈어 안정성의 행렬 다항식 $ A(z) $ 는 공분산의 구조에서 유도된 수열 $ C_t $ 의 양의 정부호성과 등가임을 증명한다.
• 저자들은 동적 시스템 이론에서 고전적인 결과를 일반화하여, 슈어-안정 행렬 다항식을 수열 $ C_0 > C_1 > \cdots > C_k > 0 $ 의 양의 정부호성으로 특성화한다.
• 재매개변수화 기법은 전체 우도 기반 최대우도 추정기들이 인과성-역가역성 집합 내에 머물도록 보장하여 오랫동안 해결되지 않았던 추정 문제를 해결한다.
• 이 방법은 조건부 우도나 비제약 최대우도 추정의 한계를 극복하고, 안정성이 보장되는 최대우도 기반 추론을 가능하게 한다.
• 이 프레임워크는 장기적 안정성과 해석 가능성 보장을 통해 다변량 시간 시리즈에서의 개선된 예측 및 시스템 식별을 지원한다.