[논문 리뷰] Sparse Identification and Estimation of High-Dimensional Vector AutoRegressive Moving Averages

Ines Wilms, Sumanta Basu외 2명|arXiv (Cornell University)|2017. 07. 28.

Monetary Policy and Economic Impact인용 수 2

한 줄 요약

이 논문은 고차원 벡터 자동회귀 이동평균(VARMA) 모형을 위한 이중 단계 희소 식별 및 추정 방법을 제안한다. 이는 희소성 유도 볼록 정규화 기법을 사용하며, 무한차수 VAR 모형의 일致적 추정을 달성하고, 거시경제학, 수요 예측 및 변동성 예측 응용 분야에서 VAR 모형보다 뛰어난 예측 정확도를 보인다.

ABSTRACT

The Vector AutoRegressive Moving Average (VARMA) model is fundamental to the study of multivariate time series. However, estimation becomes challenging in even relatively low-dimensional VARMA models. With growing interest in the simultaneous modeling of large numbers of marginal time series, many authors have abandoned the VARMA model in favor of the Vector AutoRegressive (VAR) model, which is seen as a simpler alternative, both in theory and practice, in this high-dimensional context. However, even very simple VARMA models can be very complicated to represent using only VAR modeling. In this paper, we develop a new approach to VARMA identification and propose a two-phase method for estimation. Our identification and estimation strategies are linked in their use of sparsity-inducing convex regularizers, which favor VARMA models that have only a small number of nonzero parameters. We establish sufficient conditions for consistency of sparse infinite-order VAR estimates in high dimensions, a key ingredient for our two-phase sparse VARMA estimation strategy. The proposed framework has good estimation and forecast accuracy under numerous simulation settings. We illustrate the forecast performance of the sparse VARMA models for several application domains, including macro-economic forecasting, demand forecasting, and volatility forecasting. The proposed sparse VARMA estimator gives parsimonious forecast models that lead to important gains in relative forecast accuracy.

연구 동기 및 목표

• 고차원 VARMA 모형을 추정하는 데 도전하는 문제를 다루며, 이는 VAR 모형에 비해 복잡하고 계산 비용이 높은 데서 비롯된다.
• 고차원 환경에서 VAR 모형만을 사용할 경우의 한계를 극복하며, VARMA 모형은 더 희소하고 정확할 수 있다.
• 희소성을 활용하여 고차원 VARMA 모형을 효율적으로 식별하고 추정하는 이중 단계 추정 전략을 개발한다.
• 희소 무한차수 VAR 추정의 이론적 일致성을 확립하며, 제안된 이중 단계 방법의 핵심 기초를 마련한다.
• 거시경제학, 수요 및 변동성 예측과 같은 다양한 분야에서 희소 VARMA 모형의 개선된 예측 정확도를 입증한다.

제안 방법

• 식별 및 추정 단계 모두에서 비제로 계수를 최소한으로 가지는 모형을 유도하기 위해 희소성 유도 볼록 정규화 기법(예: L1형 페널티)을 사용한다.
• 이중 단계 접근법을 구현한다: 첫째, 정규화된 추정을 통해 희소 VARMA 구조를 식별한다; 둘째, 일관된 무한차수 VAR 근사법을 사용하여 매개수 추정치를 정밀화한다.
• 고차원 환경에서 희소 무한차수 VAR 추정의 일관성을 확보하기 위한 충분한 조건을 설정한다. 이는 추정 프레임워크의 이론적 타당성을 보장한다.
• 희소 VARMA 모형과 고차원 VAR 표현 간의 연결을 활용하여 효율적인 계산과 모형 선택을 가능하게 한다.
• 시뮬레이션 연구와 거시경제학, 수요 및 변동성 시리즈의 실질 데이터를 활용하여 실제 예측 과제에 이 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 희소 정규화가 비제로 계수를 적게 가지는 고차원 VARMA 모형을 효과적으로 식별할 수 있는가?
• RQ2 고차원 환경에서 무한차수 VAR 표현의 추정이 어떤 조건에서 일관성이 있는가?
• RQ3 고차원 시계열에서 희소 VARMA 모형의 예측 정확도는 표준 VAR 모형에 비해 어떻게 비교되는가?
• RQ4 제안된 이중 단계 방법이 다양한 적용 분야에서 모형의 희소성과 높은 예측 정확도를 동시에 달성할 수 있는가?
• RQ5 진짜 모형이 고차원적이고 희소한 경우, 희소 VARMA 추정에 대해 어떤 이론적 보장이 있는가?

주요 결과

• 제안된 이중 단계 희소 VARMA 추정 방법은 충분한 조건 하에서 무한차수 VAR의 일관된 추정을 달성하며, 고차원 VARMA 모델링의 이론적 기초를 제공한다.
• 희소 VARMA 모형은 상대적인 예측 정확도에서 여러 시뮬레이션 설정에서 표준 VAR 모형보다 뚜렷이 뛰어난 희소 예측 모형을 제공한다.
• 이 방법은 거시경제학 예측, 수요 예측 및 변동성 예측에서 뛰어난 예측 성능을 보이며, 실용적 유용성을 입증한다.
• 희소성 유도 정규화 기법은 비제로 계수를 적게 가지는 VARMA 모형을 효과적으로 식별하여 고차원 환경에서의 효율적 추정을 가능하게 한다.
• 심지어 간단한 VARMA 모형이라도 단순히 VAR 모형만으로 표현하려면 상당히 복잡해지므로, 제안된 희소 VARMA 프레임워크의 가치를 다시 한번 확인시킨다.