[논문 리뷰] Multivariate Bayesian Structural Time Series Model

S. Rao Jammalamadaka, Jinwen Qiu외 1명|arXiv (Cornell University)|2018. 01. 10.

Gaussian Processes and Bayesian Inference참고 문헌 17인용 수 51

한 줄 요약

MBSTS 모델은 다중 상관 시계열에 대해 개인 시계열 예측자 풀(per-series predictor pools)을 사용하여 베이지안 구조적 시계열(Bayesian Structural Time Series)을 확장하고, spike-and-slab 특징 선택과 베이지안 모델 평균화를 통해 예측을 개선하고 과적합을 방지하며, 시뮬레이션 데이터와 주식 포트폴리오 사례 연구에서 입증된다.

ABSTRACT

This paper deals with inference and prediction for multiple correlated time series, where one has also the choice of using a candidate pool of contemporaneous predictors for each target series. Starting with a structural model for the time-series, Bayesian tools are used for model fitting, prediction, and feature selection, thus extending some recent work along these lines for the univariate case. The Bayesian paradigm in this multivariate setting helps the model avoid overfitting as well as capture correlations among the multiple time series with the various state components. The model provides needed flexibility to choose a different set of components and available predictors for each target series. The cyclical component in the model can handle large variations in the short term, which may be caused by external shocks. We run extensive simulations to investigate properties such as estimation accuracy and performance in forecasting. We then run an empirical study with one-step-ahead prediction on the max log return of a portfolio of stocks that involve four leading financial institutions. Both the simulation studies and the extensive empirical study confirm that this multivariate model outperforms three other benchmark models, viz. a model that treats each target series as independent, the autoregressive integrated moving average model with regression (ARIMAX), and the multivariate ARIMAX (MARIMAX) model.

연구 동기 및 목표

• 동시 예측자를 갖춘 다중 상관 시계열 모델링의 필요성을 동기 부여한다.
• 각 목표 시계열에 대해 추세, 계절성, 순환, 회귀 구성요소를 구분하는 유연한 MBSTS 프레임워크를 개발한다.
• 예측자를 선택하고 과적합을 방지하기 위해 spike-and-slab 변수 선택 및 베이지안 모델 평균화를 구현한다.
• 다중 시계열 예측을 위한 계산 가능한 추론 알고리즘(MCMC)과 사후 예측 분포를 제공한다.
• 시뮬레이션 및 실증적인 주식 포트폴리오 데이터에서 벤치마크 모델 대비 우수한 예측 성능을 시연한다.]
• method:[
• 다중 대상에 대한 관측 방정식 및 전이 방정식을 갖춘 상태공간 MBSTS 표현을 구성한다.
• 로컬 선형 추세, 계절성, 순환 및 per-series 예측자 풀을 갖춘 회귀를 포함한다.
• 회귀 계수에 spike-and-slab 사전분포를 적용하여 구성요소별 특징 선택을 가능하게 한다.
• 조건적 conjugacy 트릭을 활용하여 잠재 상태, 구성요소 매개변수, 회귀 포함 여부 및 오차 공분산을 샘플링하는 MCMC를 사용한다.
• 한 단계 예측 및 다중 시계열의 공동 예측을 위한 사후 예측 분포를 도출한다.
• 예측에서 고정된 예측자 집합을 피하고 시계열 간 상관을 반영하기 위해 베이지안 모델 평균화를 활용한다.]
• research_questions:[
• MBSTS가 각 대상에 대해 관련 예측자를 선택하면서 다중 상관 시계열을 정확하게 추정하고 예측할 수 있는가?
• 다변량 구조와 구성요소별 예측자를 포함하는 것이 단변량 BSTS, ARIMAX, MARIMAX에 비해 예측 성능을 개선하는가?
• 스파이크-앤-슬랩 사전이 다변량 BSTS 설정에서 희소한 시계열별 예측자 선택을 어떻게 용이하게 하는가?
• 시계열 간 상관이 예측 성능을 어느 정도 향상시키는가?

제안 방법

• MBSTS가 다중 대상에 대한 관측 방정식 및 전이 방정식을 갖춘 상태공간 MBSTS 표현을 구성한다.
• 로컬 선형 추세, 계절성, 순환 및 per-series 예측자 풀이 포함된 회귀를 포함한다.
• 회귀 계수에 spike-and-slab 사전분포를 적용하여 구성요소별 특징 선택을 가능하게 한다.
• 조건적 conjugacy 트릭을 활용하여 잠재 상태, 구성요소 매개변수, 회귀 포함 여부 및 오차 공분산을 샘플링하는 MCMC를 사용한다.
• 한 단계 예측 및 다중 시계열의 공동 예측을 위한 사후 예측 분포를 도출한다.
• 예측에서 고정된 예측자 집합을 피하고 시계열 간 상관을 반영하기 위해 베이지안 모델 평균화를 활용한다.]
• research_questions:[]
• key_findings:["MBSTS가 단변량 BSTS, ARIMAX, MARIMAX보다 시뮬레이션 및 주식 포트폴리오 예측에서 예측 정확도를 향상시킨다.","다중 구성요소(추세, 계절성, 순환) 및 시계열 간 상관을 포함하는 것이 예측 능력을 향상시킨다.","베이지안 모델 평균화와 스파이크-앤-슬랩 변수 선택은 과적합을 방지하고 각 대상 시계열에 대해 서로 다른 예측자 집합을 허용한다.","모형은 시간에 따라 변하는 공분산 구조와 공동 사후 예측 분포를 통해 대상 시계열 간의 상관을 포착한다.","네 주식 포트폴리오에 대한 실증 적용은 동시 예측자(예: Google 트렌드 및 기술지표)를 사용한 최대 로그 수익률의 한 단계 예측에서 우수성을 보인다."]
• table_headers:[],

실험 결과

연구 질문

• RQ1 Can MBSTS accurately estimate and forecast multiple correlated time series while selecting relevant predictors for each target?
• RQ2 Does incorporating multivariate structure and component-wise predictors improve forecasting over univariate BSTS, ARIMAX, and MARIMAX?
• RQ3 How does the spike-and-slab prior facilitate sparse, per-series predictor selection in a multivariate BSTS setting?
• RQ4 To what extent do cross-series correlations improve predictive performance in both simulated and real data?

주요 결과

• MBSTS yields improved prediction accuracy over univariate BSTS, ARIMAX, and MARIMAX in simulations and stock portfolio forecasting.
• Incorporating multiple components (trend, seasonality, cycle) and cross-series correlations enhances forecasting power.
• Bayesian model averaging and spike-and-slab variable selection help prevent overfitting and allow different predictor sets per target series.
• The model captures correlations among target series through a time-varying covariance structure and joint posterior predictive distribution.
• Empirical application to a four-stock portfolio shows superior one-step-ahead forecasting of max log returns using contemporaneous predictors (e.g., Google trends and technical indicators).