[논문 리뷰] varstan: An R package for Bayesian analysis of structured time series models with Stan

Izhar Asael Alonzo Matamoros, Cristian Andrés Cruz Torres|arXiv (Cornell University)|2020. 05. 20.

Statistical Methods and Inference참고 문헌 19인용 수 4

한 줄 요약

이 논문은 스탠의 효율적인 하미르톤 몬테카를로 샘플링을 사용하여 구조적 시계열 모델의 베이지안 분석을 가능하게 하는 R 패키지 varstan을 소개한다. 이 패키지는 SARIMA, GARCH, 동적 회귀, VARMA 등 다양한 모델을 지원하며, 유연한 사전 분포 설정 기능을 제공하고 WAIC, LOOIC, 베이즈 요인을 통한 고급 모델 비교 기능을 갖추고 있다. 미국 월간 출생 데이터에 대해 선택된 SARIMA(1,1,1)(1,1,1)[12] 모델을 통해 뛰어난 성능을 입증하였다.

ABSTRACT

varstan is an \proglang{R} package for Bayesian analysis of time series models using \proglang{Stan}. The package offers a dynamic way to choose a model, define priors in a wide range of distributions, check model's fit, and forecast with the m-steps ahead predictive distribution. The users can widely choose between implemented models such as extit{multiplicative seasonal ARIMA, dynamic regression, random walks, GARCH, dynamic harmonic regressions,VARMA, stochastic Volatility Models, and generalized t-student with unknown degree freedom GARCH models}. Every model constructor in \pkg{varstan} defines weakly informative priors, but prior specifications can be changed in a dynamic and flexible way, so the prior distributions reflect the parameter's initial beliefs. For model selection, the package offers the classical information criteria: AIC, AICc, BIC, DIC, Bayes factor. And more recent criteria such as Widely-applicable information criteria ( extit{WAIC}), and the Bayesian leave one out cross-validation ( extit{loo}). In addition, a Bayesian version for automatic order selection in seasonal ARIMA and dynamic regression models can be used as an initial step for the time series analysis.

연구 동기 및 목표

• 스탄의 효율적인 샘플링 알고리즘을 사용한 베이지안 시계열 분석을 위한 유연하고 사용자 友好的인 R 패키지 개발.
• SARIMA, GARCH, 동적 회귀, VARMA 등 다양한 구조적 시계열 모델을 지원하는 것.
• 사용자의 믿음을 반영할 수 있는 동적이고 탄력적인 사전 분포 설정 기능을 제공하면서도 약한 정보성 사전 분포를 유지하는 것.
• WAIC, LOOIC, DIC, AICc, BIC 및 베이즈 요인을 포함한 포괄적인 모델 선택 도구 제공.
• forecast 및 astsa와 같은 전통적인 R 시계열 패키지에서 영감을 얻은 실용적이고 접근성 있는 인터페이스 제공으로, 베이지안 시계열 모델링의 접근 장벽을 낮추는 것.

제안 방법

• 패키지는 하미르톤 몬테카를로를 통한 효율적 베이지안 추론을 위해 스탠의 No-U-Turn 샘플러(NUTS)를 사용하며, 고차원 모델에서도 빠른 수렴을 가능하게 한다.
• 각 모델 유형(SARIMA, GARCH 등)은 전용 생성자 함수를 통해 모듈러한 인터페이스로 구성되며, 기본적으로 약한 정보성 사전 분포를 제공한다.
• 사용자는 사전 분포를 동적으로 수정할 수 있어 주관적 신념을 반영하면서도 계산의 안정성을 유지할 수 있다.
• 모델 피팅은 스탠의 R 인터페이스를 통해 MCMC 샘플링을 사용하며, 수렴 평가를 위한 R-hat 및 유효 표본 크기(ESS) 등의 진단 지표를 제공한다.
• 모델 비교는 WAIC, LOOIC, DIC, AICc, BIC 및 마진형 확률을 통한 베이즈 요인을 포함한 다수의 기준을 통해 지원된다.
• SARIMA 및 동적 회귀 모델에 대해 자동 차수 선택 기능을 포함하여 모델 탐색의 출발점으로 기능한다.

실험 결과

연구 질문

• RQ1 R을 사용하는 실무자들이 시계열 모델링에 더 쉽게 접근하고 더 유연하게 사용할 수 있도록 베이지안 시계열 모델링을 어떻게 개선할 수 있는가?
• RQ2 스탄의 NUTS 샘플러는 비공액 사전 분포를 가진 복잡한 구조적 시계열 모델(SARIMA, GARCH 등)을 효과적으로 처리할 수 있는가?
• RQ3 클래식한 기준과 비교할 때 WAIC 및 LOOIC와 같은 모델 비교 기준은 어떤 방식으로 최적의 시계열 모델을 선택하는 데 효과적인가?
• RQ4 varstan의 자동 차수 선택 기능은 수동 설정에 비해 모델 식별에 얼마나 향상된 성능을 보이는가?
• RQ5 auto.sarima 함수를 사용한 자동 선택 모델과 수동으로 선택한 SARIMA 모델 간 예측 정확도 및 모델 적합도 측면에서 성능은 어떻게 비교되는가?

주요 결과

• 미국 월간 출생 데이터에 대해 로그 베이즈 요인 199.14를 바탕으로 SARIMA(1,1,1)(1,1,1)[12] 모델(model1)이 가장 적합한 모델로 선정되었다. 이는 강력한 증거를 제공한다.
• LOOIC를 통한 모델 비교 결과, auto.sarima에 의해 선택된 모델(SARIMA(0,1,2)(1,1,1)[12])의 LOOIC는 2470으로 model1(2472)보다 낮아 예측 성능이 더 뛰어나다는 것을 시사한다.
• LOOIC 차이가 2 단위이며 표준 오차는 5.8로, auto.sarima 모델이 略적으로 더 선호되지만, 그 차이는 미미하다.
• 모든 매개변수에 대해 후행 분포가 성공적으로 추정되었으며, R-hat 값이 1.0에 가까워 각 체인 간 수렴이 양호함을 나타낸다.
• 조화 회귀 모델은 더 많은 매개변수를 포함하고도, 모델 선택 기준에서 계절 ARIMA 모델에 뒤지며, 이는 계절성 있는 출생 패턴에 대해 후자의 모델이 더 적합함을 확인한다.
• GARCH 및 스토케스틱 볼라티리티 변형과 같은 복잡한 모델을 다룰 때도, 탄력적인 사전 분포 설정과 효율적 샘플링을 통해 패키지의 강력한 성능을 입증하였다.