[논문 리뷰] Dynamic generalized linear models for non-Gaussian time series forecasting

Kostas Triantafyllopoulos|ArXiv.org|2008. 02. 01.

Statistical Methods and Bayesian Inference참고 문헌 42인용 수 3

한 줄 요약

이 논문은 동적 일반화선형모형(DGLMs)을 사용하여 비정규 시계열을 예측하기 위한 통합 베이지안 프레임워크를 제시한다. 공액 사전분포와 베이지안 선형 추정을 활용하여 다양한 지수족 분포에 걸쳐 다단계 예측이 가능하도록 한다. 주요 기여는 금융, 의학, 생물학, 행동과학 등 다양한 분야에 적용 가능한 체계적이고 계산적으로 효율적인 예측 및 모델 모니터링 방법을 제공하는 것이다.

ABSTRACT

The purpose of this paper is to provide a discussion, with illustrating examples, on Bayesian forecasting for dynamic generalized linear models (DGLMs). Adopting approximate Bayesian analysis, based on conjugate forms and on Bayes linear estimation, we describe the theoretical framework and then we provide detailed examples of response distributions, including binomial, Poisson, negative binomial, geometric, normal, log-normal, gamma, exponential, Weibull, Pareto, beta, and inverse Gaussian. We give numerical illustrations for all distributions (except for the normal). Putting together all the above distributions, we give a unified Bayesian approach to non-Gaussian time series analysis, with applications from finance and medicine to biology and the behavioural sciences. Throughout the models we discuss Bayesian forecasting and, for each model, we derive the multi-step forecast mean. Finally, we describe model assessment using the likelihood function, and Bayesian model monitoring.

연구 동기 및 목표

• 비정규 시계열을 위한 종합적인 베이지안 예측 프레임워크를 개발하기 위해 동적 일반화선형모형(DGLMs)을 사용한다.
• 기존 DGLM 접근법을 확장하여 근사 베이지안 추론, 다단계 예측, 그리고 일반적으로 사용되는 이항분포와 포아송분포를 초월한 모델 진단을 통합한다.
• 이항분포, 포아송분포, 음이이항분포, 감마분포, 역가우시안분포, 베타분포 등 다양한 지수족 분포에 걸쳐 예측을 통합한다.
• 정규분포는 이미 잘 다뤄져 있으므로, 나머지 12종의 분포에 대해 실제 및 시뮬레이션 데이터를 활용한 수치적 예시를 제공한다.
• 모델 신뢰도와 해석 가능성을 향상시키기 위해 가능도 기반 모델 평가 및 베이지안 모니터링을 도입한다.

제안 방법

• DGLMs에서 근사 베이지안 추론을 가능하게 하기 위해 공액 사전분포와 베이지안 선형 추정을 채택하여 후행 분포 갱신이 해석 가능하도록 한다.
• 시간에 따라 변하는 매개변수를 갖는 상태공간 설정을 사용: $\theta_t = G_t \theta_{t-1} + \omega_t$, 여기서 $\omega_t \sim N(0, \Omega_t)$.
• 선형 예측자 $\eta_t = F_t' \theta_t$의 후행 분포를 시간에 따라 순차적으로 갱신하기 위해 칼만 필터 프레임워크를 적용한다.
• 후행 예측 분포를 사용하여 다단계 예측 평균을 유도하며, $\eta_t$의 후행 평균 및 분산을 활용한다.
• 모멘트의 근사치를 구하기 위해 모멘트 생성 함수 및 그 도함수를 사용하여 자연 매개변수 $\gamma_t$의 후행 모멘트를 근사한다. 특히 비공액 또는 복잡한 분포의 경우 유용하다.
• 가능도 함수와 후행 예측 검증을 통해 모델 모니터링을 구현하며, 예측 밀도 평가 및 잔차 분석에 특별한 주의를 기울인다.

실험 결과

연구 질문

• RQ1 다양한 지수족 분포에 걸쳐 비정규 시계열에 대한 통합 베이지안 예측 프레임워크를 어떻게 개발할 수 있는가?
• RQ2 공액 사전분포와 근사 베이지안 갱신 하에서 DGLMs의 다단계 예측 평균 및 분산 표현식은 무엇인가?
• RQ3 가능도 기반 및 베이지안 진단을 사용하여 DGLMs에서 체계적인 모델 평가 및 모니터링을 어떻게 수행할 수 있는가?
• RQ4 이항분포와 포아송분포를 초월하여 DGLMs를 확장할 때 발생하는 계산 및 통계적 과제는 무엇이며, 이를 어떻게 해결할 수 있는가?
• RQ5 다이감마 함수 및 트리감마 함수의 근사치는 DGLMs에서 후행 평균 및 분산 추정치의 정확도를 어떻게 향상시키는가?

주요 결과

• 논문은 선형 예측자 $\eta_t$의 후행 평균을 사용하여 DGLMs에서 다단계 예측 평균에 대한 명시적 표현식을 도출함으로써 장기 예측의 신뢰성을 확보한다.
• 베타분포의 경우, $\mu_t$의 후행 평균이 $\mathbb{E}(\mu_t|y^{t-1}) = \frac{r_t}{r_t + s_t}$로 유도되며, 여기서 $r_t$와 $s_t$는 사전 매개변수에 의해 갱신된다.
• 역가우시안분포의 경우, 자연 매개변수 $\gamma_t = -1/\mu_t^2$의 변환을 통해 $\mu_t$의 후행 평균을 도출하며, 비표준 밀도의 통합을 통해 후행 기대값을 계산한다.
• 다이감마 함수 $\psi(x) \approx \log x$ 및 그 도함수 $\psi^{(1)}(x) \approx 1/x$의 渐近 근사치를 사용함으로써, 작은 매개변수 값에서도 후행 모멘트의 안정적 계산이 가능해진다.
• 베타분포의 경우 $\eta_t$의 후행 분산은 $q_t = \text{Var}(\eta_t|y^{t-1}) = \frac{1}{r_t} - \frac{1}{s_t - r_t}$로 근사되며, 다른 분포에 대해서도 유사한 표현식이 도출된다.
• 가능도 함수와 후행 예측 검증을 통해 모델 모니터링이 용이해지며, 실제 및 시뮬레이션 데이터를 활용한 수치적 예시를 통해 12종의 분포(정규분포 제외)에서 일관된 성능을 보였다.