[論文レビュー] Dynamic generalized linear models for non-Gaussian time series forecasting

Kostas Triantafyllopoulos|ArXiv.org|Feb 1, 2008

Statistical Methods and Bayesian Inference参考文献 42被引用数 3

ひとこと要約

本稿では、動的一般化線形モデル（DGLMs）を用いた非ガウス型時系列の予測のための統一的ベイズ枠組みを提示する。共役事前分布とベイズ線形推定を用いることで、指数型分布族に属する多様な分布に対して、マルチステップ予測が可能となる。主な貢献は、ファイナンス、医学、生物学、行動科学など、幅広い分野に適用可能な、計算的に効率的な予測とモデル監視の体系的アプローチである。

ABSTRACT

The purpose of this paper is to provide a discussion, with illustrating examples, on Bayesian forecasting for dynamic generalized linear models (DGLMs). Adopting approximate Bayesian analysis, based on conjugate forms and on Bayes linear estimation, we describe the theoretical framework and then we provide detailed examples of response distributions, including binomial, Poisson, negative binomial, geometric, normal, log-normal, gamma, exponential, Weibull, Pareto, beta, and inverse Gaussian. We give numerical illustrations for all distributions (except for the normal). Putting together all the above distributions, we give a unified Bayesian approach to non-Gaussian time series analysis, with applications from finance and medicine to biology and the behavioural sciences. Throughout the models we discuss Bayesian forecasting and, for each model, we derive the multi-step forecast mean. Finally, we describe model assessment using the likelihood function, and Bayesian model monitoring.

研究の動機と目的

• 非ガウス型時系列のための包括的なベイズ予測枠組みを、動的一般化線形モデル（DGLMs）を用いて開発すること。
• 既存のDGLM手法を拡張し、近似ベイズ推論、マルチステップ予測、および代表的な二項分布やポアソン分布を超えるモデル診断を統合すること。
• 二項分布、ポアソン分布、負の二項分布、ガンマ分布、逆ガウス分布、ベータ分布など、指数型分布族の広範な分布にわたる予測の統一を図ること。
• 正規分布を除くすべての分布について、実データおよびシミュレーテッドデータを用いた数値的実例を提示すること。
• 尤度に基づくモデル評価とベイズ的モデル監視を導入し、モデルの信頼性と解釈可能性を向上させること。

提案手法

• 共役事前分布とベイズ線形推定を採用し、DGLMsにおける近似ベイズ推論を実現し、後方分布の計算可能な更新を可能にする。
• 時変パラメータを有する状態空間表現を用いる：$\theta_t = G_t \theta_{t-1} + \omega_t$、ここで$\omega_t \sim N(0, \Omega_t)$。
• カルマンフィルタフレームワークを用いて、線形予測子$\eta_t = F_t' \theta_t$の後方分布を時系列に沿って逐次更新する。
• 後方予測分布を用いて、予測の平均をマルチステップ先に導出する。この際、$\eta_t$の後方平均と分散を用いる。
• モーメントの近似に、累積量母関数およびその微分を用い、特に共役でないまたは複雑な分布における自然パラメータ$\gamma_t$の後方モーメントを近似する。
• 尤度関数と後方予測チェックを通じてモデル監視を実装し、予測密度の評価と残差解析に特に注目する。

実験結果

リサーチクエスチョン

• RQ1 多様な指数型分布族にわたる非ガウス型時系列のための統一的ベイズ予測枠組みは、どのように構築可能か？
• RQ2 共役事前分布と近似ベイズ更新を用いたDGLMsにおいて、マルチステップ予測の平均と分散の式は何か？
• RQ3 尤度に基づくおよびベイズ的診断を用いて、DGLMsにおけるモデル評価と監視を体系的に行うにはどうすればよいか？
• RQ4 二項分布やポアソン分布を超えるDGLMsの拡張における計算的・統計的課題は何か。それらはどのように解決できるか？
• RQ5 ディガマ関数およびトリガマ関数の近似は、DGLMsにおける後方平均と分散推定の精度をどのように向上させるか？

主な発見

• 本稿では、線形予測子$\eta_t$の後方平均を用いて、DGLMsにおけるマルチステップ予測平均の明示的表現を導出しており、長期予測の信頼性を高める。
• ベータ分布の場合、$\mu_t$の後方平均は$\mathbb{E}(\mu_t|y^{t-1}) = \frac{r_t}{r_t + s_t}$として導出され、ここで$r_t$と$s_t$は事前パラメータに基づき更新される。
• 逆ガウス分布の場合、自然パラメータ$\gamma_t = -1/\mu_t^2$の変換を経て、非標準密度の積分を用いて後方期待値が計算される。
• ディガマ関数$\psi(x) \approx \log x$およびその微分$\psi^{(1)}(x) \approx 1/x$の漸近的近似を用いることで、小さなパラメータ値に対しても後方モーメントの安定計算が可能になる。
• ベータ分布における$\eta_t$の後方分散は$q_t = \text{Var}(\eta_t|y^{t-1}) = \frac{1}{r_t} - \frac{1}{s_t - r_t}$として近似され、他の分布に対しても同様の式が導出される。
• 尤度関数と後方予測チェックを通じて、モデル監視が容易になり、12種類の分布（正規分布を除く）の全テストで一貫した性能が数値的実例で示された。