[論文レビュー] Shrinkage in the Time-Varying Parameter Model Framework Using the R Package shrinkTVP

Peter Knaus, Angela Bitto-Nemling+2 more|arXiv (Cornell University)|Jul 16, 2019

Statistical Methods and Inference参考文献 37被引用数 7

ひとこと要約

本論文は、階層的縮小事前分布（特に正規-ガンマ-ガンマ（NGG）、正規-ガンマ（NG）、リッジ回帰事前分布）を用いて、時変係数（TVP）モデルにおける縮小を実装するRパッケージshrinkTVPを紹介する。この手法により、ハイパーパrameterの自動学習を伴う、適応的で柔軟かつスケーラブルなMCMCによる推論が可能となり、メトロポリス・ワン・ギブス法を用いた適応的サンプリングにより、時変係数の推定が高精度で実現される。

ABSTRACT

Time-varying parameter (TVP) models are widely used in time series analysis to flexibly deal with processes which gradually change over time. However, the risk of overfitting in TVP models is well known. This issue can be dealt with using appropriate global-local shrinkage priors, which pull time-varying parameters towards static ones. In this paper, we introduce the R package shrinkTVP (Knaus, Bitto-Nemling, Cadonna, and Frühwirth-Schnatter 2019), which provides a fully Bayesian implementation of shrinkage priors for TVP models, taking advantage of recent developments in the literature, in particular that of Bitto and Frühwirth-Schnatter (2019). The package shrinkTVP allows for posterior simulation of the parameters through an efficient Markov Chain Monte Carlo (MCMC) scheme. Moreover, summary and visualization methods, as well as the possibility of assessing predictive performance through log predictive density scores (LPDSs), are provided. The computationally intensive tasks have been implemented in C++ and interfaced with R. The paper includes a brief overview of the models and shrinkage priors implemented in the package. Furthermore, core functionalities are illustrated, both with simulated and real data.

研究の動機と目的

• 時変係数モデルに対する柔軟なベイズ枠組みを構築し、係数の自動的縮小を実現すること。
• 統合されたRパッケージ内で、特にNGG、NG、リッジ回帰を含む階層的縮小事前分布を実装すること。
• 提案分布の自動チューニングを伴う適応的MCMCサンプリングを実現し、混合性と収束性を向上させること。
• stochvolパッケージとの統合により、観測方程式における確率的ボラティリティをサポートすること。
• ユーザーがグローバル、ポール、テールパラメータを固定または学習可能とする、事前分布のハイパーパrameterに対する完全な制御を提供すること。

提案手法

• 時変係数を条件付き正規分布でモデル化し、その分散をガンマ混合分布から抽出することで、NGG事前分布を構築する階層的事前分布構造を採用する。
• 3段階の階層的事前分布構造を採用：成分ごとの分散はガンマ分布に従い、それらはポール、テール、グローバルパラメータを持つハイパーパラメータに依存する。
• 完全条件付き分布が得られないパラメータに対しては、受容率に基づいて提案標準偏差を動的にチューニングする適応的メトロポリス・ワン・ギブス法を適用する。
• `mod_type`引数により3種類のモデルタイプをサポート：'triple'（NGG）、'double'（NG）、'ridge'（固定分散正規事前分布）。
• stochvolパッケージを統合し、状態依存の観測誤差分散を可能にする。ボラティリティパラメータにハイパーパラメータを設定可能。
• ハイパーパラメータを`hyperprior_param`および`sv_param`のリストとして公開し、ユーザーが事前分布をカスタマイズするか、特定の推論目的に合わせて値を固定できるようにする。

実験結果

リサーチクエスチョン

• RQ1 階層的縮小事前分布を時変係数モデルに効果的に適用することで、係数推定の精度とモデル安定性をどのように向上させられるか？
• RQ2 NGG、NG、リッジといった異なる階層的事前分布構造が、TVPモデルの縮小行動と予測性能に与える影響は何か？
• RQ3 適応的メトロポリス・ワン・ギブス法は、高次元TVPモデルにおけるMCMC収束性と混合性をどのように改善するか？
• RQ4 生成プロセスが仮定された事前分布構造と一致する場合、shrinkTVPパッケージは合成データにおいて真の係数を信頼性高く回復できるか？
• RQ5 計算効率と正確な推論を維持しつつ、観測方程式における確率的ボラティリティをどの程度サポートできるか？

主な発見

• NGG事前分布は、ハンズシューブとベイズ・ラッソを極限ケースとして含み、重たい尾部とスパース性を示す柔軟な縮小を可能にする。
• NGG事前分布のポールおよびテールパラメータを0.5に設定すると、ハンズシューブ事前分布が回復され、不要な係数の強力な縮小が実現される。
• ポールパラメータを1に固定し、テールパラメータを0.5に設定すると、ベイズ・ラッソが再現され、パッケージが標準的な縮小手法を正確に再現できることを示す。
• 適応的メトロポリス・ワン・ギブス法は、特に主要ハイパーパラメータの完全条件付き分布が得られない場合に、MCMCの混合性を顕著に改善する。
• データ生成プロセスが仮定された事前分布構造と一致する場合、合成データにおいて真の係数が成功裏に回復される。
• ポールパラメータを0に近い値に固定することで、ユーザーは望みのスパarsity度を達成でき、不要な時変係数を的確に縮小できる。