[論文レビュー] Quasi-Newton particle Metropolis-Hastings

Johan Dahlin, Fredrik Lindsten+1 more|arXiv (Cornell University)|Feb 12, 2015

Markov Chains and Monte Carlo Methods参考文献 19被引用数 7

ひとこと要約

本稿では、尤度が非線形状態空間モデルにおいて不変である場合のベイズ的パラメータ推定における混合性能を向上させるために、ランダムウォーク提案に代えて勾配に基づくヘッセ行列近似を用いる準ニュートン粒子メトロポリス・ハスティングス（qPMH2）アルゴリズムを提案する。この手法は、粒子平滑化による勾配推定から得られる限界記憶BFGS更新を活用することで、調整を最小限に抑えつつ良好な混合性能を達成し、$α$-安定分布の innovations を持つ確率的ボラティリティモデルにおいても強力な性能を示す。

ABSTRACT

Particle Metropolis-Hastings enables Bayesian parameter inference in general nonlinear state space models (SSMs). However, in many implementations a random walk proposal is used and this can result in poor mixing if not tuned correctly using tedious pilot runs. Therefore, we consider a new proposal inspired by quasi-Newton algorithms that may achieve similar (or better) mixing with less tuning. An advantage compared to other Hessian based proposals, is that it only requires estimates of the gradient of the log-posterior. A possible application is parameter inference in the challenging class of SSMs with intractable likelihoods. We exemplify this application and the benefits of the new proposal by modelling log-returns of future contracts on coffee by a stochastic volatility model with $α$-stable observations.

研究の動機と目的

• 標準的な粒子メトロポリス・ハスティングス（PMH）におけるランダムウォーク提案による混合性能の悪さを是正すること。
• パイロットランの提案共分散調整に依存するのを減らすために勾配情報を利用する。
• 明示的なヘッセ行列計算を避けるために、勾配推定値のみを用いてヘッセ行列を近似する提案手法を開発すること。
• 尤度が不変なモデル、例えば$α$-安定分布に従うリターンを持つ確率的ボラティリティモデルにおいてその有効性を示すこと。
• 高次元または非等方的後騋分布設定において、従来のPMH手法に代わるスケーラブルで調整が少ない代替手法を提供すること。

提案手法

• 粒子後確率の対数の勾配推定値を用いて、限界記憶BFGSアルゴリズムを変形し、PMHフレームワーク内での提案分布を構築する。
• 粒子平滑化を用いて対数後確率の勾配を推定し、明示的なヘッセ行列計算を回避しつつヘッセ行列の近似を可能にする。
• 過去の勾配情報に基づいて反復的に提案共分散行列を改善するための準ニュートン更新則を採用する。
• 提案されたqPMH2を粒子MCMCフレームワークに統合し、標準的なランダムウォーク提案の代わりに事前調整された勾配情報に基づく提案に置き換える。
• 線形ガウス状態空間モデルおよび$α$-安定分布に従うリターンを持つ確率的ボラティリティモデルの両方へ適用する。
• 不変な尤度を推定するために逐次モンテカルロ（SMC）を用い、ヘッセ行列近似のための勾配を計算するために粒子平滑化を用いる。

実験結果

リサーチクエスチョン

• RQ1 勾配に基づく準ニュートン提案が、パイロットランをほとんど必要とせずに粒子メトロポリス・ハスティングスにおける混合性能を改善できるか？
• RQ2 明示的なヘッセ行列計算を避けて勾配推定値のみを用いてヘッセ行列を近似する手法が、ランダムウォーク提案や完全なヘッセ行列に基づく提案に比べて混合効率に優れているか？
• RQ3 尤度が不変なモデル、例えば$α$-安定分布に従う観測を持つモデルにおいて、qPMH2手法はどの程度の性能を示すか？
• RQ4 勾配推定の分散がqPMH2アルゴリズムの混合性能に与える影響は何か？
• RQ5 標準的なPMHにランダムウォーク提案を用いる場合と比較して、qPMH2は高次元パrameter空間へスケーリングして効果的に機能するか？

主な発見

• qPMH2手法は、調整の必要が著しく少ないにもかかわらず、事前調整済みPMHと同等またはそれ以上の混合性能を達成した。
• このアルゴリズムは、$\delta$ と $M$ の2つのパラメータの選択のみで実装が簡素化され、共分散調整が必要なランダムウォーク提案と比較して容易である。
• $α$-安定分布に従うリターンを持つ確率的ボラティリティモデルでは、qPMH2はそれぞれ$\mu$, $\phi$, $\sigma_v$, $\alpha$ の後確率的平均$\widehat{\theta} = \{0.214, 0.931, 0.268, 1.538\}$を推定した。
• qPMH2による後確率的推定値は、標準的なPMHとの間に一貫性があり、信頼性と正確性を示した。
• qPMH2による平滑化済み対数ボラティリティ推定値は、2014年3月ごろのジャンプを含む、低ボラティリティおよび高ボラティリティの期間を的確に捉えた。
• 勾配の分散が低いか中程度の場合は、この手法は頑健な性能を示したが、高すぎる勾配分散では混合性能が低下した。これは、より優れた粒子平滑化技術の必要性を示唆している。