[論文レビュー] Statistical Inference for Stochastic Differential Equations with Memory

Martin Lysy, Natesh S. Pillai|arXiv (Cornell University)|Jul 3, 2013

Stochastic processes and financial applications参考文献 48被引用数 5

ひとこと要約

本稿では、長-range相関を示す分数 Browne 運動で駆動される、離散的に観測された確率微分方程式（SDE）のベイズ推論フレームワークを開発する。データ拡張とハイブリッドモンテカルロ（HMC）アルゴリズムを活用することで、ドリフト、拡散、およびハーストパラメータを同時に推定可能であり、Toeplitz 行列演算の循環埋め込みを用いることで計算が効率的になる。

ABSTRACT

In this paper we construct a framework for doing statistical inference for discretely observed stochastic differential equations (SDEs) where the driving noise has 'memory'. Classical SDE models for inference assume the driving noise to be Brownian motion, or "white noise", thus implying a Markov assumption. We focus on the case when the driving noise is a fractional Brownian motion, which is a common continuous-time modeling device for capturing long-range memory. Since the likelihood is intractable, we proceed via data augmentation, adapting a familiar discretization and missing data approach developed for the white noise case. In addition to the other SDE parameters, we take the Hurst index to be unknown and estimate it from the data. Posterior sampling is performed via a Hybrid Monte Carlo algorithm on both the parameters and the missing data simultaneously so as to improve mixing. We point out that, due to the long-range correlations of the driving noise, careful discretization of the underlying SDE is necessary for valid inference. Our approach can be adapted to other types of rough-path driving processes such as Gaussian "colored" noise. The methodology is used to estimate the evolution of the memory parameter in US short-term interest rates.

研究の動機と目的

• 古典的なSDEモデルがマルコフ的（ホワイトノイズ）な駆動過程を仮定するという限界を扱い、現実のデータに見られる長-range依存性を捉えられないこと。
• ハーストパラメータ H でインデックス付けられる、長-range記憶性を持つ非マルコフ過程としての分数 Browne 運動（fBM）で駆動されるSDEの統計的推論フレームワークの構築。
• 尤度が評価不能な状況下で、離散的に観測されたデータから未知のハーストパラメータ H とドリフト・拡散係数を同時に推定すること。
• Euler-Maruyama離散化とガウス近似を用いた階層的データ拡張アプローチにより、尤度評価における計算的課題を克服すること。
• ハイブリッドモンテカルロアルゴリズムを用いて、パラメータと潜在パスを同時に更新することで、高次元パラメータ空間における混合性を向上させること。

提案手法

• 未観測の連続的パスを潜在変数とみなすデータ拡張戦略を用い、尤度が評価不能であっても尤度ベース推論が可能になるようにする。
• SDEをEuler-Maruyamaスキームで離散化し、fBMの増分から導かれるToeplitz共分散行列を持つ線形ガウスモデルとして近似する。
• fBM増分のToeplitz分散共分散行列を含む行列演算を、循環埋め込みを用いて効率的に計算し、計算コストをO(N³)からO(N log N)に削減する。
• 初期値とパラメータの条件付きで、多変量ガウス密度として尤度を定式化し、平均と共分散を離散化されたSDEのダイナミクスから導出する。
• ハイブリッドモンテカルロ（HMC）アルゴリズムを実装し、SDEパラメータ（ドリフト、拡散、ハースト）と潜在パスを同時にサンプリングすることで、混合性と収束性を向上させる。
• パラメータに共役事前分布を適用し、ブロック行列分解から導かれる条件付き後確率分布を用いて、効率的なギブスサンプリングステップを可能にする。

実験結果

リサーチクエスチョン

• RQ1 記憶効果により尤度が評価不能な状況下で、分数 Browne 運動で駆動されるSDEの統計的推論はどのように実現できるか？
• RQ2 記憶性を持つSDEのための、効率的かつ妥当な離散化スキームは何か？ その際、駆動ノイズの長-range依存構造を保持できるか？
• RQ3 ベイズフレームワークを用いて、離散時間観測からハーストパラメータ H をドリフト・拡散係数と共に同時に推定可能か？
• RQ4 SDEパラメータと潜在パスを含む高次元パラメータ空間において、後確率サンプリングの性能をどのように向上できるか？
• RQ5 提案手法は、米国短期金利のような長記憶現象をモデル化する際、古典的マルコフ的SDE推論をどの程度上回るか？

主な発見

• 提案されたデータ拡張とHMCに基づく推論フレームワークにより、分数 Browne 運動で駆動されるSDEにおけるドリフト、拡散、およびハーストパラメータの同時推定が可能になった。
• 循環埋め込みにより、Toeplitz行列演算を高速フーリエ変換に変換することで、尤度計算が効率的になり、N > 1000 の場合に計算複雑度がO(N³)からO(N log N)に削減された。
• 本手法は米国短期金利データにおける長-range依存性を効果的に捉え、市場ダイナミクスの変化を反映する時間的に変化する記憶パラメータHを明らかにした。
• ハイブリッドモンテカルロアルゴリズムの使用により、特に高次元パラメータ空間において、標準的なランダムウォークメトロポリス法に比べて混合性が著しく向上した。
• 共役事前分布構造のおかげで、条件付き後確率分布の解析的計算が可能となり、小標本サイズ下でも効率的なギブスサンプリングと頑健な推論が実現した。
• 本フレームワークは、ガウス的カラーノイズなど、fBM以外の非マルコフ的駆動過程に対しても拡張可能であり、応用範囲を広げられる。