[論文レビュー] Asymptotic Properties of Recursive Maximum Likelihood Estimation in Non-Linear State-Space Models

Vladislav B. Tadić, Randal Douc|arXiv (Cornell University)|Jun 25, 2018

Statistical Methods and Bayesian Inference参考文献 32被引用数 9

ひとこと要約

この論文は、非線形状態空間モデルにおける再帰的最尤推定アルゴリズムの厳密な理論的分析を提供する。確率的勾配探索と最適フィルタの微分の粒子近似を組み合わせることで、著者たちは推定値が真の対数尤度率最大値の近傍にほとんど確実に収束することを証明し、その誤差境界は使用する粒子数に依存する。

ABSTRACT

Using stochastic gradient search and the optimal filter derivative, it is possible to perform recursive (i.e., online) maximum likelihood estimation in a non-linear state-space model. As the optimal filter and its derivative are analytically intractable for such a model, they need to be approximated numerically. In [Poyiadjis, Doucet and Singh, Biometrika 2018], a recursive maximum likelihood algorithm based on a particle approximation to the optimal filter derivative has been proposed and studied through numerical simulations. Here, this algorithm and its asymptotic behavior are analyzed theoretically. We show that the algorithm accurately estimates maxima to the underlying (average) log-likelihood when the number of particles is sufficiently large. We also derive (relatively) tight bounds on the estimation error. The obtained results hold under (relatively) mild conditions and cover several classes of non-linear state-space models met in practice.

研究の動機と目的

• 解析的解が得られない非線形状態空間モデルにおける再帰的最尤推定の漸近的妥当性を確立すること。
• 先行研究で提案された粒子ベースの再帰的MLEアルゴリズムの収束特性を分析すること。
• 使用する粒子数の観点から、再帰的アルゴリズムの推定誤差に対する定量的上界を導出すること。
• 強い混合条件の下で、非線形状態空間モデルにおける再帰的MLEの理論的基盤を初めて明確にすること。

提案手法

• 逐次観測を用いてパラメータ推定値をオンラインで更新するため、確率的勾配探索を用いる。
• 非線形状態空間モデルにおける扱いにくい最適フィルタおよびその微分を、粒子フィルタリングで数値的に近似する。
• フィルタ微分の粒子近似に基づく再帰的最尤推定アルゴリズムを適用する。
• 基礎過程のエルゴドリシティと安定性を保証するため、強い混合仮定を導入する。
• リャプノフ型の議論とモーメントバウンドを用いて、粒子近似の誤差を制御する。
• 粒子近似スコア関数のバイアスを分析することで、収束速度と誤差バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 再帰的粒子ベースのMLEアルゴリズムは、非線形状態空間モデルにおいて対数尤度率の停留点に収束するか？
• RQ2 再帰的MLEの推定誤差は、粒子フィルタで使用する粒子数にどのように依存するか？
• RQ3 アルゴリズムは真の対数尤度率最大値の近傍にほとんど確実に収束できるか？
• RQ4 再帰的MLE推定器が安定的かつ一致的であるための理論的条件は何か？
• RQ5 非線形モデルにおける再帰的推定器の漸近的性質は、バッチMLEと比べてどう異なるか？

主な発見

• 再帰的粒子MLEアルゴリズムは、基礎となる対数尤度率の停留点の近傍にほとんど確実に収束する。
• 真の最大値の近傍の半径は、粒子数が増加するにつれて上界で小さくなる量によって抑えられる。
• 推定誤差が $ \beta_Q^n $ に比例する項によって上界で抑えられることを示しており、$ \beta_Q < 1 $ であるため、推定バイアスの指数的減衰を示している。
• 誤差バウンドは $ \tilde{C}_{1,Q}\beta_Q^n(1 + \|\zeta\|) $ と表現され、粒子数と初期パラメータの不確実性に依存する。
• 導出された条件下で、対数尤度関数の勾配がリプシッツ連続であることが示され、最適化経路の安定性が保証される。
• 理論的結果は強い混合条件の下で確立されており、これは粒子フィルタリングで標準的であり、状態過程のエルゴドリック性を保証する。