[論文レビュー] Newton-based maximum likelihood estimation in nonlinear state space models

Manon Kok, Johan Dahlin+2 more|arXiv (Cornell University)|Feb 12, 2015

Target Tracking and Data Fusion in Sensor Networks参考文献 18被引用数 6

ひとこと要約

本稿では、Fisherの恒等式とスムージング手法を組み合わせて、対数尤度、勾配、ヘッセ行列を近似することにより、非線形状態空間モデルに対するニュートン法に基づく最尤推定法を提案する。線形化（拡張カルマンフィルタを用いて）とサンプリング（パーティクル手法を用いて）の近似法を比較し、複雑なモデルではサンプリングに基づく手法が優れた精度を示す一方、線形化は高速ではあるが、パラメータが非線形ダイナミクスに含まれる場合には信頼性が低いことが示された。

ABSTRACT

Maximum likelihood (ML) estimation using Newton's method in nonlinear state space models (SSMs) is a challenging problem due to the analytical intractability of the log-likelihood and its gradient and Hessian. We estimate the gradient and Hessian using Fisher's identity in combination with a smoothing algorithm. We explore two approximations of the log-likelihood and of the solution of the smoothing problem. The first is a linearization approximation which is computationally cheap, but the accuracy typically varies between models. The second is a sampling approximation which is asymptotically valid for any SSM but is more computationally costly. We demonstrate our approach for ML parameter estimation on simulated data from two different SSMs with encouraging results.

研究の動機と目的

• 対数尤度およびその微分が解析的に求められない非線形状態空間モデルにおける最尤パラメータ推定の課題に対処すること。
• Fisherの恒等式とスムージング手法を用いて勾配およびヘッセ行列を推定することで、非線形SSMにニュートン最適化を拡張すること。
• 線形化（EKFを用いて）とサンプリング（パーティクルフィルタ／スムージングを用いて）の2つの近似戦略を比較し、対数尤度およびその微分の推定に用いること。
• 異なるモデル構造における計算コストと推定精度のトレードオフを評価すること。
• 2つの非線形SSMから得たシミュレートデータを用いて、提案手法の有効性を示すこと。

提案手法

• 対数尤度の勾配は、Fisherの恒等式を用いて推定され、これは潜在状態の後騒分布上の期待値としてスコアを表現する。
• ヘッセ行列も同様にFisherの恒等式を用いて推定され、完全データ対数尤度の2階モーメントを必要とする。
• スムージング分布は、線形化の場合は拡張カルマンスムージング、サンプリングベースの近似の場合はパーティクルスムージングを用いて近似される。
• 線形化アプローチでは、拡張カルマンフィルタを用いて対数尤度およびその微分を近似し、スムージングにはガウス・ニュートン最適化を用いる。
• サンプリングアプローチでは、パーティクルフィルタリングおよびスムージングを用いて、勾配およびヘッセ行列の漸近的に一貫した推定値を生成する。
• 推定された勾配およびヘッセ行列を用いてニュートン反復スキームを適用し、ステップサイズの制御にはラインサーチを用いる。

実験結果

リサーチクエスチョン

• RQ1 解析的に求められない尤度を伴う非線形状態空間モデルに対し、ニュートン法に基づく最尤推定を効果的に適用できるか？
• RQ2 線形化とサンプリングの近似法は、対数尤度およびその微分の推定において、精度と計算コストの点でどのように比較されるか？
• RQ3 モデルの構造、特にパラメータが非線形部分ではなく線形部分に現れるかどうかが、線形化に基づく近似の性能に影響を与えるか？
• RQ4 収束速度と推定精度の観点から、提案手法は既存の準ニュートン法および勾配フリー手法と比べてどのように異なるか？
• RQ5 Fisherの恒等式は、スムージング手法と効果的に組み合わせられ、非線形SSMにおける高階最適化を可能にするか？

主な発見

• パラメータが線形測定方程式にのみ関与するモデルでは、線形化に基づく手法（ALG2）が最小のバイアスとMSEを達成し、計算コストも最小であった。
• パラメータが非線形状態遷移に含まれるモデル（モデル2）では、線形化に基づく手法（ALG2）が、勾配およびヘッセ行列の近似が不十分であるため、顕著に高いバイアスとMSEを示した。
• サンプリングに基づく手法（NUM）は、モデル2において他のすべての手法を上回り、θ₁のバイアス（31×10⁻⁴）とMSE（23×10⁻⁴）が最小であり、1イテレーションあたりの計算時間（0.19秒）も最小であった。
• EKFを用いて対数尤度を推定し、有限差分法を用いて勾配を推定する準ニュートン法は、モデル2において他のすべての手法を上回ったが、これはパrameter次元数が低く、EKFの性能が良好だったためであった。
• 線形化アプローチは、モデル1では計算が効率的（1イテレーションあたり0.81秒）であったが、モデルの非線形性が強く、かつパラメータが非線形状態遷移に含まれる場合には信頼性が低かった。
• パーティクルスムージングに基づく手法（NUM）は、漸近的に一貫した推定値を提供し、計算コストが高かろうとも、モデル構造にかかわらずその頑健性を確認した。