[論文レビュー] Maximum Likelihood Estimation for Stochastic Differential Equations Using Sequential Kriging-Based Optimization

Grant Schneider, Craigmile, Peter F.+1 more|arXiv (Cornell University)|Aug 11, 2014

Advanced Multi-Objective Optimization Algorithms参考文献 15被引用数 3

ひとこと要約

本稿では、確率的微分方程式（SDE）における最尤推定（MLE）のための逐次クリギングベース最適化（SKBO）手法を提案する。尤度は逐次モンテカルロ（SMC）を用いて推定される。尤度関数の対数をガウス過程（GP）としてモデル化し、期待改善（EI）を用いて有望なパラメータ値を逐次的に選択することで、勾配情報やグリッド探索を必要とせず、MLEを効率的に特定する。従来の手法と比較して顕著な計算上の利点を示している。

ABSTRACT

Stochastic Differential Equations (SDEs) are used as statistical models in many disciplines. However, intractable likelihood functions for SDEs make inference challenging, and we need to resort to simulation-based techniques to estimate and maximize the likelihood function. While sequential Monte Carlo methods have allowed for the accurate evaluation of likelihoods at fixed parameter values, there is still a question of how to find the maximum likelihood estimate. In this article we propose an efficient Gaussian-process-based method for exploring the parameter space using estimates of the likelihood from a sequential Monte Carlo sampler. Our method accounts for the inherent Monte Carlo variability of the estimated likelihood, and does not require knowledge of gradients. The procedure adds potential parameter values by maximizing the so-called expected improvement, leveraging the fact that the likelihood function is assumed to be smooth. Our simulations demonstrate that our method has significant computational and efficiency gains over existing grid- and gradient-based techniques. Our method is applied to modeling the closing stock price of three technology firms.

研究の動機と目的

• 閉形式の遷移密度が得られないため、SDEにおける不確実な尤度関数の最大化という課題に対処すること。
• グリッドベースや勾配ベースの最適化に代わる逐次的かつ適応的なサンプリング戦略を導入することで、MLEにおける計算負荷を低減すること。
• SMCで推定された尤度におけるモンテカルロ変動を適切にモデル化・扱いながら、勾配情報に依存しない方法を確立すること。
• ベイジアン最適化の原則を応用し、複雑なSDEモデルにおけるMLEに対して、頑健で不確実性を定量化的に評価可能な手法を提供すること。

提案手法

• パラメータ空間全体にわたる滑らかさと不確実性を捉えるために、対数尤度関数をガウス過程（GP）としてモデル化する。
• 期待改善（EI）基準を最大化することで、段階的・反復的に新たなパラメータ値を選択し、探索と活用のバランスを取る。
• 各選択されたパラメータ値における尤度推定に逐次モンテカルロ（SMC）を用い、モンテカルロ変動を適切に反映する。
• 各尤度推定値の後、GPの事後分布を更新し、尤度近似における不確実性を組み込む。
• GPハイパーパrameterの学習にベイジアンフレームワークを適用することで、事前知識の統合と自然な不確実性の定量的評価を可能にする。
• マルチコアR関数を活用した並列計算により、特にモンテカルロおよび重要度サンプリングのステップで計算効率を向上させる。

実験結果

リサーチクエスチョン

• RQ1 不確実な尤度関数を有するSDEにおけるMLEを、逐次的かつ勾配フリーな最適化手法が、どのように効率的に特定できるか。
• RQ2 SMCで推定された尤度におけるモンテカルロ変動を、最適化プロセス内で効果的にモデル化・扱う方法は何か。
• RQ3 クリギングフレームワーク内で期待改善を用いることで、グリッドベースや勾配ベースの手法に比べ、計算効率や収束速度に優位性が得られるか。
• RQ4 提案されたSKBO手法が、SDEモデルにおけるMLEに対して、どの程度信頼性のある不確実性の定量的評価を提供できるか。

主な発見

• SKBO手法は、SDEにおけるMLEにおいて、グリッドベースや勾配ベースの最適化手法に比べ、顕著な計算的・効率的利点を達成している。
• 適応的かつ段階的なパラメータ空間のサンプリングにより、MLEを効果的に特定しており、期待改善によるグローバル探索によって局所最適解を回避している。
• 初期仮定におけるモデル誤差に強く、単純なGPパrameterizationですら良好な性能を示しており、初期仮定の誤りに対するロバストネスを示している。
• 尤度推定における不確実性を自然に組み込み、MLEにおける不確実性を一貫した枠組みで定量的に評価できる。
• 並列処理に強く、マルチコアやGPUアーキテクチャを活用することでさらなる高速化が期待できる。