[论文解读] Maximum Likelihood Estimation for Stochastic Differential Equations Using Sequential Kriging-Based Optimization

Grant Schneider, Craigmile, Peter F.+1 more|arXiv (Cornell University)|Aug 11, 2014

Advanced Multi-Objective Optimization Algorithms参考文献 15被引用 3

一句话总结

本文提出一种基于序列克里金法的优化（SKBO）方法，用于随机微分方程（SDEs）中的最大似然估计（MLE），其中似然函数通过序列蒙特卡洛（SMC）进行估计。通过将对数似然函数建模为高斯过程，并利用期望改进（expected improvement）准则依次选择有前景的参数值，该方法在无需梯度信息或网格搜索的情况下，高效地定位 MLE，相较于现有方法展现出显著的计算优势。

ABSTRACT

Stochastic Differential Equations (SDEs) are used as statistical models in many disciplines. However, intractable likelihood functions for SDEs make inference challenging, and we need to resort to simulation-based techniques to estimate and maximize the likelihood function. While sequential Monte Carlo methods have allowed for the accurate evaluation of likelihoods at fixed parameter values, there is still a question of how to find the maximum likelihood estimate. In this article we propose an efficient Gaussian-process-based method for exploring the parameter space using estimates of the likelihood from a sequential Monte Carlo sampler. Our method accounts for the inherent Monte Carlo variability of the estimated likelihood, and does not require knowledge of gradients. The procedure adds potential parameter values by maximizing the so-called expected improvement, leveraging the fact that the likelihood function is assumed to be smooth. Our simulations demonstrate that our method has significant computational and efficiency gains over existing grid- and gradient-based techniques. Our method is applied to modeling the closing stock price of three technology firms.

研究动机与目标

• 解决由于缺乏闭式转移密度而导致 SDE 中似然函数难以计算的问题。
• 通过用序列自适应采样策略替代基于网格或梯度的优化方法，降低 MLE 的计算负担。
• 在不依赖梯度信息的前提下，对 SMC 估计的似然函数中的蒙特卡洛变异性进行有效建模与处理。
• 基于贝叶斯优化原理，为复杂 SDE 模型中的 MLE 提供一种稳健且具备不确定性量化的优化方法。

提出的方法

• 将对数似然函数建模为高斯过程（GP），以捕捉其在参数空间上的平滑性与不确定性。
• 利用序列克里金法通过最大化期望改进（EI）准则，迭代选择新的参数值，实现探索与利用之间的平衡。
• 采用序列蒙特卡洛（SMC）在每个选定的参数值处估计似然函数，以考虑蒙特卡洛变异性。
• 在每次获得新的似然估计后，更新 GP 后验分布，整合对似然近似值的不确定性。
• 采用贝叶斯框架学习 GP 超参数，支持先验知识的整合，并实现自然的不确定性量化。
• 通过多核 R 程序实现并行计算，提升计算效率，尤其适用于蒙特卡洛与重要性采样步骤。

实验结果

研究问题

• RQ1 能否通过一种序列化、无梯度的优化方法，高效地在具有不可计算似然函数的 SDE 中定位 MLE？
• RQ2 如何在优化过程中有效建模并处理 SMC 估计似然函数中的蒙特卡洛变异性？
• RQ3 在克里金框架中使用期望改进是否在计算效率与收敛速度方面优于基于网格或梯度的方法？
• RQ4 所提出的 SKBO 方法在多大程度上能为 SDE 模型中的 MLE 提供可靠的不确定性量化？

主要发现

• SKBO 方法在 SDE 的 MLE 中相较于基于网格和基于梯度的优化技术，实现了显著的计算效率提升。
• 该方法通过自适应采样参数空间，成功定位 MLE，借助期望改进实现全局搜索，避免陷入局部极大值。
• 即使采用朴素的 GP 参数化，方法仍表现出强劲性能，表明对初始假设中模型误设具有鲁棒性。
• 该方法自然地整合了似然估计中的不确定性，并为 MLE 的不确定性提供了连贯的量化框架。
• 该方法高度可并行化，表明通过多核或 GPU 计算架构可进一步实现速度提升。