[论文解读] Paramater estimation for the McKean-Vlasov stochastic differential equation

Louis Sharrock, Nikolas Kantas+2 more|arXiv (Cornell University)|Jun 25, 2021

Stochastic processes and financial applications被引用 9

一句话总结

本文提出了用于麦凯恩-弗拉索夫随机微分方程参数估计的在线与离线最大似然估计器，利用相互作用粒子系统和连续时间随机梯度上升方法。在遍历性和时间一致的混沌传播条件下，建立了在线估计器几乎必然收敛和L1收敛于极限对比函数的驻点，且在全局强凹性条件下实现L2收敛于真实参数。

ABSTRACT

We consider the problem of parameter estimation for a stochastic McKean-Vlasov equation, and the associated system of weakly interacting particles. We study two cases: one in which we observe multiple independent trajectories of the McKean-Vlasov SDE, and another in which we observe multiple particles from the interacting particle system. In each case, we begin by establishing consistency and asymptotic normality of the (approximate) offline maximum likelihood estimator, in the limit as the number of observations $N\ ightarrow\\infty$. We then propose an online maximum likelihood estimator, which is based on a continuous-time stochastic gradient ascent scheme with respect to the asymptotic log-likelihood of the interacting particle system. We characterise the asymptotic behaviour of this estimator in the limit as $t\ ightarrow\\infty$, and also in the joint limit as $t\ ightarrow\\infty$ and $N\ ightarrow\\infty$. In these two cases, we obtain a.s. or $\\mathbb{L}_1$ convergence to the stationary points of a limiting contrast function, under suitable conditions which guarantee ergodicity and uniform-in-time propagation of chaos. We also establish, under the additional condition of global strong concavity, $\\mathbb{L}_2$ convergence to the unique maximiser of the asymptotic log-likelihood of the McKean-Vlasov SDE, with an asymptotic convergence rate which depends on the learning rate, the number of observations, and the dimension of the non-linear process. Our theoretical results are supported by two numerical examples, a linear mean field model and a stochastic opinion dynamics model.

研究动机与目标

• 开发用于漂移项关于解的分布呈线性的麦凯恩-弗拉索夫SDE的参数估计方法。
• 在大观测次数极限下，建立离线最大似然估计器的一致性和渐近正态性。
• 提出一种基于相互作用粒子系统渐近对数似然的连续时间随机梯度上升法，用于在线最大似然估计。
• 刻画在线估计器在t→∞和t→∞, N→∞两个极限下的渐近行为。
• 在全局强凹性条件下，证明L2收敛于真实参数，收敛速率依赖于学习率、样本量和维度。

提出的方法

• 推导相互作用粒子系统的渐近对数似然，用于在线估计。
• 提出一种连续时间随机梯度上升方案，实现实时参数估计更新。
• 在遍历性和时间一致的混沌传播条件下，证明在线估计器几乎必然收敛和L1收敛于极限对比函数的驻点。
• 利用近似对数似然的Hessian矩阵验证全局强凹性，从而实现L2收敛于唯一最大值点。
• 采用大N和长时间渐近分析，刻画估计器的极限行为。
• 通过线性平均场模型和随机意见动力学模型的数值实验验证理论结果。

实验结果

研究问题

• RQ1 当时间t→∞时，麦凯恩-弗拉索夫SDE的在线最大似然估计器是否以几乎必然收敛于极限对比函数的驻点？
• RQ2 在何种条件下，可保证在线估计器的L2收敛于真实参数？其渐近收敛速率如何？
• RQ3 估计器的渐近行为如何依赖于学习率、粒子数N和维度d？
• RQ4 在何种条件下，离线最大似然估计器可实现一致性和渐近正态性？
• RQ5 渐近对比函数是否强凹？这是否能保证在真实参数处唯一最大化？

主要发现

• 当独立轨迹数N→∞时，离线最大似然估计器是一致且渐近正态的。
• 在遍历性和时间一致的混沌传播条件下，在线最大似然估计器以几乎必然收敛于极限对比函数的驻点。
• 在联合极限t→∞和N→∞下，在线估计器以L1收敛于极限对比函数的驻点。
• 在渐近对数似然的全局强凹性条件下，若学习率、N和维度d满足一定条件，该在线估计器以L2收敛于真实参数，收敛速率依赖于学习率、N和维度d。
• 在线性平均场模型中，渐近对比函数并非强凹，意味着最大值点不唯一，且强凹性条件不成立。
• 数值结果在线性平均场模型和随机意见动力学模型上验证了理论收敛性质。