[論文レビュー] Paramater estimation for the McKean-Vlasov stochastic differential equation

Louis Sharrock, Nikolas Kantas+2 more|arXiv (Cornell University)|Jun 25, 2021

Stochastic processes and financial applications被引用数 9

ひとこと要約

本稿では、相互作用粒子系と連続時間の確率的勾配上昇法を活用して、McKean-Vlasov確率微分方程式におけるパラメータ推定のオンラインおよびオフライン最尤推定器を提案する。エルゴード性および一様時間的混合性の条件下で、オンライン推定器が制限対数尤度関数の停留点にほとんど確実かつL1収束することを確立し、全空間で強い凸性が成り立つ場合には真のパラメータへのL2収束も示す。

ABSTRACT

We consider the problem of parameter estimation for a stochastic McKean-Vlasov equation, and the associated system of weakly interacting particles. We study two cases: one in which we observe multiple independent trajectories of the McKean-Vlasov SDE, and another in which we observe multiple particles from the interacting particle system. In each case, we begin by establishing consistency and asymptotic normality of the (approximate) offline maximum likelihood estimator, in the limit as the number of observations $N\ ightarrow\\infty$. We then propose an online maximum likelihood estimator, which is based on a continuous-time stochastic gradient ascent scheme with respect to the asymptotic log-likelihood of the interacting particle system. We characterise the asymptotic behaviour of this estimator in the limit as $t\ ightarrow\\infty$, and also in the joint limit as $t\ ightarrow\\infty$ and $N\ ightarrow\\infty$. In these two cases, we obtain a.s. or $\\mathbb{L}_1$ convergence to the stationary points of a limiting contrast function, under suitable conditions which guarantee ergodicity and uniform-in-time propagation of chaos. We also establish, under the additional condition of global strong concavity, $\\mathbb{L}_2$ convergence to the unique maximiser of the asymptotic log-likelihood of the McKean-Vlasov SDE, with an asymptotic convergence rate which depends on the learning rate, the number of observations, and the dimension of the non-linear process. Our theoretical results are supported by two numerical examples, a linear mean field model and a stochastic opinion dynamics model.

研究の動機と目的

• 解の分布に関して線形なドラフトを有するMcKean-Vlasov SDEのパラメータ推定手法の開発。
• 観測回数が非常に多い極限において、オフライン最尤推定器の一致性および漸近正規性の確立。
• 相互作用粒子系の漸近対数尤度関数を用いた連続時間の確率的勾配上昇法に基づくオンライン最尤推定器の提案。
• 時間t→∞およびt→∞, N→∞の極限におけるオンライン推定器の漸近的挙動の特定。
• 全空間で強い凸性が成り立つ場合に、真のパラメータへのL2収束を証明し、収束速度が学習率、標本サイズ、次元に依存することを示す。

提案手法

• オンライン推定に用いる相互作用粒子系の漸近的対数尤度関数を導出する。
• リアルタイムでのパラメータ推定値の更新に、連続時間の確率的勾配上昇スキームを提案する。
• エルゴード性および一様時間的混合性の下で、オンライン推定器が制限対数尤度関数の停留点にほとんど確実かつL1収束することを確立する。
• 近似対数尤度関数のヘッセ行列を用いて、全空間での強い凸性を検証し、一意の最大値点へのL2収束を可能にする。
• 大Nおよび長時間の漸近的解析を用いて、推定器の極限挙動を特徴付ける。
• 線形平均場モデルおよび確率的意見形成モデルにおける数値実験を通じて、理論的結果の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 時間t→∞の極限において、McKean-Vlasov SDEのオンライン最尤推定器は、制限対数尤度関数の停留点にほとんど確実に収束するか？
• RQ2 オンライン推定器が真のパラメータにL2収束するための条件は何か？また、漸近的収束速度はどのようになるか？
• RQ3 推定器の漸近的挙動は、学習率、粒子数N、次元dにどのように依存するか？
• RQ4 オフライン最尤推定器が一致性および漸近正規性を満たすための条件は何か？
• RQ5 漸近的対数尤度関数は強い凸性を有するか？もしそうであれば、真のパラメータで一意の最大値が達成されるか？

主な発見

• 観測経路数N→∞の極限において、オフライン最尤推定器は一貫性を示し、漸近的に正規分布に従う。
• エルゴード性および一様時間的混合性の下で、オンライン最尤推定器は制限対数尤度関数の停留点にほとんど確実に収束する。
• 時間t→∞およびN→∞の同時極限において、オンライン推定器はL1収束により制限対数尤度関数の停留点に収束する。
• 漸近的対数尤度関数が全空間で強い凸性を有する場合、オンライン推定器は真のパラメータにL2収束し、収束速度は学習率、N、次元dに依存する。
• 線形平均場モデルでは、漸近的対数尤度関数は強い凸性を有しないことが判明し、最大値点の一意性が保証されない。
• 数値実験により、線形平均場モデルおよび確率的意見形成モデルにおいて理論的収束性が確認された。