[논문 리뷰] Paramater estimation for the McKean-Vlasov stochastic differential equation

Louis Sharrock, Nikolas Kantas외 2명|arXiv (Cornell University)|2021. 06. 25.

Stochastic processes and financial applications인용 수 9

한 줄 요약

이 논문은 상호작용 입자 시스템과 연속시간 확률적 경사상승법을 활용하여 McKean-Vlasov 확률미분방정식의 매개변수 추정을 위한 온라인 및 오프라인 최대우도추정기(ML estimator)를 제안한다. 이는 에르고딕성과 시간에 관계없이 일관된 분포의 전파 조건 하에서, 온라인 추정기의 거의확실성 및 L1 수렴을 정립하며, 전역 강凸성 조건 하에서 진짜 매개변수로의 L2 수렴을 보장한다.

ABSTRACT

We consider the problem of parameter estimation for a stochastic McKean-Vlasov equation, and the associated system of weakly interacting particles. We study two cases: one in which we observe multiple independent trajectories of the McKean-Vlasov SDE, and another in which we observe multiple particles from the interacting particle system. In each case, we begin by establishing consistency and asymptotic normality of the (approximate) offline maximum likelihood estimator, in the limit as the number of observations $N\ ightarrow\\infty$. We then propose an online maximum likelihood estimator, which is based on a continuous-time stochastic gradient ascent scheme with respect to the asymptotic log-likelihood of the interacting particle system. We characterise the asymptotic behaviour of this estimator in the limit as $t\ ightarrow\\infty$, and also in the joint limit as $t\ ightarrow\\infty$ and $N\ ightarrow\\infty$. In these two cases, we obtain a.s. or $\\mathbb{L}_1$ convergence to the stationary points of a limiting contrast function, under suitable conditions which guarantee ergodicity and uniform-in-time propagation of chaos. We also establish, under the additional condition of global strong concavity, $\\mathbb{L}_2$ convergence to the unique maximiser of the asymptotic log-likelihood of the McKean-Vlasov SDE, with an asymptotic convergence rate which depends on the learning rate, the number of observations, and the dimension of the non-linear process. Our theoretical results are supported by two numerical examples, a linear mean field model and a stochastic opinion dynamics model.

연구 동기 및 목표

• 해의 법칙에 대해 선형인 드리프트를 가진 McKean-Vlasov SDE에 대한 매개변수 추정 방법을 개발한다.
• 관측 횟수가 많아질 경우의 오프라인 최대우도추정기의 일致성 및 점근 정규성을 확립한다.
• 상호작용 입자 시스템의 점근적 로그우도에 대한 연속시간 확률적 경사상승법을 활용한 온라인 최대우도추정기의 제안한다.
• t→∞ 및 t→∞, N→∞의 극한에서 온라인 추정기의 점근적 행동을 특성화한다.
• 전역 강凸성 조건 하에서 진짜 매개변수로의 L2 수렴을 증명하며, 수렴 속도는 학습률, 표본 크기, 차원에 따라 달라진다.

제안 방법

• 온라인 추정에 사용하기 위해 상호작용 입자 시스템의 점근적 로그우도를 유도한다.
• 실시간으로 매개변수 추정치를 갱신하기 위한 연속시간 확률적 경사상승 방식을 제안한다.
• 에르고딕성과 시간에 관계없이 일관된 분포의 전파 조건 하에서, 온라인 추정기의 거의확실성 및 L1 수렴을 정립한다.
• 근사 로그우도의 헤시안 행렬을 활용해 전역 강凸성 조건을 검증하고, 이로 인해 유일한 최대화점으로의 L2 수렴을 보장한다.
• 대규모 N 및 장시간 점근적 분석을 적용하여 추정기의 극한 행동을 특성화한다.
• 선형 평균장 모델과 스토케스틱 의견 동역학 모델에 대한 수치 실험을 통해 이론적 결과를 검증한다.

실험 결과

연구 질문

• RQ1 시간 t→∞에서 McKean-Vlasov SDE에 대한 온라인 최대우도추정기는 거의확실성으로 한계 대비 함수의 정적점으로 수렴하는가?
• RQ2 온라인 추정기의 L2 수렴을 보장하는 조건는 무엇이며, 점근적 수렴 속도는 어떻게 되는가?
• RQ3 추정기의 점근적 행동은 학습률, 입자 수 N, 차원 d에 어떻게 의존하는가?
• RQ4 오프라인 최대우도추정기는 어떤 조건에서 일치성 및 점근 정규성을 확보하는가?
• RQ5 점근적 대비 함수는 강凸인가? 그리고 이는 진짜 매개변수에서 유일한 최대화를 보장하는가?

주요 결과

• 관측 경로 수 N→∞의 극한에서 오프라인 최대우도추정기는 일치성과 점근 정규성을 갖는다.
• 에르고딕성과 시간에 관계없이 일관된 분포의 전파 조건 하에서, 온라인 최대우도추정기는 거의확실성으로 한계 대비 함수의 정적점으로 수렴한다.
• t→∞ 및 N→∞의 동시 극한에서, 온라인 추정기는 L1 수렴으로 한계 대비 함수의 정적점으로 수렴한다.
• 점근적 로그우도의 전역 강凸성 조건 하에서, 온라인 추정기는 L2 수렴으로 진짜 매개변수로 수렴하며, 수렴 속도는 학습률, N, 차원 d에 따라 달라진다.
• 선형 평균장 모델에서는 점근적 대비 함수가 강凸이 아니며, 이는 최대화점의 유일성 실패와 강凸성 조건의 실패를 의미한다.
• 수치 결과는 선형 평균장 모델과 스토케스틱 의견 동역학 모델에서 이론적 수렴 성질을 확인한다.