[논문 리뷰] Asymptotic Properties of Recursive Maximum Likelihood Estimation in Non-Linear State-Space Models

Vladislav B. Tadić, Randal Douc|arXiv (Cornell University)|2018. 06. 25.

Statistical Methods and Bayesian Inference참고 문헌 32인용 수 9

한 줄 요약

이 논문은 비선형 상태공간 모델에 대한 재귀적 최대우도추정 알고리즘에 대한 엄밀한 이론적 분석을 제공한다. 입자 필터링을 사용하여 최적 필터의 도함수를 입자 근사로 근사하고, 확률적 경사 하강법을 조합함으로써 저자들은 추정기의 거의 확실 수렴성을 증명한다. 이는 참값의 로그우도율 최대점의 이웃 분야로 수렴하며, 오차 범위는 사용된 입자 수에 따라 달라진다.

ABSTRACT

Using stochastic gradient search and the optimal filter derivative, it is possible to perform recursive (i.e., online) maximum likelihood estimation in a non-linear state-space model. As the optimal filter and its derivative are analytically intractable for such a model, they need to be approximated numerically. In [Poyiadjis, Doucet and Singh, Biometrika 2018], a recursive maximum likelihood algorithm based on a particle approximation to the optimal filter derivative has been proposed and studied through numerical simulations. Here, this algorithm and its asymptotic behavior are analyzed theoretically. We show that the algorithm accurately estimates maxima to the underlying (average) log-likelihood when the number of particles is sufficiently large. We also derive (relatively) tight bounds on the estimation error. The obtained results hold under (relatively) mild conditions and cover several classes of non-linear state-space models met in practice.

연구 동기 및 목표

• 해석적 해가 구하기 어려운 비선형 상태공간 모델에서 재귀적 최대우도추정의 渐近적 타당성을 확립하는 것.
• 이전 연구에서 제안된 입자 기반 재귀적 MLE 알고리즘의 수렴 성질을 분석하는 것.
• 사용된 입자 수에 따라 재귀 알고리즘의 추정 오차에 대한 정량적 상한을 유도하는 것.
• 강한 혼합 조건 하에서 비선형 상태공간 모델에 대한 재귀적 MLE의 첫 번째 엄밀한 이론적 기반을 제공하는 것.

제안 방법

• 순차적 관측을 기반으로 파rameter 추정치를 온라인으로 업데이트하기 위해 확률적 경사 하강법을 사용한다.
• 비선형 상태공간 모델에서 해석적으로 구하기 어려운 최적 필터와 그 도함수를 입자 필터링을 통해 수치적으로 근사한다.
• 필터 도함수의 입자 근사를 기반으로 한 재귀적 최대우도 알고리즘을 적용한다.
• 기저 과정의 에르고딕성과 안정성을 보장하기 위해 강한 혼합 조건을 도입한다.
• 입자 근사에서 발생하는 오차를 제어하기 위해 라플라스 유형의 추론과 모멘트 상한을 사용한다.
• 입자 근사된 스코어 함수의 편향을 분석함으로써 수렴 속도와 오차 상한을 도출한다.

실험 결과

연구 질문

• RQ1 재귀적 입자 기반 MLE 알고리즘이 비선형 상태공간 모델에서 로그우도율의 정적점으로 수렴하는가?
• RQ2 입자 필터에서 사용된 입자 수에 따라 재귀적 MLE의 추정 오차는 어떻게 달라지는가?
• RQ3 알고리즘이 참값의 로그우도율 최대점의 이웃 분야로 거의 확실하게 수렴할 수 있는가?
• RQ4 재귀적 MLE 추정기가 안정적이고 일致성 있는 성질을 유지할 수 있는 이론적 조건은 무엇인가?
• RQ5 비선형 모델에서 재귀 추정기의 점근적 성질은 배치 MLE와 비교해 어떻게 다를 수 있는가?

주요 결과

• 재귀적 입자 MLE 알고리즘이 거의 확실하게 기저 로그우도율 정적점의 이웃 분야로 수렴한다.
• 참 최대점 주변의 이웃 영역 반경은 입자 수가 증가함에 따라 감소하는 양의 값으로 상한이 제시된다.
• 추정 오차가 $ \beta_Q^n $에 비례하는 항으로 상한이 제시되며, $ \beta_Q < 1 $ 이므로 추정 편향이 지수적으로 감소함을 나타낸다.
• 오차 상한은 $ \tilde{C}_{1,Q}\beta_Q^n(1 + \|\zeta\|) $ 로 표현되며, 이는 입자 수와 초기 파rameter 불확실성에 의존한다.
• 유도된 조건 하에서 로그우도 함수의 기울기가 리프시츠 연속임을 보여주며, 이는 최적화 경로의 안정성을 보장한다.
• 이론적 결과는 강한 혼합 조건 하에서 도출되었으며, 이는 입자 필터링에서 표준이며 상태 과정의 에르고딕 행동을 보장한다.