[논문 리뷰] Convergence rate of EM algorithm for SDEs under integrability condition

Jianhai Bao, Xing Huang외 1명|arXiv (Cornell University)|2020. 09. 10.

Stochastic processes and financial applications참고 문헌 29인용 수 7

한 줄 요약

이 논문은 조각별 리프시츠 연속성이 필요 없이 국소적 적분 가능성 조건을 만족하는 드리프트를 가진 다차원 확률미분방정식(SDE)에 대해 옐러-마르야모(EM) 알고리즘의 수렴 속도를 확립한다. 가우시안 열핵 추정, 크릴로프 및 카스민스키의 추정, 존킨의 변환을 활용하여 저자들은 근사 오차의 $ \beta $-번째 모멘트에 대해 $ \delta^{\frac{\beta}{2}(1 \land \frac{\alpha}{2})} $ 순서의 수렴 속도를 도출하며, 이는 이전 결과를 더 심한 특이성을 가진 드리프트로 일반화한다.

ABSTRACT

In this paper, by employing Gaussian type estimate of heat kernel, we establish Krylov's estimate and Khasminskill's estimate for EM algorithm. As applications, by taking Zvonkin's transformation into account, we investigate convergence rate of EM algorithm for a class of multidimensional SDEs under integrability conditions, where the drifts need not to be piecewise Lipschitz and are much more singular in some sense.

연구 동기 및 목표

• 드리프트가 반드시 조각별 리프시츠 연속성이 아닐 때 다차원 SDE에 대한 옐러-마르야모(EM) 스킴의 수렴 속도를 조사하는 것.
• 특히 조건 (A2)를 통해 적분 가능성과 허더 타입의 제어를 허용함으로써 드리프트에 대한 더 약한 정규성 조건 하에서 기존 수렴 결과를 확장하는 것.
• 이전 연구들에서 요구한 한쪽 방향 리프시츠 조건을 제거하면서, [29]의 1차원 결과를 다차원 경우로 일반화하는 것.
• 드리프트에 대한 최소한의 가정 하에서 EM 스킴의 모멘트 수렴 속도를 확립하기 위해 Zvonkin의 변환과 열핵 추정과 같은 고급 확률 도구를 사용하는 것.

제안 방법

• EM 스킴에 대해 크릴로프 및 카스민스키의 추정을 유도하기 위해 가우시안 유형의 열핵 추정을 활용한다.
• SDE를 정규화하고 적분 가능성 조건 하에서 드리프트 항의 비정규성을 제어하기 위해 존킨의 변환을 적용한다.
• 국소적 $ L^p $-의미에서 드리프트의 허더 타입의 진동을 제어하는 조건 (A2)를 도입하여, 조각별 리프시츠 연속성이 없는 분석을 가능하게 한다.
• 타일러 전개와 전이 밀도 추정을 사용하여 진짜 전이 밀도와 근사 전이 밀도의 차이를 유계화한다.
• 힐버트-슈미트 노름 추정과 지수 모멘트 제어를 통해 밀도 전개의 세 번째 차수 기울기 항에 대한 추정을 도출한다.
• 모든 추정을 통합하여 EM 근사 오차의 $ \beta $-번째 모멘트에 대한 모멘트 유계를 도출함으로써 최종 수렴 속도를 확보한다.

실험 결과

연구 질문

• RQ1 드리프트가 조각별 리프시츠 연속성이 아닐 때 다차원 SDE에 대한 옐러-마르야모 스킴의 수렴 속도는 무엇인가?
• RQ2 특히 적분 가능하고 특이한 드리프트에 대해 한쪽 방향 리프시츠 연속성보다 더 약한 조건 하에서도 수렴 속도를 확립할 수 있는가?
• RQ3 드리프트가 정규성이 없을 때 존킨의 변환이 EM 수렴 분석을 어떻게 지원하는가?
• RQ4 열핵 추정과 크릴로프의/카스민스키의 추정은 적분 가능성 조건 하에서 EM 스킴 오차를 어떻게 제어하는가?
• RQ5 드리프트의 허더 지수 $ \alpha $ 와 적분 가능성 지수 $ p $ 를 기반으로 수렴 속도를 정량화할 수 있는가?

주요 결과

• 조건 (A1)–(A3) 하에서 $ \beta \in (0,2) $ 에 대해 EM 스킴은 $ \delta^{\frac{\beta}{2}(1 \land \frac{\alpha}{2})} $ 의 속도로 $ \beta $-번째 모멘트에서 수렴한다.
• 수렴 속도는 드리프트의 허더 정규성 $ \alpha $ 에 따라 달라지며, $ \alpha \geq 2 $ 일 경우 더 향상된 속도를 보이며, $ \alpha < 2 $ 일 경우 $ \delta^{\beta/2} $ 로 감소한다.
• 유계는 $ |b|^2 $ 의 $ L^p $-노름에 의존하며, $ \|b\|_{L^p}^{\gamma_0} $ 를 포함하는 지수 인자로 표현되며, 여기서 $ \gamma_0 = \frac{1}{1 - 1/q - d/2p} $ 이다.
• 이 방법은 [28]에서 사용된 한쪽 방향 리프시츠 조건을 피하고, [29]의 1차원 결과를 비스스러운 드리프트를 가진 다차원 SDE로 일반화한다.
• 분석은 EM 과정의 전이 밀도에 대한 정밀한 추정에 의존하며, 일차 및 이차 기울기 항과 세 번째 차수의 변형에 대한 유계를 포함한다.
• 최종 오차 유계는 밀도 차이를 세 개의 구성요소로 분해하고, 열핵 성질과 행렬 노름 추정을 통해 각각을 제어함으로써 도출된다.