[논문 리뷰] Convergence of diffusions and their discretizations: from continuous to discrete processes and back

Valentin De Bortoli, Alain Durmus|arXiv (Cornell University)|2019. 04. 22.

Statistical Methods and Inference참고 문헌 7인용 수 14

한 줄 요약

이 논문은 가중 총변량 거리에서 명시적인 미니마이제이션 조건과 포스터-라이아푸노프 드리프트 조건을 사용하여 기능적 자동재귀 모델에 대한 새로운 정량적 수렴 경계를 수립한다. 이 결과들을 단위 공분산을 가진 확산 과정의 옐러-마루야마 이산화에 적용하여 곡률 가정 하에 향상된 기하 수렴 속도를 도출하고, 스텝 사이즈를 0으로 보내는 극한을 통해 연속 시간 확산 과정으로 확장한다.

ABSTRACT

In this paper, we establish new quantitative convergence bounds for a class of functional autoregressive models in weighted total variation metrics. To derive our results, we show that under mild assumptions, explicit minorization and Foster-Lyapunov drift conditions hold. The main applications and consequences of the bounds we obtain concern the geometric convergence of Euler-Maruyama discretizations of diffusions with identity covariance matrix. Second, as a corollary, we provide a new approach to establish quantitative convergence of these diffusion processes by applying our conclusions in the discrete-time setting to a well-suited sequence of discretizations whose associated stepsizes decrease towards zero.

연구 동기 및 목표

• 가중 총변량 거리에서 기능적 자동재귀 모델의 클래스에 대해 명시적인 정량적 수렴 경계를 유도하기 위해.
• 약한 가정 하에 이 모델들에 대해 명시적인 미니마이제이션 조건과 포스터-라이아푸노프 드리프트 조건이 성립한다는 것을 입증하기 위해.
• 이 경계들을 단위 공분산 행렬을 가진 확산 과정의 옐러-마루야마 이산화에 적용하여 기존 수렴 속도를 향상시키기 위해.
• 스텝 사이즈를 0으로 보내는 방식으로 이산 시간 수렴 결과를 연속 시간 확산 과정으로 확장할 수 있는 방법을 보여주기 위해.
• 감소하는 스텝 사이즈를 갖는 이산화 수열을 활용하여 확산 과정의 수렴을 정량화하는 새로운 접근법을 제공하기 위해.

제안 방법

• 기능적 자동재귀 모델에 대해 날카운트한 미니마이제이션 조건을 도출하기 위해 반복적인 마르코프 커플링 커널을 사용한다.
• 편향에 대한 곡률 가정 하에 리아푸노프 함수를 활용하여 포스터-라이아푸노프 드리프트 조건을 수립한다.
• 결합된 미니마이제이션 및 드리프트 조건을 적용하여 가중 총변량 노름에서 기하 수렴을 도출한다.
• 연속된 확산 과정을 근사하기 위해 감소하는 스텝 사이즈를 갖는 옐러-마루야마 이산화 수열을 구성한다.
• 이산 수렴 속도의 극한을 활용하여 연속된 확산 과정의 수렴을 경계한다.
• ρ_c 감쇠율의 맥락에서 γ, λ, A, R와 같은 매개변수를 사용하여 수렴 경계의 명시적 상수를 도출한다.

실험 결과

연구 질문

• RQ1 기능적 자동재귀 모델에 대해 명시적인 미니마이제이션 조건을 도출할 수 있는가? 이를 통해 정량적 수렴 경계를 확보할 수 있는가?
• RQ2 곡률 가정 하에 단위 공분산을 가진 확산 과정의 옐러-마루야마 이산화의 기하 수렴 속도는 무엇인가?
• RQ3 이산 시간 수렴 결과는 어떻게 연속 시간 확산 과정의 정량적 수렴을 확립하는 데 활용될 수 있는가?
• RQ4 수렴 속도는 ρ_c, ρ_{\bar{\gamma},c}, 및 ρ_b와 같은 매개변수에 어떻게 의존하는가?
• RQ5 가중 총변량에서의 수렴 경계는 기존 결과, 특히 [34]와 비교하여 어떻게 다른가?

주요 결과

• 논문은 약한 가정 하에 옐러-마루야마 이산화에 대해 가중 총변량 노름에서 기하 수렴을 수립하며, [34]의 결과보다 향상된 속도를 제공한다.
• 반복적인 마르코프 커플링을 사용하여 명시적인 미니마이제이션 조건을 도출함으로써 기능적 자동재귀 모델에 대한 정량적 경계를 가능하게 한다.
• 조건 B4 하에서 수렴 속도 ρ_c는 다음을 만족한다: \log^{-1}(\rho_c^{-1}) \leq \left[2(1 + \mathtt{m}_3^+(1+R)/4 + \log(1+2A) + (1+4R^2)\mathtt{m}_3^+)\right] / \left[\mathtt{m}_3^+ \mathbf{\Phi}(-1/2)\right].
• 조건 B3($\mathtt{m}$) 하에서 음수인 ρ_b에 대해, 경계는 -\mathtt{m}R^2에 대한 지수적 의존성을 보이며, 더 음수인 ρ_b일수록 더 빠른 감쇠를 나타낸다.
• 스텝 사이즈 γ → 0으로 갈수록 이산 수렴 속도의 극한은 연속된 확산 과정에 대해 유효한 경계를 제공하며, 이는 이산 및 연속 설정 간의 다리를 놓는다.
• 스텝 사이즈 \bar{\gamma} → 0일 때 상수 D_{\bar{\gamma},1,c}, D_{\bar{\gamma},2,c}, C_{\bar{\gamma},c}, \lambda_{\bar{\gamma},c}, 및 \rho_{\bar{\gamma},c}는 유한한 극한으로 수렴하여 연속 극한에서의 안정성을 보장한다.