[논문 리뷰] Mixing it up: A general framework for Markovian statistics beyond reversibility and the minimax paradigm

Niklas Dexheimer, Claudia Strauch외 1명|arXiv (Cornell University)|2020. 10. 31.

Statistical Methods and Inference참고 문헌 20인용 수 6

한 줄 요약

이 논문은 혼합 성질을 기반으로 하는 일반적인 마르코프 통계적 프레임워크를 제안하며, 가역성 확산을 초월하는 연속시간 과정에 대한 강력한 비모수적 추론을 가능하게 한다. 혼합을 통한 분산 및 모멘트 경계를 확립함으로써, 비가역성, 점프-확산, 레비 기반 과정에서 커널 불변 밀도 추정의 최적 수렴 속도를 도출하며, 최소자승 최적성은 더 넓은 모델 클래스로 확장된다.

ABSTRACT

Up to now, the nonparametric analysis of multidimensional continuous-time Markov processes has focussed strongly on specific model choices, mostly related to symmetry of the semigroup. While this approach allows to study the performance of estimators for the characteristics of the process in the minimax sense, it restricts the applicability of results to a rather constrained set of stochastic processes. In particular, among other drawbacks, it hardly allows incorporating jump structures. As a consequence, for many models of applied and theoretical interest, no statement can be made about the robustness of typical statistical procedures beyond the beautiful, but limited framework available in the literature. This motivates us to go a different route, by not asking what rate-optimal results can be obtained for a specific type of Markov process, but what are the essential stability properties required in general that allow building a rigorous and robust statistical theory upon. We provide an answer to this question by showing that mixing properties are sufficient to obtain deviation and moment bounds for integral functionals of general Markov processes. Together with some unavoidable technical but not structural assumptions on the semigroup, these allow to derive convergence rates for kernel invariant density estimation which are known to be optimal in the much more restrictive context of reversible continuous diffusion processes, thus indicating the potential comprehensiveness of the mixing framework for various statistical purposes. We underline the usefulness of our general modelling idea by establishing new upper bounds on convergence rates of kernel invariant density estimation for scalar Levy-driven OU processes and multivariate Levy jump diffusions, both for the pointwise $L^2$-risk and the $\sup$-norm risk, by showing how they can be seamlessly integrated into our framework.

연구 동기 및 목표

• 기존 최소자승 이론이 가역성 확산 과정에 국한되어 있고 점프 구조를 배제한다는 한계를 극복하기 위해.
• 일반 마르코프 과정에 대한 강력한 비모수적 통계 이론을 가능하게 하는 핵심 안정성 성질—특히 혼합 성질—을 규명하기 위해.
• 가역성 확산의 제한적인 설정을 초월해 커널 불변 밀도 추정의 수렴 속도 결과를 확장하기 위해.
• 스칼라 레비 기반 오르누하임베르크 과정과 다변량 레비 점프 확산에 적용 가능한 통합 프레임워크를 제공하기 위해.
• 비가역성, 점프 기반 모델에서의 불변 밀도 추정에 대한 $L^2$-위험과 $ackslashsup$-노름 위험에 대한 새로운 상한을 설정하기 위해.

제안 방법

• 마르코프 세미군의 혼합 성질을 활용하여 과정의 적분 함수에 대한 균일 분산 및 모멘트 경계를 도출한다.
• 세미군에 기술적이지만 비구조적인 가정을 적용하여 추정 프레임워크 내의 정규성과 안정성을 확보한다.
• 유도된 경계를 바탕으로 커널 기반 불변 밀도 추정을 분석하며, 가역성 확산의 경우 최적의 수렴 속도가 증명된다.
• 혼합 조건을 검증하고 $L^2$-위험 상한을 도출함으로써 스칼라 레비 기반 오르누하임베르크 과정에 프레임워크를 확장한다.
• 다변량 레비 점프 확산을 분석하기 위해 혼합 및 모멘트 조건을 확립하고, $ackslashsup$-노름 위험 상한을 이끌어낸다.
• 구조적 및 확률적 분석을 통해 점프-확산 및 레비 과정이 혼합 기반 프레임워크에 원활하게 통합됨을 보여준다.

실험 결과

연구 질문

• RQ1 마르코프 과정에 대해 어떤 최소한의 안정성 조건이 가역성 확산 설정을 초월하는 강력한 비모수적 통계 이론을 가능하게 하는가?
• RQ2 혼합 성질만으로도 비가역성 및 점프-확산 과정에서 커널 불변 밀도 추정의 최적 수렴 속도를 보장할 수 있는가?
• RQ3 점프 성분과 비가역성 동역학을 포함하는 모델로 커널 밀도 추정의 최소자승 최적성은 어떻게 확장할 수 있는가?
• RQ4 제안된 프레임워크 하에서 스칼라 레비 기반 오르누하임베르크 과정의 불변 밀도 추정에 대한 $L^2$-위험과 $ackslashsup$-노름 위험 상한은 무엇인가?
• RQ5 다변량 레비 점프 확산은 혼합 기반 일반 통계 프레임워크에 어느 정도까지 통합될 수 있는가?

주요 결과

• 혼합 성질은 일반 마르코프 과정의 적분 함수에 대한 균일 분산 및 모멘트 경계를 도출하는 데 충분하며, 통계적 추론의 기초를 형성한다.
• 이 프레임워크는 가역성 확산의 경우 알려진 최소자승 최적 수렴 속도와 일치하는 커널 불변 밀도 추정의 수렴 속도를 도출하며, 광범위한 적용 가능성을 시사한다.
• 혼합 프레임워크를 활용하여 스칼라 레비 기반 오르누하임베르크 과정에 대한 불변 밀도 추정의 $L^2$-위험에 대한 새로운 상한이 확립된다.
• 이 프레임워크는 다변량 레비 점프 확산을 성공적으로 수용하며, 불변 밀도 추정에 대한 $ackslashsup$-노름 위험 상한을 새롭게 도출한다.
• 이러한 접근은 이전에 대칭성과 가역성 제약으로 인해 최소자승-강건 이론에서 배제되었던 점프 구조를 가진 과정의 통계 분석을 가능하게 한다.
• 비가역성 및 점프 기반 과정이 프레임워크에 원활하게 통합됨을 보여주며, 혼합 기반 접근의 강건성과 일반성을 입증한다.