[论文解读] Mixing it up: A general framework for Markovian statistics beyond reversibility and the minimax paradigm

Niklas Dexheimer, Claudia Strauch+1 more|arXiv (Cornell University)|Oct 31, 2020

Statistical Methods and Inference参考文献 20被引用 6

一句话总结

本文提出了一种基于混合性质的通用马尔可夫统计框架，使连续时间过程的鲁棒非参数推断得以扩展至可逆扩散过程之外。通过利用混合性质建立偏差和矩界，该框架推导出非可逆、跳跃扩散和 Lévy 驱动过程的核不变密度估计的最优收敛速率，将极小极大最优性扩展至更广泛的模型类别。

ABSTRACT

Up to now, the nonparametric analysis of multidimensional continuous-time Markov processes has focussed strongly on specific model choices, mostly related to symmetry of the semigroup. While this approach allows to study the performance of estimators for the characteristics of the process in the minimax sense, it restricts the applicability of results to a rather constrained set of stochastic processes. In particular, among other drawbacks, it hardly allows incorporating jump structures. As a consequence, for many models of applied and theoretical interest, no statement can be made about the robustness of typical statistical procedures beyond the beautiful, but limited framework available in the literature. This motivates us to go a different route, by not asking what rate-optimal results can be obtained for a specific type of Markov process, but what are the essential stability properties required in general that allow building a rigorous and robust statistical theory upon. We provide an answer to this question by showing that mixing properties are sufficient to obtain deviation and moment bounds for integral functionals of general Markov processes. Together with some unavoidable technical but not structural assumptions on the semigroup, these allow to derive convergence rates for kernel invariant density estimation which are known to be optimal in the much more restrictive context of reversible continuous diffusion processes, thus indicating the potential comprehensiveness of the mixing framework for various statistical purposes. We underline the usefulness of our general modelling idea by establishing new upper bounds on convergence rates of kernel invariant density estimation for scalar Levy-driven OU processes and multivariate Levy jump diffusions, both for the pointwise $L^2$-risk and the $\sup$-norm risk, by showing how they can be seamlessly integrated into our framework.

研究动机与目标

• 为克服现有极小极大理论的局限性，该理论目前仅限于可逆扩散过程，且不包含跳跃结构。
• 识别出使一般马尔可夫过程具备鲁棒非参数统计理论的关键稳定性特性——具体而言，即混合性质。
• 将核不变密度估计的收敛速率结果扩展至可逆扩散的严格限制之外。
• 为标量 Lévy 驱动的 Ornstein-Uhlenbeck 过程和多变量 Lévy 跳跃扩散过程提供统一的适用框架。
• 在非可逆、基于跳跃的模型中，建立不变密度估计的 $L^2$-风险和 $ackslashsup$-范数风险的新上界。

提出的方法

• 利用马尔可夫半群的混合性质，推导过程积分泛函的统一偏差和矩界。
• 对半群施加技术性但非结构性的假设，以确保估计框架中的正则性和稳定性。
• 利用推导出的界分析基于核的不变密度估计，证明其在可逆扩散情形下的收敛速率达到最优。
• 通过验证混合条件并推导 $L^2$-风险界，将该框架扩展至标量 Lévy 驱动的 Ornstein-Uhlenbeck 过程。
• 通过建立混合和矩条件，分析多变量 Lévy 跳跃扩散过程，从而获得 $ackslashsup$-范数风险界。
• 通过结构和概率分析，证明跳跃扩散和 Lévy 过程可无缝整合进基于混合的通用框架中。

实验结果

研究问题

• RQ1 马尔可夫过程的何种最小稳定性条件可使非参数统计理论在可逆扩散设定之外依然稳健？
• RQ2 仅靠混合性质是否足以确保非可逆和跳跃扩散过程中核不变密度估计的最优收敛速率？
• RQ3 如何将核密度估计的极小极大最优性扩展至具有跳跃成分和非可逆动力学的模型？
• RQ4 在所提出的框架下，标量 Lévy 驱动的 OU 过程中不变密度估计的 $L^2$-风险和 $ackslashsup$-范数风险界是什么？
• RQ5 多变量 Lévy 跳跃扩散过程在多大程度上可被整合进基于混合的通用统计框架中？

主要发现

• 混合性质足以推导出一般马尔可夫过程积分泛函的统一偏差和矩界，构成统计推断的基础。
• 该框架在可逆扩散情形下，其核不变密度估计的收敛速率与已知的极小极大最优速率一致，表明其具有广泛适用性。
• 利用混合框架，为标量 Lévy 驱动的 Ornstein-Uhlenbeck 过程建立了不变密度估计的 $L^2$-风险的新上界。
• 该框架成功容纳了多变量 Lévy 跳跃扩散过程，为不变密度估计提供了 $ackslashsup$-范数风险的新上界。
• 该方法使具有跳跃结构的过程得以进行统计分析，而这些过程此前因对称性和可逆性约束而被排除在极小极大鲁棒理论之外。
• 非可逆和基于跳跃的过程可无缝整合进该框架，充分展示了基于混合方法的鲁棒性与通用性。