[论文解读] Asymptotic properties of the maximum likelihood and cross validation estimators for transformed Gaussian processes

François Bachoc, José Betancourt+2 more|arXiv (Cornell University)|Nov 25, 2019

Soil Geostatistics and Mapping参考文献 55被引用 8

一句话总结

该论文建立了在变换高斯过程（通过确定性非线性变换得到的非高斯过程）中，对协方差参数进行高斯最大似然估计和交叉验证估计的渐近一致性和正态性。尽管这些估计量是在高斯假设下推导的，但它们在真实非高斯过程中依然有效且渐近高效，表明对非高斯性的鲁棒性，且无需建模变换函数。

ABSTRACT

The asymptotic analysis of covariance parameter estimation of Gaussian processes has been subject to intensive investigation. However, this asymptotic analysis is very scarce for non-Gaussian processes. In this paper, we study a class of non-Gaussian processes obtained by regular non-linear transformations of Gaussian processes. We provide the increasing-domain asymptotic properties of the (Gaussian) maximum likelihood and cross validation estimators of the covariance parameters of a non-Gaussian process of this class. We show that these estimators are consistent and asymptotically normal, although they are defined as if the process was Gaussian. They do not need to model or estimate the non-linear transformation. Our results can thus be interpreted as a robustness of (Gaussian) maximum likelihood and cross validation towards non-Gaussianity. Our proofs rely on two technical results that are of independent interest for the increasing-domain asymptotic literature of spatial processes. First, we show that, under mild assumptions, coefficients of inverses of large covariance matrices decay at an inverse polynomial rate as a function of the corresponding observation location distances. Second, we provide a general central limit theorem for quadratic forms obtained from transformed Gaussian processes. Finally, our asymptotic results are illustrated by numerical simulations.

研究动机与目标

• 将协方差参数估计的增加域渐近理论扩展至非高斯过程。
• 分析当应用于变换高斯过程时，最大似然估计量和交叉验证估计量的行为。
• 建立这些估计量即使在数据为非高斯的情况下，仍保持一致性和渐近正态性的结论。
• 为在非高斯空间数据上广泛使用高斯似然方法提供理论依据。
• 开发适用于此特定模型之外的技术工具，包括大协方差矩阵系数的衰减速率分析，以及变换高斯过程二次型的中心极限定理。

提出的方法

• 作者研究了一类通过在高斯过程上施加正则非线性变换而定义的非高斯过程。
• 他们在增加域渐近框架下，分析了（高斯）最大似然估计量（MLE）和交叉验证（CV）估计量的渐近性质。
• 关键技术工具包括证明大协方差矩阵的元素在观测点之间距离增大时，以反多项式速率衰减。
• 推导出变换高斯过程二次型的一般中心极限定理，从而支持估计量的渐近正态性结果。
• 证明依赖于矩条件和弱依赖性假设，以控制估计方程的行为。
• 通过基于估计方程极限协方差结构的Wald型论证，建立了MLE和CV估计量的联合渐近正态性。

实验结果

研究问题

• RQ1 当应用于变换后的非高斯过程时，高斯过程的最大似然估计量是否能对协方差参数提供一致且渐近正态的估计？
• RQ2 在增加域渐近框架下，交叉验证是否对同一类非高斯过程产生一致且渐近正态的估计量？
• RQ3 在何种技术条件下，即使由于非高斯性导致模型误设，高斯似然估计量仍保持有效？
• RQ4 在较弱正则性条件下，大协方差矩阵的逆矩阵系数在空间距离上的行为如何？
• RQ5 在增加域渐近框架下，能否为从变换高斯过程导出的二次型建立中心极限定理？

主要发现

• 即使数据为非高斯，高斯过程的最大似然估计量对变换后非高斯过程的真实协方差参数仍保持一致性和渐近正态性。
• 在相同条件下，交叉验证估计量也实现了具有一致性和渐近正态性的估计，且无需知道变换函数。
• 在此设定下，大协方差矩阵的逆矩阵表现出随观测点间距离增加而呈反多项式衰减的特性，这是关键的技术结果。
• 为变换高斯过程的二次型建立了中心极限定理，这支持了估计量的渐近正态性。
• 证明了MLE和CV估计量的联合渐近正态性，从而支持对聚合估计量的推断，并提供了极限协方差结构。
• 结果表明，在增加域渐近框架下，高斯似然方法和交叉验证方法对空间过程中非高斯性的鲁棒性。