[论文解读] Composite likelihood estimation for a gaussian process under fixed domain asymptotics

François Bachoc, Moreno Bevilacqua+1 more|arXiv (Cornell University)|Jul 24, 2018

Gaussian Processes and Bayesian Inference参考文献 76被引用 9

一句话总结

本文研究在固定域渐近框架下，对具有指数协方差函数的一维高斯过程，复合似然估计量的渐近性质。结果表明，在某些参数空间限制下，微ergodic参数的加权成对最大似然估计量（WPMLE）是不一致的，而加权成对条件最大似然估计量（WPCMLE）始终是一致的且渐近正态的，其渐近方差大于完整最大似然估计量。

ABSTRACT

We study the problem of estimating the covariance parameters of a one-dimensional Gaussian process with exponential covariance function under fixed-domain asymptotics. We show that the weighted pairwise maximum likelihood estimator of the microergodic parameter can be consistent or inconsistent. This depends on the range of admissible parameter values in the likelihood optimization. On the other hand, the weighted pairwise conditional maximum likelihood estimator is always consistent. Both estimators are also asymptotically Gaussian when they are consistent. Their asymptotic variances are larger or strictly larger than that of the maximum likelihood estimator. A simulation study is presented in order to compare the finite sample behavior of the pairwise likelihood estimators with their asymptotic distributions. For more general covariance functions, an additional inconsistency result is provided, for the weighted pairwise maximum likelihood estimator of a variance parameter.

研究动机与目标

• 研究在数据在固定域内密集观测的固定域渐近框架下，复合似然估计量的渐近行为。
• 解决在大规模空间数据集中全最大似然计算不可行时，协方差参数一致估计的挑战。
• 评估加权成对似然估计量——特别是WPMLE与WPCMLE——在具有指数协方差的一维高斯过程中对微ergodic参数的性能。
• 确定这些估计量在何种条件下是一致且渐近正态的，尤其与全最大似然估计量进行对比。
• 为在固定域渐近下使用复合似然作为全似然的计算高效替代方法，提供理论依据。

提出的方法

• 研究采用固定域渐近框架，即观测数量在有界采样域内增加，且观测点间距离趋于零。
• 聚焦于具有指数协方差函数的一维高斯过程，由于其马氏性质，可获得显式似然表达式。
• 加权成对最大似然估计量（WPMLE）通过组合基于空间分离函数g加权的成对观测似然构建而成。
• 加权成对条件最大似然估计量（WPCMLE）通过在每对中对一个位置进行条件化推导得出，从而提高稳定性和一致性。
• 理论分析依赖于泛函中心极限定理和经验过程的弱收敛，使用高斯过程样本路径的连续性与矩条件。
• 通过积分表示和分布收敛到泛函极限推导渐近分布，极限依赖于设计密度f与权重函数g。

实验结果

研究问题

• RQ1 在固定域渐近下，具有指数协方差的一维高斯过程的微ergodic参数的加权成对最大似然估计量（WPMLE）是否一致？
• RQ2 WPMLE的一致性是否依赖于优化空间中允许的参数值范围？
• RQ3 在相同模型下，加权成对条件最大似然估计量（WPCMLE）在固定域渐近下是否始终一致？
• RQ4 WPMLE与WPCMLE的渐近方差与全最大似然估计量相比如何？
• RQ5 对于更一般的协方差函数，WPMLE对变异性参数的估计在固定域渐近下是否也存在不一致？

主要发现

• 当优化参数空间排除真实值时，即使在固定域渐近下，微ergodic参数的加权成对最大似然估计量（WPMLE）也是不一致的。
• 在固定域渐近下，微ergodic参数的加权成对条件最大似然估计量（WPCMLE）始终一致，不受参数空间限制影响。
• 当一致时，WPMLE与WPCMLE均为渐近正态，其渐近方差严格大于全最大似然估计量。
• WPCMLE的渐近方差大于最大似然估计量，表明效率有所损失，但估计量仍保持一致。
• 对于更一般的协方差函数，WPMLE对变异性参数在固定域渐近下同样不一致，该不一致结果可推广至微ergodic参数之外。
• WPCMLE的极限分布是一个非退化的随机变量，其均值等于真实方差，证实了其一致性，尽管渐近方差更高。