[论文解读] Adaptive estimation of irregular mean and covariance functions

Steven Golovkine, Nicolas Klutchnikoff+1 more|arXiv (Cornell University)|Aug 14, 2021

Statistical Methods and Inference参考文献 8被引用 1

一句话总结

该论文提出了针对具有不规则、不可微样本路径和异方差测量误差的功能数据的均值和协方差函数的自适应非参数估计器。通过采用‘先平滑后估计’的方法，结合基于重复观测的局部正则性估计与核平滑技术，该方法能够自适应地应对未知的Hölder正则性，在稀疏和密集设计下均达到极小极大最优性，并在基于真实世界数据模式的模拟中表现出强劲的实证性能。

ABSTRACT

Nonparametric estimators for the mean and the covariance functions of functional data are proposed. The setup covers a wide range of practical situations. The random trajectories are, not necessarily differentiable, have unknown regularity, and are measured with error at discrete design points. The measurement error could be heteroscedastic. The design points could be either randomly drawn or common for all curves. The estimators depend on the local regularity of the stochastic process generating the functional data. We consider a simple estimator of this local regularity which exploits the replication and regularization features of functional data. Next, we use the ``smoothing first, then estimate'' approach for the mean and the covariance functions. They can be applied with both sparsely or densely sampled curves, are easy to calculate and to update, and perform well in simulations. Simulations built upon an example of real data set, illustrate the effectiveness of the new approach.

研究动机与目标

• 为样本路径不规则且不一定可微的功能数据分析中的均值和协方差函数开发估计器。
• 解决在存在测量误差的功能数据中未知正则性（Hölder指数）的挑战。
• 提出一种利用功能数据的重复性和正则化特征自适应于局部正则性的方法。
• 确保在稀疏和密集采样设计下估计的极小极大最优性。
• 提供计算高效、可更新的估计器，其在模拟中表现优于现有方法。

提出的方法

• 基于重复观测和曲线间正则化，使用简单估计器估计功能数据的局部正则性。
• 采用“先平滑后估计”的方法：使用数据驱动带宽的核平滑对单个曲线进行平滑。
• 采用带宽选择规则，将估计的局部Hölder正则性纳入风险准则，具体为 q²₁h²(¹+Ĥₜ)。
• 使用自适应带宽的核平滑来估计均值和协方差函数，适用于独立和共同设计点。
• 通过平衡不规则性和测量误差带来的估计误差与偏差，推导出极小极大最优的估计器。
• 通过基于真实数据模式设计的模拟验证该方法，包括β-混合和异方差误差结构。

实验结果

研究问题

• RQ1 当底层样本路径具有未知且不规则的正则性时，能否构建均值和协方差函数的自适应估计器？
• RQ2 在不同不规则性和测量误差水平下，所提方法与现有方法相比表现如何？
• RQ3 当正则性未知时，功能数据的重复性和正则化结构在多大程度上能提升估计精度？
• RQ4 设计类型（共同设计与独立设计）对所提估计器收敛速率有何影响？
• RQ5 在未知真实均值和协方差函数正则性的情况下，该方法能否实现极小极大最优性？

主要发现

• 所提出的均值函数自适应估计器在所有模拟实验中均持续优于竞争方法，性能比（ISE0）在对数尺度上最高达3.0。
• 对于协方差函数，该方法在异方差误差和不规则设计下显著提升了估计精度，某些情形下的性能比超过3.0。
• 在可微曲线情形（实验8）中，基于导数估计和局部正则性的自适应带宽估计器在所有(N, m)组合下均优于所有竞争方法。
• 该方法在共同设计和独立设计下均保持优异性能，表现出对设计结构的鲁棒性。
• 通过重复观测进行局部正则性估计可改善带宽选择，从而带来更快的收敛速率和更低的均方误差。
• 基于真实数据模式（如电力消耗）的模拟结果证实了该方法在实际场景中的实用性和有效性。