[论文解读] Local Polynomial Regression Based on Functional Data

Karim Benhenni, David Degras|arXiv (Cornell University)|Jul 20, 2011

Bayesian Methods and Mixture Models参考文献 26被引用 3

一句话总结

本文针对函数型数据开发了局部多项式回归，推导了在一般误差过程下估计回归函数及其导数的渐近偏差和方差表达式。研究确定了最优采样密度与带宽，证明了渐近正态性，并通过模拟比较了精确最优、渐近最优与交叉验证带宽的性能。

ABSTRACT

Suppose that $n$ statistical units are observed, each following the model $Y(x_j)=m(x_j)+ ε(x_j),\, j=1,...,N,$ where $m$ is a regression function, $0 \leq x_1

研究动机与目标

• 将局部多项式回归扩展至可观测到离散点上完整曲线的函数型数据场景。
• 在一般误差过程下，推导回归函数估计量及其导数的渐近偏差与方差表达式。
• 确定最小化 m 及其导数估计均方误差的最优采样密度与带宽。
• 建立局部多项式估计量的渐近正态性，以支持推断应用。
• 通过大量模拟比较不同带宽选择方法（精确最优、渐近最优、交叉验证）在导数估计中的性能。

提出的方法

• 使用 p 阶局部多项式拟合，在固定点 x 处估计回归函数 m(x) 及其导数。
• 在误差过程协方差函数可微的条件下，推导当 n, N → ∞ 时的渐近偏差与方差表达式。
• 对设计矩阵及其逆矩阵应用泰勒展开与矩阵渐近分析，利用采样密度 f 和核 K。
• 基于误差过程协方差结构，推导最小化估计量渐近方差的最优采样密度 f*(x)。
• 通过最小化渐近均方误差推导最优带宽，使用偏差与方差的解析表达式。
• 在连续函数空间中证明估计量的渐近正态性，从而支持同时置信带与假设检验。

实验结果

研究问题

• RQ1 对于具有依赖或非平稳误差的函数型数据，局部多项式估计量的渐近偏差与方差行为如何？
• RQ2 最小化局部多项式估计量渐近方差的最优采样密度 f*(x) 是什么？
• RQ3 在不同误差协方差结构下，m 及其导数的局部多项式拟合最优带宽是什么？
• RQ4 估计量的渐近正态性如何支持置信带或假设检验等推断应用？
• RQ5 在有限样本中，精确最优、渐近最优与交叉验证带宽在导数估计中的性能如何比较？

主要发现

• 在标准正则性条件下推导出渐近偏差表达式，方差表达式依赖于误差过程协方差函数及其导数。
• 最优采样密度 f*(x) 推导为与误差协方差函数二阶导数绝对值之和的平方根成正比。
• 针对 m 及其导数的局部常数、线性、二次与三次拟合，解析推导出最小化渐近均方误差的最优带宽。
• 在连续函数空间中建立了局部多项式估计量的渐近正态性，支持同时置信带的构建。
• 模拟结果表明，精确最优带宽在均方误差方面表现最佳，其次为渐近最优带宽，再次为交叉验证带宽。
• 方差扩展结果表明，误差相关性的影响通过涉及协方差函数的 ρ^{(0,2)}、ρ^{(1,1)} 与 ρ^{(0,4)} 的二阶项体现。