[论文解读] A simple method to construct confidence bands in functional linear regression

Masaaki Imaizumi, Kengo Kato|arXiv (Cornell University)|Dec 22, 2016

Advanced Statistical Methods and Models参考文献 42被引用 3

一句话总结

本文提出了一种简单且渐近有效的方法，用于在基于主成分分析（PCA）的估计器下构造函数线性回归中斜率函数的置信带。通过将覆盖范围放宽至适用于‘大多数’点而非所有点，该方法在标准正则性条件下建立了理论有效性，并提供了PCA截断水平的实用选择规则，从而实现了函数回归中可靠的不确定性量化。

ABSTRACT

This paper develops a simple method to construct confidence bands, centered at a principal component analysis (PCA) based estimator, for the slope function in a functional linear regression model with a scalar response variable and a functional predictor variable. The PCA-based estimator is a series estimator with estimated basis functions, and so construction of valid confidence bands for it is a non-trivial challenge. We propose a confidence band that aims at covering the slope function at "most" of points with a prespecified probability (level), and prove its asymptotic validity under suitable regularity conditions. Importantly, this is the first paper that derives confidence bands having theoretical justifications for the PCA-based estimator. We also propose a practical method to choose the cut-off level used in PCA-based estimation, and conduct numerical studies to verify the finite sample performance of the proposed confidence band. Finally, we apply our methodology to spectrometric data, and discuss extensions of our methodology to cases where additional vector-valued regressors are present.

研究动机与目标

• 为解决函数线性回归中基于PCA的估计器缺乏理论支持的置信带这一关键文献空白。
• 开发一种置信带，使其在预设概率水平下覆盖真实斜率函数在‘大多数’点上的值，而非在所有点上均匀覆盖。
• 提供一种实用的PCA截断水平选择方法，以确保欠平滑化和渐近有效性。
• 通过数值研究验证有限样本性能，并将该方法应用于真实光谱数据。
• 将该方法扩展至包含额外向量值协变量的设定。

提出的方法

• 提出以基于PCA的斜率函数估计器为中心的置信带，通过放宽覆盖范围，使其适用于定义域内大多数点。
• 采用随机逼近方法，以考虑从经验协方差算子中估计的特征函数的随机性。
• 利用高维、异方差且依赖的随机向量的乘子中心极限定理，以证明估计器偏差的渐近分布。
• 通过控制加权经验系数和的三阶绝对矩，推导出估计器在上确界范数下偏差的上界。
• 提出一种截断水平选择规则，该规则略高于最小化估计$L^2$-风险的最优水平，以确保欠平滑化。
• 在矩和特征值衰减条件下，应用浓度不等式和矩界，以控制特征函数估计误差。

实验结果

研究问题

• RQ1 能否为函数线性回归中基于PCA的估计器构造一种理论成立且实际可实施的置信带？
• RQ2 在推断中，如何恰当地处理从经验协方差算子中估计的特征函数的随机性？
• RQ3 是否存在一种实用且理论成立的PCA截断水平选择方法，以确保有效覆盖？
• RQ4 所提出的置信带在函数线性回归的标准正则性条件下是否保持渐近有效性？
• RQ5 该方法在有限样本中表现如何？是否可扩展至包含额外向量值回归变量的模型？

主要发现

• 所提出的置信带在标准正则性条件下具有渐近有效性，能够在预设概率水平下覆盖真实斜率函数在‘大多数’点上的值。
• 在条件(14)下，该方法在上确界范数偏差界中实现$o_P(1)$收敛，确保随着样本量增加，置信带保持有效性。
• 基于略高于最小化$L^2$-风险的最优水平的截断水平选择规则，确保了欠平滑化和理论有效性。
• 数值研究证实了置信带的有限样本性能，展示了适当的覆盖率。
• 该方法被扩展至包含额外向量值回归变量的模型，从而扩大了其适用范围。
• 理论依据依赖于对加权经验系数和的三阶绝对矩的上界控制，由此导出的误差项为$O_P(m_n^{7/4}/n^{1/2 - 1/(2q)})$，在正则性条件下趋于零。