[论文解读] Nonparametric estimation of a regression function using the gamma kernel method in ergodic processes

Alessandro Pasquale De Rosa, Maria-Ines Nogueira|arXiv (Cornell University)|May 24, 2016

Statistical Methods and Inference参考文献 30被引用 3

一句话总结

本文在广义遍历依赖假设下，建立了基于伽马核的非参数回归估计量的强一致性和渐近正态性，将先前独立同分布（i.i.d.）结果推广至依赖数据。该方法采用自适应带宽的伽马核以处理非负支撑和边界偏倚问题，在温和 mixing 条件下实现了最优收敛速率和渐近方差。

ABSTRACT

In this paper we consider the nonparametric estimation of density and regression functions with non-negative support using a gamma kernel procedure introduced by Chen (2000). Strong uniform consistency and asymptotic normality of the corresponding estimators are established under a general ergodic assumption on the data generation process. Our results generalize those of Shi and Song (2016), obtained in the classic i.i.d. framework, and the works of Bouezmarni and Rombouts (2008, 2010b) and Gospodinov and Hirukawa (2007) for mixing time series.

研究动机与目标

• 将伽马核回归估计从独立同分布（i.i.d.）推广至广义遍历过程，克服对称核在边界附近存在的局限性。
• 在弱依赖假设下，建立伽马核回归估计量的强一致性和渐近正态性。
• 将现有独立同分布（i.i.d.）和 mixing 时间序列框架下的结果推广至更广泛的遍历过程类别。
• 在温和带宽条件下，确保收敛速率和渐近方差与独立同分布情形一致。

提出的方法

• 使用形状参数 $\alpha(n,x) = \frac{x}{h_n} + 1$ 和尺度参数 $\beta(n) = h_n$ 的伽马核密度估计，以建模非负支撑。
• 提出比值估计量 $R_n(x) = \frac{\sum_{t=1}^n \Phi(Y_t) K_{\alpha(n,x),\beta(n)}(X_t)}{\sum_{t=1}^n K_{\alpha(n,x),\beta(n)}(X_t)}$ 来估计条件期望 $R(x) = E[\Phi(Y_1) \mid X_1 = x]$。
• 以遍历性作为主要依赖假设，将研究范围从 mixing 过程推广至包含非 mixing 遍历序列的更广范围。
• 应用鞅型分解和一致 mixingale 近似，以控制偏差和方差项。
• 利用矩不等式和 Hölder 不等式控制估计函数的尾部行为。
• 依赖引理 4.1–4.8，在条件 (H5)–(H8) 下控制偏差、方差和一致偏差项，包括矩和带宽约束。

实验结果

研究问题

• RQ1 伽马核回归估计量在广义遍历依赖下能否实现强一致一致性？
• RQ2 在具有相同收敛速率的独立同分布（i.i.d.）情形下，伽马核估计量的渐近正态性是否在遍历过程中依然成立？
• RQ3 带宽条件如何影响依赖数据中收敛速率和渐近方差？
• RQ4 在弱依赖下，伽马核方法能否有效减少非负支撑回归中的边界偏倚？
• RQ5 在非 i.i.d. 遍历过程中，伽马核估计量的统一随机性质（偏差、方差、收敛性）如何？

主要发现

• 在遍历性和矩条件成立下，伽马核回归估计量 $R_n(x)$ 在 $\mathbb{R}_0^+$ 的紧子集上具有强一致一致性。
• 渐近正态性成立：$\sqrt{n h_n} (R_n(x) - R(x)) \xrightarrow{d} N(0, \sigma^2(x))$，其中 $\sigma^2(x)$ 在相同带宽选择下与 i.i.d. 情形的渐近方差一致。
• 当 $n h_n \to \infty$ 且 $n \sqrt{h_n} \to \infty$ 时，偏差和方差项的收敛速率与独立同分布情形一致。
• 偏差项为 $O(h_n)$，方差项为 $O(1/(n h_n))$，在 $h_n \sim n^{-1/5}$ 条件下达到最优 $MISE$ 收敛速率 $O(n^{-2/5})$。
• 证明依赖于通过矩不等式和由遍历性诱导的 mixingale 近似，对 $L^2$-矩和尾部概率实现一致控制。
• 结果将先前在 i.i.d.（Shi 和 Song，2013）和 mixing（Bouezmarni 和 Rombouts，2010）框架下的发现推广至更广泛的遍历过程类别。