[论文解读] Gamma kernel estimation of multivariate density and its derivative on the nonnegative semi-axis by dependent data

L. A. Markovich|arXiv (Cornell University)|Oct 9, 2014

Statistical Methods and Inference参考文献 3被引用 3

一句话总结

本文提出了一种基于伽马核的非参数估计方法，用于在强混合条件下对非负半轴上的多元概率密度函数及其偏导数进行估计。该方法推导了渐近偏差、方差和协方差，并建立了最优带宽，使得均方积分误差（MISE）达到 $ n^{-4/7} $ 的速率，与独立数据下对称核的最优速率一致，但适用于非对称、边界鲁棒的伽马核在 $[0,\infty)^d$ 上的情形。该方法有效处理了边界偏差和依赖观测，且在收敛性和带宽选择方面具有理论保证。

ABSTRACT

In this paper, we consider the nonparametric estimation of the multivariate probability density function and its partial derivative with a support on $[0,\infty)$. To this end we use the class of kernel estimators with asymmetric gamma kernel functions. The gamma kernels are nonnegative. They change their shape depending on the position on the semi-axis and are robust to the boundary bias problem. We investigate the mean integrated squared error (MISE) assuming dependent data with strong mixing and find the optimal bandwidth of the kernel as a minimum of the MISE. We derive the bias, the variance and the covariance of the density and of its partial derivative.

研究动机与目标

• 开发适用于支持在非负半轴上的多元数据的非参数密度和导数估计器，其中标准对称核在边界处存在偏差问题。
• 将此前仅用于单变量或独立同分布（i.i.d.）情形的伽马核估计方法，扩展至强混合依赖下的多元数据。
• 在弱依赖条件下，推导伽马核密度及其偏导数估计器的渐近偏差、方差和协方差。
• 在依赖条件下，确定最小化密度和导数估计均方积分误差（MISE）的最优带宽选择。
• 建立导数估计器 MISE 的最优收敛速率，使其与独立数据下的已知最优速率一致。

提出的方法

• 在 $[0,\infty)^d$ 上使用乘积伽马核估计器进行多元密度估计，其中每个边际核为形状参数依赖于评估点的伽马密度。
• 利用伽马核固有的非负性与形状自适应性，无需反射或变换即可有效减少在 $ x=0 $ 处的边界偏差。
• 在强混合依赖结构下，推导密度及其偏导数估计器的偏差、方差和协方差。
• 利用矩不等式和混合系数 $\alpha(k)$ 控制依赖结构，并推导 MISE 的渐近行为。
• 应用 $L^p$-范数不等式，其中共轭指数 $p,q$ 满足 $r = p/(p-1)$，以控制不同时间滞后下核函数的协方差。
• 通过平衡偏差与方差项，最小化 MISE，从而得出导数估计器的最优带宽为 $ n^{-2/7} $ 阶。

实验结果

研究问题

• RQ1 在依赖数据条件下，伽马核估计器能否有效减少在 $[0,\infty)^d$ 上多元密度估计的边界偏差？
• RQ2 在强混合条件下，伽马核估计器在多元密度及其偏导数上的渐近偏差、方差和协方差为何？
• RQ3 在依赖数据条件下，使导数估计器 MISE 最小化的最优带宽选择规则是什么？
• RQ4 尽管存在依赖性，导数估计器的 MISE 是否仍能达到与 i.i.d. 情况下相同的最优速率 $ n^{-4/7} $？
• RQ5 共轭指数 $p,q,r$ 的选择如何影响依赖条件下的收敛速率与 MISE 边界？

主要发现

• 当底层密度在零点具有肩部（即 $ f''(0) = 0 $）时，伽马核估计器可实现零边界偏差，该条件对指数分布族和伽马分布族成立。
• 导数估计器的最优带宽为 $ n^{-2/7} $ 阶，从而实现最优 MISE 速率 $ n^{-4/7} $，与独立数据下一维对称核的已知最优速率一致。
• 导数估计器的方差按 $ b^{-d/2}/n $ 缩放，其中 $ b $ 为带宽，偏差项分别为 $ b $ 和 $ b^2 $ 阶。
• 协方差项的衰减速率慢于方差，但在 MISE 最小化过程中因阶数较低而可忽略。
• MISE 边界中包含强混合系数 $ \alpha(\tau) $，且要求 $ \int_1^\infty \alpha(\tau)^\upsilon d\tau $ 为有限值，以保证渐近结果成立。
• 最终的 MISE 边界通过最小化偏差平方和与方差项之和导出，最优带宽满足 $ b \sim n^{-2/7} $。