[论文解读] Kernel Estimator and Bandwidth Selection for Density and its Derivatives: The kedd Package

Arsalane Chouaib Guidoum|arXiv (Cornell University)|Dec 11, 2020

Statistical Methods and Inference参考文献 32被引用 11

一句话总结

kked R 包提供了一个全面的、面向对象的核密度估计及其导数的框架，支持先进的带宽选择方法，包括 AMISE、交叉验证变体（UCV、BCV、CCV、MCV、TCV），并支持多种核函数。它能够实现准确、灵活且用户友好的非参数密度和导数估计，采用 S3 模型对象以支持可扩展性和可视化。

ABSTRACT

The kedd package providing additional smoothing techniques to the R statistical system. Although various packages on the Comprehensive R Archive Network (CRAN) provide functions useful to nonparametric statistics, kedd aims to serve as a central location for more specifically of a nonparametric functions and data sets. The current feature set of the package can be split in four main categories: compute the convolutions and derivatives of a kernel function, compute the kernel estimators for a density of probability and its derivatives, computing the bandwidth selectors with different methods, displaying the kernel estimators and selection functions of the bandwidth. Moreover, the package follows the general R philosophy of working with model objects. This means that instead of merely returning, say, a kernel estimator of rth derivative of a density, many functions will return an object containing, it's functions are S3 classes (S3method). The object can then be manipulated at one's will using various extraction, summary or plotting functions. Whenever possible, we develop a graphical user interface of the various functions of a coherent whole, to facilitate the use of this package.

研究动机与目标

• 为非参数密度和导数估计提供一个集中化、用户友好的 R 包，具有统一的接口设计，以解决当前缺乏此类工具的问题。
• 实现针对密度函数第 r 阶导数的广泛带宽选择方法，包括 AMISE、UCV、BCV、CCV、MCV 和 TCV。
• 提供统一的 S3 面向对象框架，用于核估计器和带宽选择器，支持一致的提取、汇总和绘图操作。
• 支持多种核函数（高斯、Epanechnikov、均匀、三角、三权、三立方、双权、余弦），并提供其解析导数和卷积。
• 通过图形用户界面和集成的可视化工具，提升易用性，支持带宽选择函数和核特性的可视化。

提出的方法

• 使用 S3 类封装核估计器和带宽选择器，通过提取、汇总和绘图函数实现一致的面向对象操作。
• 通过赫米特多项式进行高斯核的解析导数计算，其他核则采用数值方法。
• 通过数值积分计算导数核的乘积，以实现核卷积，这对于交叉验证准则至关重要。
• 应用多种带宽选择器：AMISE（渐近均方误差积分）、UCV（无偏交叉验证）、BCV（有偏交叉验证）、CCV（完整交叉验证）、MCV（修正交叉验证）和 TCV（截断交叉验证）。
• 使用核的第 r 阶导数公式：$ K^{(r)}(x) = \frac{d^r}{dx^r} K(x) $，及其卷积公式：$ K^{(r)} * K^{(r)}(x) = \int_{\mathbb{R}} K^{(r)}(x) K^{(r)}(x-y) dy $。
• 采用 TCV 准则：$ \mathrm{TCV}(h,r) = \frac{\mathrm{R}(K^{(r)})}{n h^{2r+1}} + \frac{(-1)^r}{n(n-1)h^{2r+1}} \sum_{i \neq j} \varphi^{(r)}\left(\frac{X_j - X_i}{h}\right) $，其中 $ \varphi^{(r)}(c) = \left[K^{(r)} * K^{(r)} - 2K^{(2r)} \cdot 1(|c| > c_n / h^{2r+1}) \right](c) $，且 $ c_n = 1/n $。

实验结果

研究问题

• RQ1 如何设计一个统一且可扩展的 R 包，以支持基于一致 S3 面向对象原则的核密度估计及其导数？
• RQ2 哪些带宽选择方法（AMISE、UCV、BCV、CCV、MCV、TCV）在估计密度函数第 r 阶导数时表现最优？
• RQ3 不同核函数（高斯、Epanechnikov、均匀等）如何影响密度和导数估计器的准确性和稳定性？
• RQ4 带宽选择对密度导数可视化与解释，特别是对多峰分布的影响是什么？
• RQ5 图形用户界面能否提升非参数密度估计高级技术对应用研究者的可访问性和易用性？

主要发现

• kked 包成功实现了七种带宽选择器（AMISE、UCV、BCV、CCV、MCV、TCV 和 MLCV）用于密度的第 r 阶导数，其中 h.tcv 对双峰数据集的 0 阶导数（密度）返回带宽 0.257。
• 对于一阶导数（r=1），TCV 方法选择的带宽为 0.510，表明与密度估计相比，导数估计需要更高的平滑度。
• 二阶导数（r=2）选择的带宽为 0.656，三阶导数（r=3）选择的带宽为 0.745，显示出随着导数阶数增加，带宽系统性增大的趋势，这与高阶导数方差更高的预期一致。
• 该包的 S3 对象系统支持无缝提取带宽、估计器和汇总信息，例如 h.mcv 和 h.tcv 函数同时返回最优带宽和最小准则值。
• TCV 方法在三阶导数上达到最小准则值 -3.962，表明其在最小化截断交叉验证准则下的估计误差方面表现优异。
• 该包支持对核导数和卷积的可视化，例如高斯核的一阶导数及其卷积，这对于理解带宽选择器的行为至关重要。