[论文解读] Depth and depth-based classification with R-package ddalpha

Oleksii Pokotylo, Pavlo Mozharovskyi+1 more|Kölner Universitäts PublikationsServer (Universität zu Köln)|Aug 14, 2016

Advanced Statistical Methods and Models参考文献 36被引用 20

一句话总结

本文介绍了 R 包 ddalpha，该包实现了多变量和函数型数据的数据深度及基于深度的分类方法。它提出了 $DD\alpha$-过程，一种鲁棒的非参数分类器，通过使用多种深度函数将数据转换到深度空间，并应用 $\alpha$-过程分离器，与 $k$-NN 和多项式分类器相比，在经验测试中实现了更优的分类准确率。

ABSTRACT

Following the seminal idea of Tukey, data depth is a function that measures how close an arbitrary point of the space is located to an implicitly defined center of a data cloud. Having undergone theoretical and computational developments, it is now employed in numerous applications with classification being the most popular one. The R-package ddalpha is a software directed to fuse experience of the applicant with recent achievements in the area of data depth and depth-based classification. ddalpha provides an implementation for exact and approximate computation of most reasonable and widely applied notions of data depth. These can be further used in the depth-based multivariate and functional classifiers implemented in the package, where the $DDα$-procedure is in the main focus. The package is expandable with user-defined custom depth methods and separators. The implemented functions for depth visualization and the built-in benchmark procedures may also serve to provide insights into the geometry of the data and the quality of pattern recognition.

研究动机与目标

• 开发一个全面、可扩展的 R 包，用于数据深度和基于深度的分类。
• 解决现有基于深度的分类器的局限性，例如多项式拟合中的不稳定性以及对凸包之外点（外部点）处理不佳的问题。
• 为高维和函数型数据提供高效、鲁棒且计算可行的深度计算方法。
• 通过深度变换和 $\alpha$-过程分离器实现灵活的非参数分类。
• 通过内置的基准测试和交叉验证程序支持经验参数调优。

提出的方法

• 将每个训练点转换为相对于 q 个类中每个类的 q 维深度值向量，形成深度空间。
• 在深度空间中应用 $\alpha$-过程，一种非参数、鲁棒且计算高效的分离器，用于分类。
• 通过专用处理策略处理“外部点”——即在凸包之外深度为零的点，以保持分类能力。
• 通过在深度计算前进行位置-斜率（LS-）变换，支持函数型数据分类。
• 为各种深度函数（例如，半空间、单纯形、投影、马氏距离）实现精确和近似算法，参数可配置。
• 支持用户自定义深度方法和分离器，增强可扩展性和对特定数据几何结构的适应性。

实验结果

研究问题

• RQ1 如何在计算高效且鲁棒的前提下，有效利用数据深度进行多变量和函数型分类？
• RQ2 哪些深度函数能在最小化计算负担和分类不稳定性的同时，最好地保持数据拓扑结构？
• RQ3 如何对位于训练数据凸包之外的点（外部点）进行有意义的分类，而不损害性能？
• RQ4 $DD\alpha$-过程与现有基于深度和非基于深度的分类器（如 $k$-NN 和多项式分类器）相比，性能如何？
• RQ5 如何通过交叉验证和基准测试程序自动调优深度计算和分类的参数？

主要发现

• 在真实数据的经验评估中，$DD\alpha$-过程的错误率低于多项式分类器和 $k$-NN。
• $DD\alpha$ 分类器相比基于多项式的模型表现出更优的鲁棒性和稳定性，后者可能因数值不稳定性而受影响。
• 近似深度计算（例如，随机半空间、投影和单纯形近似）实现了可扩展分析，且精度损失可控。
• 对外部点的处理方法为凸包之外的点提供了计算高效的解决方案，在无需复杂重加权的情况下保持了分类能力。
• 对深度函数、分离器和参数（如 $L$、$S$、$k$、num.directions）的交叉验证显著提高了分类准确率。
• 该包的基准测试框架支持系统化的参数调优，通过在多个参数集上迭代交叉验证估计错误率。