[论文解读] On Perfect Classification for Gaussian Processes

Juan A. Cuesta-Aboertos, Subhajit Dutta|arXiv (Cornell University)|Feb 16, 2016

Fault Detection and Control Systems参考文献 13被引用 3

一句话总结

本文提出一种数据驱动的变换，可在无限维空间中实现 J ≥ 2 个高斯过程的完全分离，使分量分类器的渐近误分类概率趋近于零。该方法利用测度奇异性的特性，在极限情况下实现完美分类，且在模拟和基准函数数据集上表现出强劲的有限样本性能。

ABSTRACT

In this paper, we study the problem of discriminating $J ~(\geq 2)$ Gaussian processes by analyzing the behavior of the underlying probability measures in an infinite-dimensional space. Motivated by singularity of a certain class of Gaussian measures, we first propose a data based transformation for the training data. For a $J$ class classification problem, this transformation induces complete separation among the associated Gaussian processes. The misclassification probability of a componentwise classifier when applied on this transformed data asymptotically converges to zero. In finite samples, the empirical classifier is constructed and related theoretical properties are studied. Good performance of the proposed methodology is demonstrated using simulated as well as benchmark data sets when compared with some parametric and nonparametric classifiers for such functional data.

研究动机与目标

• 解决在无限维空间中对 J ≥ 2 个高斯过程进行分类的挑战，传统分类器在此类场景下可能失效。
• 利用某些高斯测度的奇异性质，实现底层概率测度的完全分离。
• 开发一种变换，使分量分类器在 J 类分类任务中渐近趋于完美。
• 建立基于有限样本的经验分类器的理论性质。
• 在函数数据上，与参数和非参数分类器相比，展示所提方法的优越性能。

提出的方法

• 引入一种基于数据的变换，重新参数化训练数据，以在样本路径的无限维空间中实现 J 个高斯过程的完全分离。
• 该变换利用高斯测度的奇异性质，确保变换后相关概率测度变为相互奇异。
• 对变换后数据应用分量分类器，其误分类概率被证明在渐近意义上收敛至零。
• 对从有限样本构建的经验分类器进行理论分析，建立其一致性和收敛性性质。
• 将该方法应用于模拟和基准函数数据集，以评估其实际性能。

实验结果

研究问题

• RQ1 能否设计一种数据驱动的变换，以在无限维空间中实现 J ≥ 2 个高斯过程的完全分离？
• RQ2 在变换后的数据上使用分量分类器时，误分类概率的渐近行为如何？
• RQ3 在有限样本设置下，经验分类器的理论性质表现如何？
• RQ4 与现有参数和非参数分类器相比，所提方法在函数数据上的性能表现如何？

主要发现

• 所提变换确保了 J 个高斯过程的底层概率测度变为相互奇异，从而在无限维空间中实现完全分离。
• 应用于变换后数据的分量分类器的误分类概率在渐近意义上收敛至零。
• 从有限样本构建的经验分类器表现出优异性能，结果部分未报告任何显式误分类误差。
• 该方法在模拟和真实世界函数数据集上，均优于多个基准参数和非参数分类器。