[论文解读] Deep One-Class Classification Using Data Splitting.

Patrick Schlachter, Yi-Wen Liao+1 more|arXiv (Cornell University)|Feb 4, 2019

Anomaly Detection Techniques and Applications参考文献 11被引用 3

一句话总结

本文提出了一种新颖的深度单类分类方法，通过将正常训练数据划分为典型和非典型子集，实现使用二元损失的端到端训练。通过引入一个辅助子网络以施加潜在空间距离约束，该方法实现了紧密且闭合的决策边界，在三个图像数据集上优于七个基线方法，并达到最先进水平的性能。

ABSTRACT

This paper introduces a generic method which enables to use conventional deep neural networks as end-to-end one-class classifiers. The method is based on splitting given data from one class into two subsets. In one-class classification, only samples of one normal class are available for training. During inference, a closed and tight decision boundary around the training samples is sought which conventional binary or multi-class neural networks are not able to provide. By splitting data into typical and atypical normal subsets, the proposed method can use a binary loss and defines an auxiliary subnetwork for distance constraints in the latent space. Various experiments on three well-known image datasets showed the effectiveness of the proposed method which outperformed seven baselines and had a better or comparable performance to the state-of-the-art.

研究动机与目标

• 为解决使用深度神经网络进行单类分类时学习闭合且紧密决策边界的挑战。
• 使常规深度神经网络在训练过程中缺乏异常数据的情况下，仍能作为端到端单类分类器使用。
• 通过将正常数据划分为典型和非典型子集，提升泛化能力和异常检测性能。
• 提供一种通用且即插即用的解决方案，与标准深度学习框架兼容。
• 与最先进单类分类方法相比，实现具有竞争力或更优的性能。

提出的方法

• 该方法将单一正常类别划分为两个子集：典型和非典型正常样本。
• 应用二元交叉熵损失，利用划分后的数据训练主网络。
• 引入一个辅助子网络，以在潜在空间中施加距离约束，促进正常样本周围的紧凑性。
• 典型样本的潜在表示被约束为靠近中心点，而非典型样本则被推离中心。
• 使用结合二元分类损失与距离正则化的联合损失进行端到端训练。
• 由于双重子集监督和潜在空间约束，决策边界被隐式地学习为闭合且紧密的形态。

实验结果

研究问题

• RQ1 将数据划分为典型和非典型子集是否能提升深度单类分类器的性能？
• RQ2 在异常检测准确率方面，所提方法与现有单类分类基线相比表现如何？
• RQ3 仅使用正常数据且无显式异常数据的情况下，标准深度神经网络结合二元损失与潜在空间约束，能否学习到闭合且紧密的决策边界？
• RQ4 用于距离约束的辅助子网络是否增强了正常类别表征在潜在空间中的紧凑性？
• RQ5 所提方法在不同图像数据集和网络架构上是否具备泛化能力？

主要发现

• 所提方法在三个知名图像数据集上优于七个基线单类分类方法。
• 其性能与最先进单类分类方法相当。
• 通过数据划分与潜在空间距离约束的结合，实现了围绕正常样本更紧密且更闭合的决策边界。
• 尽管训练过程中仅依赖正常数据，该方法仍表现出强大的泛化能力。
• 辅助子网络显著提升了潜在空间中正常类别嵌入的紧凑性。
• 该方法有效且通用，可直接应用于标准深度神经网络，无需架构修改。