[论文解读] GODS: Generalized One-class Discriminative Subspaces for Anomaly Detection

Jue Wang, Anoop Cherian|arXiv (Cornell University)|Aug 16, 2019

Anomaly Detection Techniques and Applications参考文献 53被引用 8

一句话总结

该论文提出GODS，一种新颖的一类异常检测方法，通过一对正交子空间将正常数据夹在最小体积区域内，同时优化边缘最大化与子空间接近性。该方法在多个基准测试中达到最先进性能，包括一个用于检测车载摄像头中非正常人体姿态的新数据集，相较于先前方法准确率提升超过10%。

ABSTRACT

One-class learning is the classic problem of fitting a model to data for which annotations are available only for a single class. In this paper, we propose a novel objective for one-class learning. Our key idea is to use a pair of orthonormal frames -- as subspaces -- to "sandwich" the labeled data via optimizing for two objectives jointly: i) minimize the distance between the origins of the two subspaces, and ii) to maximize the margin between the hyperplanes and the data, either subspace demanding the data to be in its positive and negative orthant respectively. Our proposed objective however leads to a non-convex optimization problem, to which we resort to Riemannian optimization schemes and derive an efficient conjugate gradient scheme on the Stiefel manifold. To study the effectiveness of our scheme, we propose a new dataset~\emph{Dash-Cam-Pose}, consisting of clips with skeleton poses of humans seated in a car, the task being to classify the clips as normal or abnormal; the latter is when any human pose is out-of-position with regard to say an airbag deployment. Our experiments on the proposed Dash-Cam-Pose dataset, as well as several other standard anomaly/novelty detection benchmarks demonstrate the benefits of our scheme, achieving state-of-the-art one-class accuracy.

研究动机与目标

• 解决传统一类方法（如OC-SVM和SVDD）的局限性，这些方法依赖于单一直线超平面或球形假设，难以捕捉复杂数据结构。
• 克服核化方法在可扩展性与表征能力方面的限制，同时在一类学习中保持判别能力。
• 提出一种方法，通过在结构化低维子空间中使用多个正交超平面来建模正常数据，以改善边界表征。
• 将非凸优化问题公式化，包含子空间基的正交性约束，该问题自然嵌入在Stiefel流形上，从而支持高效的黎曼优化。
• 在一项新提出的、真实世界场景下的数据集上展示该方法的有效性，用于检测车载摄像头画面中异常的人体姿态，其中异常数据的收集在实际中不可行。

提出的方法

• 提出一种基于双正交子空间（框架）的广义一类学习目标，作为正常数据的下界和上界超平面。
• 联合优化：(i) 最小化两个子空间原点之间的距离，以及 (ii) 最大化每个子空间与数据之间的边缘，强制数据位于其对应的正卦限内。
• 将优化问题公式化为一个具有子空间基正交性约束的非凸问题，该问题自然嵌入在Stiefel流形上。
• 在Stiefel流形上使用黎曼共轭梯度下降法，高效求解具有正交性约束的非凸优化问题，并保证收敛至临界点。
• 使用时间卷积网络（TCN）和词袋（BoW）特征表示视频片段，作为GODS框架的输入。
• 直接在输入空间中应用该方法，无需核化，从而实现可扩展性与可解释性。

实验结果

研究问题

• RQ1 与单一直线超平面或球形模型相比，采用正交超平面的双子空间结构是否能提升一类异常检测的性能？
• RQ2 在Stiefel流形上使用黎曼优化是否能有效且高效地训练具有正交性约束的非凸一类学习目标？
• RQ3 所提出的GODS框架是否能在多样化的、真实世界的一类检测任务中实现良好泛化，包括基于视频的人体姿态异常检测？
• RQ4 在标准基准和新引入的、具有挑战性的现实世界数据集上，GODS的性能与最先进方法相比如何？
• RQ5 当增加超平面数量时，该方法是否仍保持鲁棒性与可扩展性？复杂度与性能之间的最优权衡是什么？

主要发现

• 在Dash-Cam-Pose数据集上，GODS使用TCN特征获得0.553的F1分数，优于次佳方法（BODS）0.031，优于OC-SVM 0.275。
• 在JHMDB数据集上，GODS获得0.777的F1分数，较次佳方法（BODS为0.725）提升13%，较经典OC-SVM与SVDD提升超过10%。
• 在UCF-Crime数据集上，GODS获得70.46%的AUC与2.1%的误报率，优于所有对比方法，仅有一项使用弱标签异常数据的方法表现更优——因此无法直接比较。
• 与核化变体相比，GODS在基准测试上平均性能提升超过20%：在K-OC-SVM与K-SVDD上均实现显著改进。
• 在Dash-Cam-Pose数据集上，基于TCN的特征表示优于BoW近3%，表明其具备更强的时间建模能力。
• 性能在达到一定数量的超平面后趋于饱和，表明进一步增加复杂度将导致过拟合，且该方法对超参数选择具有鲁棒性。