[论文解读] Multi-view anomaly detection via robust probabilistic latent variable models

Tomoharu Iwata, Makoto Yamada|arXiv (Cornell University)|Dec 5, 2016

Anomaly Detection Techniques and Applications参考文献 24被引用 30

一句话总结

本文提出了一种用于多视图异常检测的鲁棒概率潜在变量模型，其中正常样本从所有视图共享的单一潜在向量生成，而异常样本则通过多个视图特定的潜在向量进行建模。通过使用狄利克雷过程先验推断每个实例的潜在向量数量，该方法利用随机期望最大化（SEM）算法实现贝叶斯推断，在噪声多视图数据上实现了更优的检测性能。

ABSTRACT

We propose probabilistic latent variable models for multi-view anomaly detection, which is the task of finding instances that have inconsistent views given multi-view data. With the proposed model, all views of a non-anomalous instance are assumed to be generated from a single latent vector. On the other hand, an anomalous instance is assumed to have multiple latent vectors, and its different views are generated from different latent vectors. By inferring the number of latent vectors used for each instance with Dirichlet process priors, we obtain multi-view anomaly scores. The proposed model can be seen as a robust extension of probabilistic canonical correlation analysis for noisy multi-view data. We present Bayesian inference procedures for the proposed model based on a stochastic EM algorithm. The effectiveness of the proposed model is demonstrated in terms of performance when detecting multi-view anomalies.

研究动机与目标

• 解决在视图间不一致性指示异常性的多视图数据中检测异常的挑战。
• 将正常样本建模为在所有视图中共享单一潜在表示，同时允许异常样本具有多个视图特定的潜在向量。
• 通过非参数贝叶斯先验实现对每个实例潜在向量数量的自动推断。
• 与现有方法（如概率CCA）相比，提高在多视图数据噪声环境下的鲁棒性。
• 开发一种基于随机期望最大化（SEM）算法的可扩展贝叶斯推断程序，用于所提出的模型。

提出的方法

• 将正常样本建模为从所有视图中共享的单一潜在向量生成，以确保一致性。
• 将异常样本建模为从多个视图特定的潜在向量生成，以反映不一致性。
• 对每个实例的潜在向量数量使用狄利克雷过程先验，以实现非参数推断。
• 应用随机期望最大化（SEM）算法，对潜在变量和模型参数进行贝叶斯推断。
• 在给定潜在结构的条件下，假设视图之间条件独立，制定每个视图的似然函数。
• 通过潜在向量结构对视图特定变化进行灵活建模，增强对噪声的鲁棒性。

实验结果

研究问题

• RQ1 如何通过识别不一致的视图，有效检测多视图数据中的异常？
• RQ2 在噪声多视图设置下，具有非参数先验的概率潜在变量模型在多大程度上能提升异常检测性能？
• RQ3 在没有先验知识的情况下，能否可靠地推断每个实例的潜在向量数量？
• RQ4 在噪声条件下，所提出的模型与概率典型相关分析（probabilistic CCA）相比性能如何？
• RQ5 使用随机期望最大化算法对可扩展性和推断准确性有何影响？

主要发现

• 所提出的模型在噪声数据上的多视图异常检测中，性能优于基线方法。
• 使用狄利克雷过程先验可实现对每个实例潜在向量数量的自动且数据驱动的推断。
• 该模型有效捕捉了视图间的不一致性，而这种不一致性是异常实例的指示。
• 通过随机SEM实现的贝叶斯推断，为潜在变量模型提供了稳定且可扩展的参数估计。
• 该方法在多视图异常检测任务中表现出对噪声的鲁棒性，优于标准的概率CCA。
• 实证结果证实，该模型的异常评分对异常实例的判别能力优于现有方法。