[论文解读] VOS: Learning What You Don't Know by Virtual Outlier Synthesis

Xuefeng Du, Zhaoning Wang+2 more|arXiv (Cornell University)|Feb 2, 2022

Anomaly Detection Techniques and Applications被引用 77

一句话总结

VOS 提出一个框架，在特征空间中合成虚拟离群点以正则化模型，从而在更好地检测 OOD 上实现更强的结果，在对象检测和图像分类上都无需真实离群数据。

ABSTRACT

Out-of-distribution (OOD) detection has received much attention lately due to its importance in the safe deployment of neural networks. One of the key challenges is that models lack supervision signals from unknown data, and as a result, can produce overconfident predictions on OOD data. Previous approaches rely on real outlier datasets for model regularization, which can be costly and sometimes infeasible to obtain in practice. In this paper, we present VOS, a novel framework for OOD detection by adaptively synthesizing virtual outliers that can meaningfully regularize the model's decision boundary during training. Specifically, VOS samples virtual outliers from the low-likelihood region of the class-conditional distribution estimated in the feature space. Alongside, we introduce a novel unknown-aware training objective, which contrastively shapes the uncertainty space between the ID data and synthesized outlier data. VOS achieves competitive performance on both object detection and image classification models, reducing the FPR95 by up to 9.36% compared to the previous best method on object detectors. Code is available at https://github.com/deeplearning-wisc/vos.

研究动机与目标

• 在未知情形下通过避免依赖真实离群数据集来推动稳健的 OOD 检测。
• 学习一个双重目标，在优化分布内性能的同时提升 OOD 不确定性。
• 提出一种可化简的方法，在特征空间中合成信息丰富的虚拟离群点。
• 开发一个未知感知的训练目标，塑造 ID 与 OOD 数据之间的不确定性表面。
• 将 OOD 检测技术扩展到对象检测和图像分类任务。

提出的方法

• 将 ID 特征表示建模为从检测器提取的潜在空间中的类别条件高斯分布。
• 在特征空间中从每个类别条件高斯的低似然区域采样虚拟离群点。
• 通过对潜在特征进行线性变换，定义虚拟离群点的分类输出。
• 引入基于输出能量函数的不确定性正则化损失，并通过逻辑替代进行优化。
• 应用对象级能量分数，在推断期间实现实例级的 OOD 检测。
• 将对象检测器与标准检测损失以及由超参数控制的不确定性正则化项一起联合训练。

实验结果

研究问题

• RQ1 在没有真实离群数据集的情况下，如何有效合成未知的分布外数据？
• RQ2 在特征空间中的虚拟离群点是否能提供有意义的正则化信号，以在保持 ID 准确性的同时改进 OOD 检测？
• RQ3 未知感知目标是否能同时改善对象检测和图像分类的 OOD 检测？
• RQ4 在特征空间与像素空间中采样对离群点合成有何影响？

主要发现

• VOS 在对象检测和图像分类的 OOD 检测性能方面，与仅使用 ID 数据的强基线相比，具有竞争力或更优。
• 在特征空间合成虚拟离群点比通过 GAN 生成像素空间离群点或使用噪声更有效且更稳定。
• 基于能量的、可学习的不确定性损失（带对数逻辑替代）在没有额外超参数的情况下提升了 ID 与虚拟离群点之间的分离。
• VOS 在提升 OOD 检测的同时保持了分布内任务性能（例如 mAP 或分类准确率）。
• 该方法适用于多种架构（如 ResNet-50、RegNet）和任务，包括如 PASCAL-VOC 和 BDD-100k 这样的复杂对象检测基准，以及标准图像分类基准。