[论文解读] Out-of-Distribution Detection in Multi-Label Datasets using Latent Space of $\beta$-VAE

Vijaya Kumar Sundar, Shreyas Ramakrishna+3 more|arXiv (Cornell University)|Mar 10, 2020

Anomaly Detection Techniques and Applications参考文献 13被引用 4

一句话总结

本论文提出了一种新颖的方法，用于在多标签自动驾驶数据集中进行分布外（OOD）检测，利用 β-VAE 的解耦潜在空间。通过在基于特定生成因子（如一天中的时间、交通状况、行人）定义的数据子集上分别训练 β-VAE，并选择对这些因子敏感的潜在变量，该方法利用从学习到的阈值计算的 KL 散度来检测分布偏移，实现了高精度检测，在 nuScenes 数据集的行人和交通子集中 OOD 检测准确率最高可达 100%。

ABSTRACT

Learning Enabled Components (LECs) are widely being used in a variety of perception based autonomy tasks like image segmentation, object detection, end-to-end driving, etc. These components are trained with large image datasets with multimodal factors like weather conditions, time-of-day, traffic-density, etc. The LECs learn from these factors during training, and while testing if there is variation in any of these factors, the components get confused resulting in low confidence predictions. The images with factors not seen during training is commonly referred to as Out-of-Distribution (OOD). For safe autonomy it is important to identify the OOD images, so that a suitable mitigation strategy can be performed. Classical one-class classifiers like SVM and SVDD are used to perform OOD detection. However, the multiple labels attached to the images in these datasets, restricts the direct application of these techniques. We address this problem using the latent space of the $\beta$-Variational Autoencoder ($\beta$-VAE). We use the fact that compact latent space generated by an appropriately selected $\beta$-VAE will encode the information about these factors in a few latent variables, and that can be used for computationally inexpensive detection. We evaluate our approach on the nuScenes dataset, and our results shows the latent space of $\beta$-VAE is sensitive to encode changes in the values of the generative factor.

研究动机与目标

• 解决在多标签自动驾驶数据集中检测分布外（OOD）图像的挑战，传统的一类 OOD 方法因标签重叠而失效。
• 实现在包含复杂、重叠因子（如天气、一天中的时间、交通密度）的真实世界多模态数据集（如 nuScenes）中可靠地进行 OOD 检测。
• 开发一种可扩展、计算高效的方案，利用 β-VAE 的解耦表示检测特定生成因子中的分布偏移。

提出的方法

• 根据单个生成因子（如白天/夜晚、高/低交通量）对多标签数据集（如 nuScenes）进行划分，以隔离变化。
• 在每个子集上分别训练 β-VAE，以学习解耦且紧凑的潜在表示，使特定潜在变量编码目标生成因子的变化。
• 使用重建误差和解耦度量选择每个因子下最具有信息量的潜在变量，确保对目标因子变化的敏感性。
• 将阈值 τ 设为训练样本 KL 散度值的 75 百分位数，以最小化误报率。
• 在推理阶段，计算测试图像的潜在分布与训练分布之间的 KL 散度；若超过 τ，则标记为 OOD。
• 采用三阶段流程：(1) 数据集划分与超参数调优，(2) β-VAE 训练与潜在变量选择，(3) 使用阈值化 KL 散度实现实时 OOD 检测。

实验结果

研究问题

• RQ1 β-VAE 的潜在空间是否能可靠检测多标签数据集中特定生成因子（如一天中的时间、交通、行人）的分布偏移？
• RQ2 如何将一类 OOD 检测方法适配到标签不互斥的多标签数据集中？
• RQ3 β-VAE 的超参数配置（β 和潜在维度）在何种设置下能为真实世界自动驾驶数据中的 OOD 检测提供最优解耦？
• RQ4 在学习到的潜在空间中，KL 散度作为不同生成因子上检测 OOD 样本的度量是否有效？
• RQ5 是否可以使用单一阈值 τ 在不同场景复杂度下有效工作，而不会导致过多误报？

主要发现

• 对于一天中的时间因子，使用 β=1.8 和 nLatent=30 的 β-VAE 检测器在测试集上实现了 99% 的分布内检测率和 95% 的 OOD 检测率。
• 对于交通密度因子，使用 β=1.6 和 nLatent=30 的检测器实现了 90% 的分布内检测率和 74% 的 OOD 检测率，表明对细微变化的检测性能中等。
• 对于行人因子，检测器实现了 100% 的分布内检测率和 100% 的 OOD 检测率，表明对行人存在/缺失具有高度敏感性。
• 75 百分位数阈值（τ75）在所有子集中均表现最优，能有效最小化误报率并保持高检测率。
• 在背景复杂度较高的场景中性能下降，因为背景特征被编码到所有潜在变量中，导致难以实现因子特定的解耦。
• 当生成因子明显可区分时（如白天/夜晚），该方法对场景复杂度具有鲁棒性；但对如交通密度等细微、依赖上下文的因子则表现困难。