[论文解读] Single Layer Predictive Normalized Maximum Likelihood for Out-of-Distribution Detection

Koby Bibas, Meir Feder+1 more|arXiv (Cornell University)|Oct 18, 2021

Adversarial Robustness in Machine Learning被引用 8

一句话总结

本文提出一种新颖的分布外（OOD）检测方法，利用单层神经网络的预测归一化最大似然（pNML）后悔值进行检测，该方法为解析推导，并可无额外参数或数据地适配预训练深度网络。该方法在CIFAR-100、CIFAR-10、SVHN和ImageNet-30的74个基准测试中实现了最先进性能，AUROC最高提升15.6%。

ABSTRACT

Detecting out-of-distribution (OOD) samples is vital for developing machine learning based models for critical safety systems. Common approaches for OOD detection assume access to some OOD samples during training which may not be available in a real-life scenario. Instead, we utilize the {\\em predictive normalized maximum likelihood} (pNML) learner, in which no assumptions are made on the tested input. We derive an explicit expression of the pNML and its generalization error, denoted as the {\\em regret}, for a single layer neural network (NN). We show that this learner generalizes well when (i) the test vector resides in a subspace spanned by the eigenvectors associated with the large eigenvalues of the empirical correlation matrix of the training data, or (ii) the test sample is far from the decision boundary. Furthermore, we describe how to efficiently apply the derived pNML regret to any pretrained deep NN, by employing the explicit pNML for the last layer, followed by the softmax function. Applying the derived regret to deep NN requires neither additional tunable parameters nor extra data. We extensively evaluate our approach on 74 OOD detection benchmarks using DenseNet-100, ResNet-34, and WideResNet-40 models trained with CIFAR-100, CIFAR-10, SVHN, and ImageNet-30 showing a significant improvement of up to 15.6\\% over recent leading methods.

研究动机与目标

• 解决在安全关键型AI系统中，训练阶段未见分布外（OOD）样本时的OOD检测挑战。
• 开发一种理论基础坚实、与分布无关的OOD检测方法，不依赖于对测试数据或模型参数的假设。
• 为单层神经网络推导出pNML后悔值的解析表达式，以支持泛化性分析。
• 将推导出的pNML后悔值适配至任意预训练深度神经网络（带Softmax分类器），仅使用最后一层且无需额外训练。
• 在无需调优或额外数据的情况下，于多样化基准上展示优越的OOD检测性能。

提出的方法

• 推导单层神经网络中pNML后悔值的解析形式，其定义为pNML学习者与已知真实标签的“神谕”（genie）之间对数损失的差异。
• 证明当测试样本位于由训练数据经验相关矩阵的大特征值对应的特征向量张成的子空间中时，pNML后悔值最小。
• 证明当测试样本远离决策边界时，pNML后悔值也较低，表明此时预测具有高置信度。
• 通过将特征表示视为单层分类器的输入，将pNML后悔值适配至预训练深度神经网络的最后一层。
• 将pNML后悔值用作OOD检测的置信度分数，替代或增强标准Softmax概率，无需修改网络结构，也无需额外数据。
• 将该方法应用于DenseNet-100、ResNet-34、WideResNet-40以及ResNet-18/101等模型，在CIFAR-100、CIFAR-10、SVHN和ImageNet-30上进行测试。

实验结果

研究问题

• RQ1 能否为单层神经网络推导出pNML后悔值的解析表达式？在何种条件下其能实现低泛化误差（低后悔）？
• RQ2 当测试输入位于由训练数据高方差方向定义的低维子空间中时，pNML后悔值的行为如何？
• RQ3 pNML后悔值能否在不微调或增加参数的情况下，有效用作深度神经网络中OOD检测的置信度分数？
• RQ4 基于pNML的OOD检测方法是否在多样化的基准数据集和网络架构上优于现有最先进方法？
• RQ5 在高分辨率图像设置（如ImageNet-30）中，pNML后悔值对OOD检测性能有何影响？

主要发现

• 为单层神经网络推导出pNML后悔值的解析表达式，为个体设定框架下的泛化误差提供理论基础坚实度量。
• 当测试样本位于由训练数据经验相关矩阵的大特征值对应的特征向量张成的子空间中时，pNML后悔值较低，表明泛化能力强。
• 当测试样本远离决策边界时，pNML后悔值也较低，表明对这类输入的预测具有高置信度。
• 将pNML后悔值应用于预训练DNN的最后一层，可在74个基准测试中显著提升OOD检测性能，且无需额外参数或数据。
• 该方法在最先进方法基础上实现最高15.6%的AUROC提升，尤其在CIFAR-100搭配iSUN和ImageNet（R）作为OOD数据集时表现突出。
• 在TPR为95%时，pNML方法在CIFAR-100与高斯OOD组合中性能提升达90.4%，在某些情况下实现完美分离。