[论文解读] Sketching Curvature for Efficient Out-of-Distribution Detection for Deep Neural Networks

Apoorva Sharma, Navid Azizan+1 more|arXiv (Cornell University)|Feb 24, 2021

Adversarial Robustness in Machine Learning参考文献 23被引用 10

一句话总结

SCOD 是一种可扩展的、与架构无关的框架，通过矩阵压缩技术高效近似 Fisher 信息矩阵的主特征子空间，从而实现快速、事后处理的分布外（OoD）检测，通过测量输入相对于训练曲率方向的梯度正交性来衡量输入的异常性。与基于采样的基线方法（如 Deep Ensembles 或 KFAC Laplace）相比，SCOD 在显著更低的计算成本下实现了 SOTA 或相当的 OoD 检测性能。

ABSTRACT

In order to safely deploy Deep Neural Networks (DNNs) within the perception pipelines of real-time decision making systems, there is a need for safeguards that can detect out-of-training-distribution (OoD) inputs both efficiently and accurately. Building on recent work leveraging the local curvature of DNNs to reason about epistemic uncertainty, we propose Sketching Curvature of OoD Detection (SCOD), an architecture-agnostic framework for equipping any trained DNN with a task-relevant epistemic uncertainty estimate. Offline, given a trained model and its training data, SCOD employs tools from matrix sketching to tractably compute a low-rank approximation of the Fisher information matrix, which characterizes which directions in the weight space are most influential on the predictions over the training data. Online, we estimate uncertainty by measuring how much perturbations orthogonal to these directions can alter predictions at a new test input. We apply SCOD to pre-trained networks of varying architectures on several tasks, ranging from regression to classification. We demonstrate that SCOD achieves comparable or better OoD detection performance with lower computational burden relative to existing baselines.

研究动机与目标

• 为解决在实时深度学习系统中高效检测分布外（OoD）输入的挑战。
• 提供一种与任务相关的、事后处理的信念性不确定性度量，可扩展至大型 DNN。
• 避免在不确定性估计中使用蒙特卡洛采样或完整 Hessian 矩阵计算带来的高计算成本。
• 使不确定性估计可应用于任何预训练的 DNN，无论其架构或训练过程如何。
• 通过聚焦于与任务相关的权重空间曲率，提升 OoD 检测性能。

提出的方法

• 离线阶段，SCOD 使用应用于训练数据梯度的矩阵压缩技术，计算 Fisher 信息矩阵的低秩近似。
• 该方法识别 Fisher 矩阵的主特征子空间，代表对模型预测最具影响力的权重方向。
• 在线阶段，通过测量测试输入梯度与训练曲率子空间的正交性，估计输入的异常性。
• 该正交性得分作为标量不确定性度量，指示测试输入与训练分布的距离。
• 该方法避免从后验分布采样，转而使用反向传播和高效的矩阵运算实现实时推理。
• 它将曲率分析限制在最后几层，以提升性能并降低计算负载，尤其适用于大型模型。

实验结果

研究问题

• RQ1 能否使用 Fisher 信息矩阵的低秩近似来高效估计用于 OoD 检测的信念性不确定性？
• RQ2 SCOD 在 AUROC 和推理成本方面与基于采样的方法（如 Deep Ensembles 和 KFAC Laplace）相比表现如何？
• RQ3 将曲率分析聚焦于 DNN 的最后几层是否能提升 OoD 检测性能和效率？
• RQ4 SCOD 是否可应用于任何无需微调的预训练 DNN，无论其架构或训练数据分布如何？
• RQ5 SCOD 的不确定性度量与使用模型输出置信度作为不确定性代理的朴素方法相比表现如何？

主要发现

• SCOD 在所有评估的回归和分类任务（包括 CIFAR10 和 TaxiNet）中，AUROC 得分与 Deep Ensembles 相当或更优。
• 在包含 50,000 个训练样本的 TaxiNet 回归任务中，SCOD 超过了 Local Ensembles，后者因通过小批量估计 Hessian 矩阵导致在大规模数据集上表现不佳。
• SCOD 的不确定性度量无需任何权重采样，因此相比 KFAC Laplace 和 Deep Ensembles，推理开销显著更低。
• 当曲率分析限制在最后几层时，SCOD 在 AUROC 上表现更优且运行速度更快，尤其在 CIFAR10 上，全权重空间分析反而表现不如朴素基线。
• 在分类任务中，SCOD 超过了使用 softmax 置信度作为代理的朴素基线，尽管后者在这些任务上表现良好。
• 该方法对模型架构具有鲁棒性，可事后应用于预训练模型（包括在 CIFAR10 上预训练的 DenseNet121），无需微调。