[论文解读] Intra Order-preserving Functions for Calibration of Multi-Class Neural Networks

Amir Rahimi, Amirreza Shaban+3 more|arXiv (Cornell University)|Mar 15, 2020

Anomaly Detection Techniques and Applications参考文献 11被引用 21

一句话总结

本文提出了一种内部顺序保持函数——一种可学习的校准函数，能够在多分类神经网络中保持类别得分的相对排序。通过强制输出顺序与输入顺序一致，该方法确保了top-k预测结果不变，同时支持表达性强、可微分的神经网络架构，在多种数据集和模型上均优于温度缩放和狄利克雷校准方法。

ABSTRACT

Predicting calibrated confidence scores for multi-class deep networks is important for avoiding rare but costly mistakes. A common approach is to learn a post-hoc calibration function that transforms the output of the original network into calibrated confidence scores while maintaining the network's accuracy. However, previous post-hoc calibration techniques work only with simple calibration functions, potentially lacking sufficient representation to calibrate the complex function landscape of deep networks. In this work, we aim to learn general post-hoc calibration functions that can preserve the top-k predictions of any deep network. We call this family of functions intra order-preserving functions. We propose a new neural network architecture that represents a class of intra order-preserving functions by combining common neural network components. Additionally, we introduce order-invariant and diagonal sub-families, which can act as regularization for better generalization when the training data size is small. We show the effectiveness of the proposed method across a wide range of datasets and classifiers. Our method outperforms state-of-the-art post-hoc calibration methods, namely temperature scaling and Dirichlet calibration, in several evaluation metrics for the task.

研究动机与目标

• 为解决深度神经网络中的校准偏差问题，即高置信度预测往往缺乏可靠性，尤其是在高风险应用场景中。
• 开发一种灵活但受约束的校准函数族，以保持任意预训练网络的top-k预测结果。
• 通过引入顺序不变和对角子族，在校准数据集较小的情况下提升泛化能力。
• 设计一种神经网络架构，利用标准组件表示复杂的内部顺序保持函数。
• 在校准误差和鲁棒性方面优于现有的后处理校准方法，如温度缩放和狄利克雷校准。

提出的方法

• 引入内部顺序保持函数的概念，即在所有维度上，输入logits的相对顺序在输出logits中得以保持。
• 提出一种由标准层（如MLP、归一化层）组成的神经网络架构，其本身天然满足内部顺序保持特性。
• 定义两个子族：顺序不变函数（对输入顺序排列具有置换等变性）和对角函数（对每个类别独立应用相同变换）。
• 使用单纯形域来可视化和约束函数行为，缩小假设空间，提升泛化能力。
• 采用可微分的训练目标，在保留的校准集上学习校准函数，同时保持网络准确率。
• 通过将任意预训练深度网络的最后softmax层替换为学习到的校准函数，实现后处理应用。

实验结果

研究问题

• RQ1 能否设计一种通用的、可学习的校准函数，以保持任意深度网络的top-k预测结果？
• RQ2 如何约束校准函数的假设空间，以在有限校准数据下提升泛化能力？
• RQ3 哪些架构设计与归纳偏置选择（如顺序不变性、对角性）能带来更好的校准性能？
• RQ4 内部顺序保持函数架构是否优于现有的后处理校准方法（如温度缩放和狄利克雷校准）？
• RQ5 所提出的方法是否能在多种数据集和模型架构上，在保持高准确率的同时显著降低校准误差？

主要发现

• 所提出的内部顺序保持（OP）方法在所有数据集上的平均边际校准误差最低，相对误差为0.213，而次优方法为0.725。
• 顺序不变（OI）子族在12个数据集中的7个上表现最佳，包括CIFAR-100和ImageNet。
• 在CIFAR-100数据集上使用DenseNet-40时，OI方法将边际校准误差降低至0.00000，甚至优于未经校准的基线模型。
• 该方法在所有数据集上均一致降低了期望校准误差（ECE），OI变体在12个基准中的8个上达到最低ECE。
• 对角（Diag）变体在小样本校准集上表现强劲，表明通过减少参数共享可提升泛化能力。
• 在边际校准误差方面，OI方法相比未经校准的基线模型平均相对误差降低72.5%，显著优于温度缩放和狄利克雷校准。