[论文解读] Quantifying Classification Uncertainty using Regularized Evidential Neural Networks

Xujiang Zhao, Yuzhe Ou+3 more|arXiv (Cornell University)|Oct 15, 2019

Adversarial Robustness in Machine Learning参考文献 13被引用 13

一句话总结

本文提出正则化证据神经网络（正则化 ENN），通过在训练过程中应用有针对性的正则化，显式建模两类数据不确定性——空缺性（缺乏证据）和不一致度（冲突证据）。该方法在分类任务中提升了分布外检测和不确定性量化性能，实验表明，同时针对空缺性和不一致度进行正则化的 ENN-Vac-Diss 模型，在不确定性估计和未知类别识别方面优于基线 ENN 和标准神经网络。

ABSTRACT

Traditional deep neural nets (NNs) have shown the state-of-the-art performance in the task of classification in various applications. However, NNs have not considered any types of uncertainty associated with the class probabilities to minimize risk due to misclassification under uncertainty in real life. Unlike Bayesian neural nets indirectly infering uncertainty through weight uncertainties, evidential neural networks (ENNs) have been recently proposed to support explicit modeling of the uncertainty of class probabilities. It treats predictions of an NN as subjective opinions and learns the function by collecting the evidence leading to these opinions by a deterministic NN from data. However, an ENN is trained as a black box without explicitly considering different types of inherent data uncertainty, such as vacuity (uncertainty due to a lack of evidence) or dissonance (uncertainty due to conflicting evidence). This paper presents a new approach, called a {\em regularized ENN}, that learns an ENN based on regularizations related to different characteristics of inherent data uncertainty. Via the experiments with both synthetic and real-world datasets, we demonstrate that the proposed regularized ENN can better learn of an ENN modeling different types of uncertainty in the class probabilities for classification tasks.

研究动机与目标

• 解决传统深度神经网络和标准证据神经网络中缺乏对固有数据不确定性类型（如空缺性和不一致度）的显式建模问题。
• 通过针对空缺性和不一致度维度定制的正则化技术，改进分类任务中的不确定性量化。
• 通过结构化不确定性正则化学习更可靠的主观意见估计，从而提升分布外（OOD）检测性能。
• 在合成数据集和真实世界数据集（包括 CIFAR-10）上验证所提出的正则化 ENN 框架的有效性。

提出的方法

• 该方法通过引入显式惩罚或鼓励特定不确定性特征（空缺性和不一致度）的正则化项，扩展了证据神经网络（ENNs）的训练过程。
• 空缺性正则化通过惩罚远离训练数据区域的置信度，鼓励对分布外样本产生高不确定性（低证据）。
• 不一致度正则化在类别之间的模糊或边界区域促进更高的不一致度，以反映多类别间证据的冲突。
• 模型使用狄利克雷分布表示主观意见（类别概率），并通过确定性神经网络更新证据参数。
• 正则化通过修改标准 ENN 损失的损失函数实现，以在特定数据区域中强调空缺性和不一致度。
• 该方法通过交叉熵和不确定性感知损失组件进行端到端训练，超参数经调优以实现最优不确定性估计。

实验结果

研究问题

• RQ1 对空缺性进行显式正则化是否能提升证据神经网络的分布外检测性能？
• RQ2 引入不一致度正则化是否能实现对分类预测中冲突证据更准确的建模？
• RQ3 空缺性和不一致度正则化在合成数据集和真实世界数据集中的不确定性量化能力如何比较？
• RQ4 对空缺性和不一致度进行联合正则化是否能获得优于单独或基线方法的整体不确定性估计性能？
• RQ5 分布外训练样本的选择对空缺性估计准确性有何影响？

主要发现

• 同时正则化空缺性和不一致度的 ENN-Vac-Diss 模型在分布外检测中优于所有基线模型，证明了建模多种不确定性维度的优势。
• ENN-Vac 在远离训练数据的区域对分布外样本表现出显著更高的空缺性，证实了空缺性正则化在提升 OOD 检测方面的有效性。
• ENN-Diss 在类别边界区域产生更高的不一致度值，表明其在检测分类决策中模糊或冲突证据方面表现更优。
• 在 CIFAR-10 数据集上，预测熵的实证累积分布函数（CDF）显示，ENN-Vac 的熵显著高于 ENN 和 Softmax，尤其在 OOD 样本中，表明其不确定性更高。
• 选择合适的分布外训练样本对空缺性估计的准确性至关重要，不当的 OOD 样本选择会导致空缺性水平不理想。