[论文解读] The Unreasonable Effectiveness of Deep Evidential Regression

N. Meinert, Jakob Gawlikowski+1 more|arXiv (Cornell University)|May 20, 2022

Machine Learning and Algorithms被引用 4

一句话总结

本文研究了深度证据回归（DER），一种通过证据分布在无需采样的情况下估计深度学习中认知不确定性与随机不确定性的方法。尽管其在实验中表现成功，作者揭示了DER本质上是一种启发式方法，存在理论缺陷，其有效性源于预测不确定性的收敛模式，而非基于严谨的不确定性量化。本文提出了更可靠的不确定性估计的修正定义。

ABSTRACT

There is a significant need for principled uncertainty reasoning in machine learning systems as they are increasingly deployed in safety-critical domains. A new approach with uncertainty-aware regression-based neural networks (NNs), based on learning evidential distributions for aleatoric and epistemic uncertainties, shows promise over traditional deterministic methods and typical Bayesian NNs, notably with the capabilities to disentangle aleatoric and epistemic uncertainties. Despite some empirical success of Deep Evidential Regression (DER), there are important gaps in the mathematical foundation that raise the question of why the proposed technique seemingly works. We detail the theoretical shortcomings and analyze the performance on synthetic and real-world data sets, showing that Deep Evidential Regression is a heuristic rather than an exact uncertainty quantification. We go on to discuss corrections and redefinitions of how aleatoric and epistemic uncertainties should be extracted from NNs.

研究动机与目标

• 调查深度证据回归（DER）的理论基础，该方法声称可解耦深度神经网络中的认知不确定性与随机不确定性。
• 识别并分析DER中影响其作为严谨不确定性量化方法可靠性的数学缺陷。
• 在合成数据集和真实世界数据集上评估DER的性能，以检验其不确定性估计的有效性。
• 基于证据推理，为深度神经网络提出认知不确定性和随机不确定性的修正定义与重新定义。
• 阐明尽管存在理论不一致，DER为何仍表现有效，将其成功归因于预测不确定性收敛行为。

提出的方法

• 作者利用证据分布推导DER的理论基础，通过类似于正态-逆伽马（NIG）分布的参数建模不确定性。
• 分析预测不确定性与模型收敛之间的关系，发现DER的性能与训练动态相关，而非真正意义上的不确定性分解。
• 该方法涉及训练深度神经网络以预测证据参数（如均值和方差的证据），并通过闭式表达式计算认知不确定性和随机不确定性。
• 作者将DER与贝叶斯神经网络及蒙特卡洛Dropout进行比较，强调DER无需采样、计算效率高，但也存在理论不一致。
• 在具有已知噪声和样本量影响的合成数据上开展实验，以隔离并测量不确定性类型的解耦效果。
• 基于正确的贝叶斯原则，重新定义认知不确定性为预测分布均值的方差，随机不确定性为期望方差。

实验结果

研究问题

• RQ1 为何深度证据回归在缺乏坚实理论基础的情况下仍能在实践中表现良好？
• RQ2 在存在相关噪声和数据有限的情况下，DER在多大程度上能准确解耦认知不确定性与随机不确定性？
• RQ3 DER中不确定性预测的收敛模式如何与其实验性能相关联？
• RQ4 在深度学习中使用证据分布时，认知不确定性和随机不确定性的正确理论定义是什么？
• RQ5 能否在不依赖采样或分布外数据的前提下，修正DER以实现严谨的不确定性量化？

主要发现

• 深度证据回归并非严谨的不确定性量化方法，而是一种启发式方法，其成功源于训练过程中不确定性预测的有利收敛模式。
• 本文指出，在标准概率假设下，DER对认知不确定性与随机不确定性的分离在数学上缺乏依据，尤其因证据分布的参数化错误所致。
• 在合成数据上，当真实数据生成过程包含异方差噪声或样本量变化时，DER无法正确解耦不确定性类型，表明其不确定性估计泛化能力差。
• 作者证明DER中的认知不确定性未得到正确校准，且其随样本量增长的模式与贝叶斯模型预期不符，严重影响其在安全关键应用中的可靠性。
• 研究表明，原始DER在低数据区域高估认知不确定性，在高数据区域低估认知不确定性，表明其校准性能差。
• 将认知不确定性重新定义为预测均值的方差，随机不确定性重新定义为期望方差，可在受控环境中产生更一致且理论更严谨的不确定性估计。