[论文解读] Measuring Orthogonality as the Blind-Spot of Uncertainty Disentanglement

Ivo Pascal de Jong, Andreea Ioana Sburlea+2 more|ArXiv.org|Aug 22, 2024

Clinical Laboratory Practices and Quality ControlMedicine被引用 3

一句话总结

本文提出了一套全面的实验框架，用于评估不确定性量化（UQ）方法中随机性不确定性和认知性不确定性之间的解耦程度。通过受控的数据操作——数据集大小、分布外（OoD）样本和标签噪声——表明，信息论方法和高斯 logits 方法均未能完全分离这两种不确定性类型，其中前者表现更优但仍不完美。

ABSTRACT

Aleatoric (data) and epistemic (knowledge) uncertainty are textbook components of Uncertainty Quantification. Jointly estimating these components has been shown to be problematic and non-trivial. As a result, there are multiple ways to disentangle these uncertainties, but current methods to evaluate them are insufficient. We propose that aleatoric and epistemic uncertainty estimates should be orthogonally disentangled - meaning that each uncertainty is not affected by the other - a necessary condition that is often not met. We prove that orthogonality and consistency and necessary and sufficient criteria for disentanglement, and construct Uncertainty Disentanglement Error as a metric to measure these criteria, with further empirical evaluation showing that finetuned models give different orthogonality results than models trained from scratch and that UDE can be optimized for through dropout rate. We demonstrate a Deep Ensemble trained from scratch on ImageNet-1k with Information Theoretic disentangling achieves consistent and orthogonal estimates of epistemic uncertainty, but estimates of aleatoric uncertainty still fail on orthogonality.

研究动机与目标

• 为解决当前 UQ 方法中随机性与认知性不确定性是否真正实现解耦的问题，缺乏实证验证。
• 确定现有不确定性量化方法是否能可靠地分离不确定性来源，以满足下游决策的需求。
• 建立一个标准化、理论基础坚实的实验基准，用于评估未来 UQ 方法中解耦质量。
• 探究不确定性解耦的理论局限性是否在真实和合成数据上的实际模型行为中显现。

提出的方法

• 设计一组受控实验，通过操纵数据集大小、分布外（OoD）输入和标签噪声，以隔离随机性或认知性不确定性变化的影响。
• 应用两种主流 UQ 方法——信息论方法和高斯 logits 方法——在贝叶斯神经网络上，并测量预测不确定性响应。
• 使用 MC-Dropout、MC-DropConnect 和 Deep Ensembles 作为推理方法，评估不同模型变体下的不确定性估计性能。
• 通过测量预测的随机性不确定性是否对认知性不确定性操纵产生响应（反之亦然），在受控的真实条件下评估解耦程度。
• 将解耦定义为：当真实底层不确定性彼此不相关时，预测的不确定性之间也无相关性。
• 将该框架应用于合成数据集和真实世界数据集，以测试评估协议的泛化能力和鲁棒性。

(a) Aleatoric

实验结果

研究问题

• RQ1 当前 UQ 方法在实践中对随机性与认知性不确定性的解耦程度如何？
• RQ2 在受控的数据集大小和标签噪声操纵下，信息论方法与高斯 logits 方法表现如何？
• RQ3 预测的随机性不确定性是否在 OoD 样本上增加，与理论预期相反？
• RQ4 当真实认知性不确定性保持不变时，预测的认知性不确定性是否会受到随机性不确定性变化的影响？
• RQ5 所提出的实验框架能否作为未来解耦不确定性方法的可靠基准？

主要发现

• 信息论方法实现的解耦优于高斯 logits 方法，但两种方法均未能完全分离随机性与认知性不确定性。
• 两种方法均表现出显著的交叉污染：仅操纵随机性不确定性时，预测的认知性不确定性仍会上升，反之亦然。
• 高斯 logits 方法在 MC-Dropout 和 MC-DropConnect 设置下未能正确反映认知性不确定性的变化，尽管在 Deep Ensembles 设置下表现更优。
• 两种方法在 OoD 样本上均表现出随机性不确定性增加，这与理论预期相反。
• Wimmer 等人（2023）提出的理论局限性在实践中显现：在最大随机性不确定性下，认知性不确定性预测会失效。
• 所提出的实验框架为任何旨在分离不确定性来源的 UQ 方法提供了稳健且标准化的基准，用于评估解耦质量。

(b) Epistemic