[论文解读] From Aleatoric to Epistemic: Exploring Uncertainty Quantification Techniques in Artificial Intelligence

Tianyang Wang, Yunze Wang+17 more|arXiv (Cornell University)|Jan 5, 2025

Explainable Artificial Intelligence (XAI)被引用 6

一句话总结

本论文综述人工智能中的不确定性量化（UQ），区分了可变不确定性和知识不确定性，回顾方法、度量和应用，并讨论挑战与未来方向。

ABSTRACT

Uncertainty quantification (UQ) is a critical aspect of artificial intelligence (AI) systems, particularly in high-risk domains such as healthcare, autonomous systems, and financial technology, where decision-making processes must account for uncertainty. This review explores the evolution of uncertainty quantification techniques in AI, distinguishing between aleatoric and epistemic uncertainties, and discusses the mathematical foundations and methods used to quantify these uncertainties. We provide an overview of advanced techniques, including probabilistic methods, ensemble learning, sampling-based approaches, and generative models, while also highlighting hybrid approaches that integrate domain-specific knowledge. Furthermore, we examine the diverse applications of UQ across various fields, emphasizing its impact on decision-making, predictive accuracy, and system robustness. The review also addresses key challenges such as scalability, efficiency, and integration with explainable AI, and outlines future directions for research in this rapidly developing area. Through this comprehensive survey, we aim to provide a deeper understanding of UQ's role in enhancing the reliability, safety, and trustworthiness of AI systems.

研究动机与目标

• 分析包括贝叶斯推理、深度学习、集成方法和生成模型在内的基本UQ方法及其用例
• 讨论UQ在高风险领域如医疗、自动系统和金融中的应用
• 考察计算复杂性、跨域适用性等局限性并识别未来研究瓶颈
• 探索与AI安全和道德整合的可扩展、动态且可解释的UQ未来方向
• 强调UQ在AI系统安全、透明度与公众信任中的作用

提出的方法

• 将UQ技术分为概率方法、集成学习、采样方法、生成模型、确定性方法和混合方法
• 给出基础方程，如预测分布p(y|x, D)和贝叶斯/后验概念p(θ|D)
• 描述变分推断（VI）、蒙特卡洛（MC） dropout，以及深度集成作为实际近似
• 讨论生成模型（VAEs、GANs、正规化流）在建模数据不确定性和潜在空间中的作用
• 解释确定性方法如证据深度学习和基于区间的方法以提高效率
• 强调混合方法和领域特定约束（例如PINNs）以整合知识与物理规律

实验结果

研究问题

• RQ1 AI系统如何在多任务中区分和量化可变不确定性与知识不确定性？
• RQ2 在高风险领域如医疗和自动系统中，哪些不确定性量化方法最能提高决策可靠性？
• RQ3 哪些校准、清晰性（sharpness）和评分指标最能反映跨任务和模态的不确定性质量？
• RQ4 哪些关键挑战阻碍UQ方法的可扩展性、实时性和跨域适用性？
• RQ5 如何将不确定性量化与可解释性AI和领域约束相整合以提升信任与安全？

主要发现

• UQ 技术覆盖概率方法、集成、采样、生成模型和确定性方法，每种方法各有优点和权衡。
• 贝叶斯推断通过预测分布提供一个在理论上能够同时捕捉知识不确定性与可变不确定性的框架。
• 深度集成和基于采样的方法提高鲁棒性但代价更高的计算成本。
• 生成模型和混合方法使在复杂的多模态数据中进行更丰富的不确定性建模成为可能。
• 评估指标包括校准度量（ECE、MCE）、清晰度，以及评分规则（Log Score、CRPS）来评估不确定性质量。
• 在医疗、自治、金融、气候科学和能源等领域的应用展示了UQ在提高安全性、可靠性和信任方面的作用。