[论文解读] A Survey on Uncertainty Reasoning and Quantification for Decision Making: Belief Theory Meets Deep Learning

Zhen Guo, Zelin Wan+8 more|arXiv (Cornell University)|Jun 12, 2022

Bayesian Modeling and Causal Inference被引用 10

一句话总结

本综述通过系统分析不确定性推理与量化方法——特别是 Dezert-Smarandache 理论（DSmT）、Dempster-Shafer 理论（DST）和可转移信任模型（TBM）——在深度学习中的应用，弥合了信念理论与深度学习之间的鸿沟，以增强在复杂不确定性下的决策能力。该综述提出了证据神经网络（Evidential DNNs）、模糊神经网络（Fuzzy DNNs）和粗糙神经网络（Rough DNNs）作为混合框架，将信念结构与深度学习相结合，实现对现实世界人工智能应用中不确定性的稳健建模。

ABSTRACT

An in-depth understanding of uncertainty is the first step to making effective decisions under uncertainty. Deep/machine learning (ML/DL) has been hugely leveraged to solve complex problems involved with processing high-dimensional data. However, reasoning and quantifying different types of uncertainties to achieve effective decision-making have been much less explored in ML/DL than in other Artificial Intelligence (AI) domains. In particular, belief/evidence theories have been studied in KRR since the 1960s to reason and measure uncertainties to enhance decision-making effectiveness. We found that only a few studies have leveraged the mature uncertainty research in belief/evidence theories in ML/DL to tackle complex problems under different types of uncertainty. In this survey paper, we discuss several popular belief theories and their core ideas dealing with uncertainty causes and types and quantifying them, along with the discussions of their applicability in ML/DL. In addition, we discuss three main approaches that leverage belief theories in Deep Neural Networks (DNNs), including Evidential DNNs, Fuzzy DNNs, and Rough DNNs, in terms of their uncertainty causes, types, and quantification methods along with their applicability in diverse problem domains. Based on our in-depth survey, we discuss insights, lessons learned, limitations of the current state-of-the-art bridging belief theories and ML/DL, and finally, future research directions.

研究动机与目标

• 为弥合成熟信念/证据理论与现代深度学习之间的鸿沟，以实现决策中有效不确定性推理。
• 识别并分析挑战可靠人工智能决策的不确定性根源与类型，如空缺性（vacuity）、模糊性（vagueness）和不一致（discord）等。
• 评估信念理论（如 DST、DSmT、TBM、IDM）在深度神经网络中建模认知不确定性、随机不确定性与结构不确定性的适用性。
• 提出统一框架以量化深度学习中的多维不确定性，尤其针对时间序列和结构化预测任务。
• 通过识别当前不确定性度量的局限性，并基于数据生成过程与对抗鲁棒性提出新的评估标准，为未来研究提供指导。

提出的方法

• 综述基础信念理论，包括 Dezert-Smarandache 理论（DSmT）、Dempster-Shafer 理论（DST）、可转移信任模型（TBM）和内在分歧度量（IDM），分析其处理不确定性的机制。
• 提出三种混合深度学习架构：证据神经网络（Evidential DNNs，将信念理论与 DNN 结合以实现不确定性量化）、模糊神经网络（Fuzzy DNNs，将模糊逻辑与 DNN 结合以处理模糊性）和粗糙神经网络（Rough DNNs，利用粗糙集理论处理不完整信息）。
• 将信念函数应用于融合多个来源或时间步的主观意见，尤其在时间序列与顺序决策场景中。
• 提出信念理论中的融合算子（如合取或析取组合规则），用于聚合预测结果或时间序列数据点的不确定性。
• 通过误分类检测与分布外样本检测任务评估不确定性估计，尽管承认不确定性度量缺乏真实标签。
• 将信念模型与深度强化学习结合，实现在零先验知识条件下的决策，利用 IDM 在无先验假设下推导信念的能力。

实验结果

研究问题

• RQ1 如何有效应用 DST、DSmT 和 TBM 等信念理论来建模和量化深度学习中的不同类型不确定性？
• RQ2 证据神经网络、模糊神经网络与粗糙神经网络在不确定性表征与传播方面有何关键差异？
• RQ3 基于信念的不确定性量化方法在面对冲突、不完整或欺骗性数据时，如何提升决策的鲁棒性？
• RQ4 当前深度学习中不确定性度量的局限性是什么？信念理论如何有助于构建更有效且可解释的评估框架？
• RQ5 信念模型在何种方式下可被扩展以处理时间依赖性及结构化预测任务（如机器翻译或命名实体识别）？

主要发现

• 仅有少数研究成功将信念理论与深度学习相结合，表明这是不确定性感知人工智能中一个尚处起步但前景广阔的前沿领域。
• 证据神经网络（Evidential DNNs）、模糊神经网络（Fuzzy DNNs）与粗糙神经网络（Rough DNNs）为在深度学习中嵌入不确定性推理提供了切实可行的路径，各自针对冲突（discord）、模糊性（vagueness）与证据缺失（vacuity）等不同类型不确定性。
• 内在分歧度量（IDM）可在无先验知识条件下实现决策，特别适用于未知环境中强化学习的应用。
• 当前的不确定性估计方法大多局限于单一预测（如图像分类），由于忽略了时间依赖性，对时间序列或序列数据的支持极为有限。
• 亟需开发新型不确定性度量，通过建模底层数据生成过程来验证不确定性估计，尤其针对定性或模糊标签。
• 对抗性攻击会显著提高不确定性，表明应在不确定性量化之前先检测此类攻击，以减少决策流程中的噪声与虚假信息。