[论文解读] Probability Judgement in Artificial Intelligence

Glenn Shafer|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference参考文献 2被引用 10

一句话总结

本文在人工智能背景下比较了贝叶斯概率论与Dempster-Shafer信任函数理论，通过基础示例说明其在专家系统中的应用。它强调了两种框架的历史渊源，并讨论了实现中的挑战，确立了信任函数作为处理人工智能系统中不确定性的贝叶斯推理的可行替代方案。

ABSTRACT

This paper is concerned with two theories of probability judgment: the Bayesian theory and the theory of belief functions. It illustrates these theories with some simple examples and discusses some of the issues that arise when we try to implement them in expert systems. The Bayesian theory is well known; its main ideas go back to the work of Thomas Bayes (1702-1761). The theory of belief functions, often called the Dempster-Shafer theory in the artificial intelligence community, is less well known, but it has even older antecedents; belief-function arguments appear in the work of George Hooper (16401723) and James Bernoulli (1654-1705). For elementary expositions of the theory of belief functions, see Shafer (1976, 1985).

研究动机与目标

• 考察人工智能中不确定性两大主流方法——贝叶斯概率与信任函数——的理论基础与实际实现。
• 阐明Dempster-Shafer理论的历史发展与哲学基础，该理论在人工智能中正式化之前已有渊源。
• 识别并分析在专家系统中应用这两种理论时出现的挑战，特别是关于不确定信念的表示与更新问题。
• 提供一个系统性的比较框架，以理解在何种情境下以及为何一种方法可能优于另一种方法在人工智能应用中的表现。
• 为研究者探索通过形式化概率与信任结构进行人工智能不确定性建模提供基础参考。

提出的方法

• 使用基础示例对比贝叶斯更新与信任函数组合，强调证据聚合方式上的差异。
• 应用信任函数的数学框架，即质量分配被赋予焦实（frame of discernment）的子集，而非单一事件。
• 通过Dempster组合规则说明信任函数的组合，该规则将贝叶斯定理推广至处理部分或不精确证据的情形。
• 引用历史资料（如Hooper与Bernoulli）表明，信任函数推理早于现代贝叶斯理论出现。
• 回顾信任函数的形式结构，包括对焦实子集A的质量函数m(A)，其中m(∅) = 0且∑m(A) = 1。
• 从一致性、连贯性以及专家系统设计中的计算可处理性角度比较两种理论。

实验结果

研究问题

• RQ1 贝叶斯概率与信任函数在处理不确定性和证据组合方面有何不同？
• RQ2 Dempster-Shafer理论的历史先驱是什么？这些先驱如何影响其在人工智能中的应用？
• RQ3 在专家系统中实现信任函数或贝叶斯推理时会遇到哪些实际挑战？
• RQ4 当证据不完整或存在冲突时，信任函数相较于贝叶斯方法有何优势？
• RQ5 如何系统性地应用这两种框架来建模人工智能中的不确定推理？

主要发现

• 尽管Dempster-Shafer理论不如贝叶斯理论广为人知，但其历史渊源更为深远，早期形式可见于Hooper与Bernoulli的著作中。
• 信任函数通过向集合分配质量，能够表示无知与部分信念，而贝叶斯理论仅对单一事件分配概率。
• 通过Dempster规则组合信任函数，可对贝叶斯条件化进行推广，从而支持在证据不完整或冲突时的推理。
• 尽管具有理论优势，但在专家系统中实现信任函数仍面临计算复杂性与质量函数解释方面的挑战。
• 本文确立了贝叶斯与信任函数框架在人工智能不确定性建模中均具有效性，但其选择取决于可用证据的性质与系统需求。
• 该工作1985年UAI会议论文版本至今仍是理解两种方法在哲学与技术层面区别的权威参考文献。