[论文解读] From Statistical Knowledge Bases to Degrees of Belief

Fahiem Bacchus, Adam J. Grove+2 more|ArXiv.org|Jul 24, 2003

Logic, Reasoning, and Knowledge参考文献 62被引用 5

一句话总结

本文提出了随机世界方法，这是一种从整合了统计、一阶、默认及个体特定信息的丰富知识库中推导信念度的系统性方法。通过将等同性原则应用于与知识库一致的所有可能世界，该方法实现了连贯的概率推理，能够捕捉特定性、继承性和独立性等关键模式，并在领域规模趋于无穷大时收敛到稳定的概率。

ABSTRACT

An intelligent agent will often be uncertain about various properties of its environment, and when acting in that environment it will frequently need to quantify its uncertainty. For example, if the agent wishes to employ the expected-utility paradigm of decision theory to guide its actions, it will need to assign degrees of belief (subjective probabilities) to various assertions. Of course, these degrees of belief should not be arbitrary, but rather should be based on the information available to the agent. This paper describes one approach for inducing degrees of belief from very rich knowledge bases, that can include information about particular individuals, statistical correlations, physical laws, and default rules. We call our approach the random-worlds method. The method is based on the principle of indifference: it treats all of the worlds the agent considers possible as being equally likely. It is able to integrate qualitative default reasoning with quantitative probabilistic reasoning by providing a language in which both types of information can be easily expressed. Our results show that a number of desiderata that arise in direct inference (reasoning from statistical information to conclusions about individuals) and default reasoning follow directly {from} the semantics of random worlds. For example, random worlds captures important patterns of reasoning such as specificity, inheritance, indifference to irrelevant information, and default assumptions of independence. Furthermore, the expressive power of the language used and the intuitive semantics of random worlds allow the method to deal with problems that are beyond the scope of many other non-deductive reasoning systems.

研究动机与目标

• 开发一个统一框架，用于从包含统计、一阶、默认及个体层面信息的异构知识库中推导主观概率（信念度）。
• 通过将定性默认推理与定量概率推理相结合，解决现有系统在直接推理和非单调推理方面的局限性。
• 确保推导出的信念度尊重核心推理模式，如特定性、继承性和无关信息的无关性。
• 提供一种语义，能够自然处理超越先前非演绎推理系统能力范围的复杂现实世界推理问题。
• 形式化一种基于极限的概率测度，使其在领域规模增大时收敛到稳定且明确定义的信念度。

提出的方法

• 该方法应用等同性原则，将所有与知识库一致的可能世界视为等可能。
• 它使用基于Bacchus对一阶逻辑的扩展的语言，允许形式化表达如“80%的黄疸患者患有肝炎”之类的陈述。
• 对于有限领域，概率通过一致世界数与总可能世界数的比值计算，并在领域规模趋于无穷大时取极限。
• 该方法定义了一个极限概率测度 $ \Pr_\infty $，其在词汇扩展下保持不变，并确保收敛性。
• 通过世界集合上的双射论证，建立了在知识库一致时，不相交子词汇之间的条件独立性。
• 该方法使用一个参数化函数 $ \delta $ 来计算概率的界限，确保在不确定性区间存在时保持单调性和连续性。

实验结果

研究问题

• RQ1 如何系统地从结合了统计、一阶和默认信息的知识库中推导出信念度？
• RQ2 能否通过单一框架统一直接推理与非单调推理，同时保留特定性与继承性等核心直觉？
• RQ3 随着领域规模增大，随机世界方法是否能产生稳定且收敛的概率？
• RQ4 该方法如何处理不相交知识组件之间的条件独立性？
• RQ5 当仅有区间估计时，该方法能否提供概率的界限？

主要发现

• 随机世界方法确保信念度在领域规模增大时收敛到一个明确定义的极限概率 $ \Pr_\infty $，为决策提供了稳定基础。
• 该方法通过将等可能分配给所有与知识库一致的可能世界，满足等同性原则，从而实现连贯的概率推理。
• 它捕捉了默认推理中的特定性：更具体的信息会覆盖更一般的默认，以决定信念度。
• 该方法尊重继承性：若某个性质在某一类别上成立，则其子类也会继承该性质，除非有具体证据予以覆盖。
• 不相交子词汇之间满足条件独立性：$ \Pr_\infty(\varphi_1 \land \varphi_2 \mid \text{KB}_1 \land \text{KB}_2) = \Pr_\infty(\varphi_1 \mid \text{KB}_1) \cdot \Pr_\infty(\varphi_2 \mid \text{KB}_2) $。
• 当使用区间估计时，该方法通过单调函数 $ \delta $ 计算概率界限，确保结果落在区间 $ [\delta(\alpha_1 - \tau_1, \dots, \alpha_m - \tau_m), \delta(\beta_1, \dots, \beta_m)] $ 内。