[论文解读] Strength Factors: An Uncertainty System for a Quantified Modal Logic

Naveen Sundar Govindarajulu, Selmer Bringsjord|arXiv (Cornell University)|May 30, 2017

Logic, Reasoning, and Knowledge参考文献 8被引用 5

一句话总结

本文提出了一种新颖的不确定性系统 $σ$，用于一阶模态逻辑，该系统结合了概率论与证明论，以量化信念强度与合理性，其基础源于 Chisholm 的认识论。该系统支持对不确定信念的结构化处理、反事实推理以及人类可读的解释——通过乐透悖论与代理推理系统中的信念辩护得到验证。

ABSTRACT

We present a new system S for handling uncertainty in a quantified modal logic (first-order modal logic). The system is based on both probability theory and proof theory. The system is derived from Chisholm's epistemology. We concretize Chisholm's system by grounding his undefined and primitive (i.e. foundational) concept of reasonablenes in probability and proof theory. S can be useful in systems that have to interact with humans and provide justifications for their uncertainty. As a demonstration of the system, we apply the system to provide a solution to the lottery paradox. Another advantage of the system is that it can be used to provide uncertainty values for counterfactual statements. Counterfactuals are statements that an agent knows for sure are false. Among other cases, counterfactuals are useful when systems have to explain their actions to users. Uncertainties for counterfactuals fall out naturally from our system. Efficient reasoning in just simple first-order logic is a hard problem. Resolution-based first-order reasoning systems have made significant progress over the last several decades in building systems that have solved non-trivial tasks (even unsolved conjectures in mathematics). We present a sketch of a novel algorithm for reasoning that extends first-order resolution. Finally, while there have been many systems of uncertainty for propositional logics, first-order logics and propositional modal logics, there has been very little work in building systems of uncertainty for first-order modal logics. The work described below is in progress; and once finished will address this lack.

研究动机与目标

• 开发一种实用的不确定性系统，用于量化模态逻辑，支持认知代理中的迭代信念与反事实推理。
• 将 Chisholm 抽象的认识论概念“合理性”建立在形式化概率与证明论机制的基础之上。
• 构建一个系统，能够生成直观、人类可读的解释以表达不确定性，避免向非专家用户暴露原始概率值。
• 支持为反事实陈述分配不确定性值——即对已知为假的过去或假设性情境的信念。
• 支持需要信念强度辩护的应用，如道德推理、伦理决策以及人机交互。

提出的方法

• 扩展了微认知演算（$\mathcal{\mu C}$），即道义认知事件演算（$\mathcal{DCEC}$）的一个子集，引入了信念（$\mathbf{B}$）与感知（$\mathbf{P}$）的模态算子。
• 引入强度因子 $\delta^a_t(\Gamma, \Gamma')$，用于基于度量 $\rho$ 下的最小变化，衡量信念集 $\Gamma$ 与一个一致的替代信念集 $\Gamma'$ 之间的距离。
• 通过三个条件定义合理性：(1) $\delta^a_t(\Gamma, \Gamma_1) < \delta^a_t(\Gamma, \Gamma_2)$，(2) $\rho(\Gamma, \Gamma_1) < \rho(\Gamma, \Gamma_2)$，以及 (3) $\pi(\Gamma, \Gamma_1) < \pi(\Gamma, \Gamma_2)$，其中 $\pi$ 衡量证明的复杂度。
• 使用基础概率函数 $\mathbf{Pr}$ 为命题分配可能性，该值随后用于合理性比较。
• 通过展示即使单个彩票中奖概率极低，但因信念集的一致性与最小偏离，认为某张彩票非中奖者是合理的，从而在乐透悖论中应用该系统。
• 通过比较信念强度使用合理性框架，生成解释模板，使代理能够以自然语言形式解释信念。

实验结果

研究问题

• RQ1 如何在一阶模态逻辑中，利用概率论与证明论形式化 Chisholm 认识论中的“合理性”概念？
• RQ2 是否能够构建一个统一系统，以量化迭代信念与反事实推理中的不确定性，同时保持对非专家用户的可解释性？
• RQ3 如何为已知为假的反事实陈述分配不确定性值，使其在解释与推理中仍具意义？
• RQ4 何种机制可实现高层次、人类可理解的信念强度解释，而无需暴露原始概率值？
• RQ5 在 $\delta$ 度量下，高效计算最小信念集变化（$\min_{\langle\Theta,\Lambda\rangle}$）时会面临哪些计算挑战，以及如何解决？

主要发现

• 系统 $\mathcal{S}$ 通过证明即使单个彩票中奖概率极低，认为某张彩票非中奖者是合理的，成功解决了乐透悖论，原因在于信念集的一致性与最小偏离。
• 反事实陈述——如“若我未采取行动，则 $\phi$ 本会发生”—可通过合理性框架分配不确定性值，即使其命题已知为假。
• 强度因子 $\delta^a_t(\Gamma, \Gamma')$ 实现了对信念集的正式比较，使系统能够基于与当前信念状态的最小偏离，判断哪个信念更合理。
• 将概率（$\mathbf{Pr}$）、证明复杂度（$\pi$）与信念集距离（$\rho$）整合为统一的合理性度量，提供了多维度的不确定性量化方法。
• 通过比较强度因子可生成解释模板，使代理能够使用直观标准（如“该信念更合理，因为它对当前信念集的改动更少”）来解释信念。
• 系统通过一阶逻辑对模态信念表达式的翻译，支持可处理的推理，使标准一阶定理证明器得以应用，尽管高效近似推理仍是未来需解决的挑战。