[论文解读] Belief Revision: A Critique

Nir Friedman, Joseph Y. Halpern|ArXiv.org|Mar 27, 2001

Logic, Reasoning, and Knowledge参考文献 27被引用 57

一句话总结

本文批判了信念修正理论中的基础假设，认为现有方法——尤其是AGM框架——未能充分关注信念状态与观察的本体论基础。文章表明，被视作‘无争议’的后设，如莱曼的I4，当主体对其自身认识状态持有信念时会失效，并主张必须显式建模认识状态以及观察的状态（例如，是否为已知或仅是相信），以确保在迭代修正情境下的理性信念变化。

ABSTRACT

We examine carefully the rationale underlying the approaches to belief change taken in the literature, and highlight what we view as methodological problems. We argue that to study belief change carefully, we must be quite explicit about the ``ontology'' or scenario underlying the belief change process. This is something that has been missing in previous work, with its focus on postulates. Our analysis shows that we must pay particular attention to two issues that have often been taken for granted: The first is how we model the agent's epistemic state. (Do we use a set of beliefs, or a richer structure, such as an ordering on worlds? And if we use a set of beliefs, in what language are these beliefs are expressed?) We show that even postulates that have been called ``beyond controversy'' are unreasonable when the agent's beliefs include beliefs about her own epistemic state as well as the external world. The second is the status of observations. (Are observations known to be true, or just believed? In the latter case, how firm is the belief?) Issues regarding the status of observations arise particularly when we consider iterated belief revision, and we must confront the possibility of revising by p and then by not-p.

研究动机与目标

• 挑战AGM后设普遍有效的假设，而未阐明信念变化背后的本体论基础。
• 指出将信念修正后设视为不证自明的方法论缺陷，而未明确说明主体认识状态的本质以及信息来源的状态。
• 主张信念关于世界与信念关于自身认识状态之间的区别，会使得一些广为接受的后设（如莱曼的I4）失效。
• 倡导在信念修正框架中显式建模认识状态（例如，作为可能世界上的序关系）以及观察状态（例如，已知与相信之别）。
• 提出未来研究必须形式化信念变化背后的场景或本体论，而非仅依赖后设与表示定理。

提出的方法

• 分析AGM框架假设信念状态由信念集（逻辑语言中的公式集合）表示，并批判此假设在认识结构表达上过于不明确。
• 考察观察的状态——即它们是否被确知为真，还是仅被相信——并表明此区别对修正后设的有效性具有关键影响。
• 使用反例表明，当主体具有自指信念（如关于自身信念状态的信念）时，如莱曼的I4等后设会失效。
• 提出替代本体论，其中观察不被假定为已知，例如基于随机过程的模型，为不同世界中的观察分配先验可置信度。
• 引入一种框架，其中信念修正涉及基于公式在每种世界中被观察的可能性及其先验可置信度，来更新可置信度度量。
• 将批判延伸至信念更新（Katsuno和Mendelzon）情境，表明类似本体论问题同样存在，且在更新中假设观察为已知的假设问题较小。

实验结果

研究问题

• RQ1 为何一些广为接受的信念修正后设（如莱曼的I4）在主体对其自身认识状态持有信念时会失效？
• RQ2 假设观察被确知为真，如何影响迭代信念修正的合理性？
• RQ3 信念变化过程的本体论——特别是认识状态的本质与观察状态——在验证修正后设中起什么作用？
• RQ4 能否通过显式建模观察中的不确定性而非假设其为已知，使信念修正框架更具鲁棒性？
• RQ5 基于随机观察过程的替代本体论（如对在世界w中观察φ的可置信度建模）如何改善动态环境中信念变化的建模？

主要发现

• 此前被认为无争议的后设（如莱曼的I4）在主体持有自身认识状态信念时被证明无效，从而削弱了其普遍适用性。
• 假设观察被确知为真，会导致迭代修正中出现不一致，尤其在先以φ再以¬φ进行修正时，除非认识状态被建模得比简单信念集更丰富。
• 仅靠信念集不足以建模理性信念变化；必须使用更丰富的结构，如可能世界上的序关系或可置信度度量，才能捕捉信念修正的动力学。
• 当观察被视为被相信而非已知时，必须量化对观察信念的牢固程度，但标准框架中并未提供此类量化的合理方法。
• 基于随机过程的替代本体论（其中在世界w中观察φ的可置信度被建模）可支持更细致的信念修正，并允许在存在冲突观察时仍保持一致的迭代修正。
• 该批判不仅适用于信念修正，也延伸至非单调逻辑与信念更新，表明类似本体论模糊性同样会削弱这些框架中后设的合理性。