[논문 리뷰] Belief Revision: A Critique

Nir Friedman, Joseph Y. Halpern|ArXiv.org|2001. 03. 27.

Logic, Reasoning, and Knowledge참고 문헌 27인용 수 57

한 줄 요약

이 논문은 믿음 수정 이론의 기초가 되는 가정을 비판하며, 기존 접근 방식—특히 AGM 프레임워크—가 믿음 상태와 관찰의 기초가 되는 온토로지에 충분한 주목을 기울이지 못하고 있다고 주장한다. 믿음 상태에 대해 자신의 인지 상태에 대한 믿음을 가진 에이전트의 경우, '논란의 여지가 없는' 것으로 여겨졌던 후행 조건들, 예를 들어 레만의 I4 조건이 실패함을 보이며, 반복적 수정 상황에서 합리적인 믿음 변화를 보장하기 위해 믿음 상태와 관찰의 상태(예: 알려져 있는지 단지 믿고 있는지)를 명시적으로 모델링할 것을 주장한다.

ABSTRACT

We examine carefully the rationale underlying the approaches to belief change taken in the literature, and highlight what we view as methodological problems. We argue that to study belief change carefully, we must be quite explicit about the ``ontology'' or scenario underlying the belief change process. This is something that has been missing in previous work, with its focus on postulates. Our analysis shows that we must pay particular attention to two issues that have often been taken for granted: The first is how we model the agent's epistemic state. (Do we use a set of beliefs, or a richer structure, such as an ordering on worlds? And if we use a set of beliefs, in what language are these beliefs are expressed?) We show that even postulates that have been called ``beyond controversy'' are unreasonable when the agent's beliefs include beliefs about her own epistemic state as well as the external world. The second is the status of observations. (Are observations known to be true, or just believed? In the latter case, how firm is the belief?) Issues regarding the status of observations arise particularly when we consider iterated belief revision, and we must confront the possibility of revising by p and then by not-p.

연구 동기 및 목표

• AGM 조건들이 믿음 변화의 기초 온토로지를 명확히 하지 않은 채 보편적으로 타당하다고 보는 가정을 도전한다.
• 에이전트의 인지 상태의 성격과 도착 정보의 상태를 명시하지 않은 채 믿음 수정 조건들을 자명시하는 데서 발생하는 방법론적 결함을 부각한다.
• 세계에 대한 믿음과 자신의 인지 상태에 대한 믿음 사이의 구분이, 레만의 I4와 같은 널리 수용된 조건들을 무효화함을 주장한다.
• 믿음 수정 프레임워크에서 인지 상태(예: 가능한 세계들 위의 순서)와 관찰 상태(예: 알려져 있는지 믿고 있는지)를 명시적으로 모델링할 것을 주장한다.
• 미래 연구는 후행 조건들과 표현 정리에만 의존하기보다는 믿음 변화의 배경이 되는 시나리오 또는 온토로지를 형식화해야 한다고 제안한다.

제안 방법

• 믿음 상태가 논리 언어의 공식 집합인 믿음 집합으로 표현된다고 가정하는 AGM 프레임워크의 전제를 분석하고, 이는 인지적 구조에 대해 충분히 명확하지 않다고 비판한다.
• 관찰의 상태—즉, 그것이 참으로 알려져 있는지 단지 믿고 있는지—를 분석하고, 이 구분이 수정 조건의 타당성에 결정적인 영향을 미친다는 것을 보여준다.
• 반례를 통해 에이전트가 자기 자신의 믿음 상태에 대한 믿음을 가진 경우, 예를 들어 레만의 I4와 같은 조건들이 실패함을 입증한다.
• 관찰이 알려져 있다고 가정하지 않는 대안적 온토로지, 예를 들어 서로 다른 세계들에서 관찰의 사전 가능성에 대한 확률적 가설을 부여하는 확률 과정 기반 모델을 제안한다.
• 각 세계에서 공식 φ를 관찰할 가능성과 그 세계에서의 사전 가능성에 기반해 가능성 측도를 업데이트하는 믿음 수정 프레임워크를 도입한다.
• 믿음 업데이트(Katsuno와 Mendelzon)에도 이 비판을 적용하여, 유사한 온토로지적 문제들이 발생하며, 관찰을 알려져 있다고 가정하는 것이 업데이트에서는 수정보다 덜 문제시됨을 보여준다.

실험 결과

연구 질문

• RQ1 왜 믿음 상태에 대해 자신의 인지 상태에 대한 믿음을 가진 에이전트의 경우, 널리 수용된 믿음 수정 조건들, 예를 들어 레만의 I4가 실패하는가?
• RQ2 관찰이 참으로 알려져 있다고 가정할 경우, 반복적 믿음 수정의 합리성에 어떤 영향을 미치는가?
• RQ3 믿음 변화 과정의 온토로지—특히 인지 상태의 성격과 관찰의 상태—는 왜 수정 조건의 타당성을 결정짓는가?
• RQ4 관찰에 대한 불확실성을 명시적으로 모델링함으로써 믿음 수정 프레임워크를 더 견고하게 만들 수 있는가?
• RQ5 확률적 관찰 과정 기반의 대안적 온토로지, 예를 들어 세계 w에서 φ를 관찰할 가능성의 가능성 측도를 모델링하는 방식은 어떻게 동적 환경에서 믿음 변화의 모델링을 향상시키는가?

주요 결과

• 이전에는 논란의 여지가 없이 간주되었던 레만의 I4와 같은 조건들이, 에이전트가 자신의 인지 상태에 대한 믿음을 가진 경우에 무효화됨을 입증하여, 그 보편적 적용 가능성에 의문을 제기한다.
• 관찰이 참으로 알려져 있다고 가정할 경우, 반복적 수정에서 모순이 발생하며, 특히 φ로 수정하고 나서 ¬φ로 수정할 경우, 단순한 믿음 집합을 넘어서 더 풍부한 인지 상태 모델링이 필요하다.
• 믿음 집합만으로는 합리적인 믿음 변화를 모델링하기에 부족하며, 가능한 세계들 위의 순서나 가능성 측도와 같은 더 풍부한 구조가 믿음 수정의 역학을 포괄하기 위해 필요하다.
• 관찰을 안다고 보는 것이 아니라 믿는 것으로 간주할 경우, 관찰에 대한 믿음의 강도를 정량화해야 하며, 표준 프레임워크에서는 이를 위한 원칙적인 방법이 제공되지 않는다.
• 확률 과정 기반의 대안적 온토로지—특히 각 세계 w에서 φ를 관찰할 가능성에 대한 가능성 측도를 모델링하는 방식—은 더 세밀한 믿음 수정을 지원하며, 충돌하는 관찰이 있더라도 일관된 반복적 수정을 가능하게 한다.
• 이 비판은 믿음 수정을 넘어서 비단조화 논리와 믿음 업데이트에도 확장되며, 이들 프레임워크에서도 유사한 온토로지적 모호성이 후행 조건의 합리성을 약화시킴을 보여준다.