[論文レビュー] Belief Revision: A Critique

Nir Friedman, Joseph Y. Halpern|ArXiv.org|Mar 27, 2001

Logic, Reasoning, and Knowledge参考文献 27被引用数 57

ひとこと要約

この論文は、信念修正理論の基礎的仮定を検討し、特にAGMフレームワークが、信念状態および観察の背後にあるオントロジーに十分な注意を払っていないと主張する。『議論の余地のない』と見なされてきた公理、例えばレーマンのI4などは、エージェントが自らの認識状態についての信念を持つ場合に失敗することが示され、反復的修正の状況における合理的な信念変更を保証するためには、認識状態と観察の状態（たとえば、知られているか、単に信じられているか）を明示的にモデル化する必要があると提唱する。

ABSTRACT

We examine carefully the rationale underlying the approaches to belief change taken in the literature, and highlight what we view as methodological problems. We argue that to study belief change carefully, we must be quite explicit about the ``ontology'' or scenario underlying the belief change process. This is something that has been missing in previous work, with its focus on postulates. Our analysis shows that we must pay particular attention to two issues that have often been taken for granted: The first is how we model the agent's epistemic state. (Do we use a set of beliefs, or a richer structure, such as an ordering on worlds? And if we use a set of beliefs, in what language are these beliefs are expressed?) We show that even postulates that have been called ``beyond controversy'' are unreasonable when the agent's beliefs include beliefs about her own epistemic state as well as the external world. The second is the status of observations. (Are observations known to be true, or just believed? In the latter case, how firm is the belief?) Issues regarding the status of observations arise particularly when we consider iterated belief revision, and we must confront the possibility of revising by p and then by not-p.

研究の動機と目的

• AGM公理が、信念変更の背後にあるオントロジーを明確にしないまま、普遍的に有効であると仮定することを挑戦すること。
• 信念変更の公理を自明なものとみなす方法論的欠陥を強調すること、特にエージェントの認識状態の性質と、到着する情報の状態を明示しないこと。
• 世界に関する信念と、自らの認識状態に関する信念の区別が、レーマンのI4のような広く受け入れられている公理を無効にすることを主張すること。
• 認識状態（たとえば、可能な世界上の順序付けとして）と観察の状態（たとえば、知られているか、信じられているか）を明示的にモデル化することを提唱すること。
• 将来の研究は、公理と表現定理に依存するのではなく、信念変更の背後にあるシナリオまたはオントロジーを形式化する必要があると提言すること。

提案手法

• 信念状態が論理言語内の論理式の集合（信念集合）として表現されると仮定するAGMフレームワークの前提を分析し、認識的構造についての明確さに欠けると批判する。
• 観察の状態——それが真であることが知られているのか、単に信じられているのか——を検討し、この区別が修正公理の有効性に深刻な影響を及ぼすことを示す。
• 反例を用いて、エージェントが自己言及的信念（たとえば、自らの信念状態に関する信念）を持つ場合、レーマンのI4のような公理が失敗することを示す。
• 観察が知られていると仮定しない代替のオントロジーを提唱する。たとえば、異なる世界における観察の事前妥当性を割り当てる確率的プロセスに基づくモデル。
• 信念修正が、各世界における観察式φを観測する可能性と、その世界における事前妥当性に基づいて、妥当性測度を更新することを含むフレームワークを導入する。
• 信念更新（カツノとメンデルゾン）に対しても同様の批判を適用し、更新と修正の両方において同様のオントロジー的問題が生じることを示し、観察が知られていると仮定することは、修正と比べて更新の文脈ではやや問題が少ないことを示す。

実験結果

リサーチクエスチョン

• RQ1 なぜ、エージェントが自らの認識状態に関する信念を持つ場合、広く受け入れられている信念修正公理（例：レーマンのI4）が失敗するのか？
• RQ2 観察が真であることが知られていると仮定することは、反復的信念修正の合理性にどのように影響を与えるのか？
• RQ3 信念変更プロセスのオントロジー——特に認識状態の性質と観察の状態——は、修正公理の妥当性にどのような役割を果たすのか？
• RQ4 観察の不確実性を明示的にモデル化することで、信念修正フレームワークをより強固にできるのか？
• RQ5 確率的観察プロセスに基づく代替のオントロジーは、動的環境における信念変更のモデリングをどのように改善するのか？

主な発見

• 以前は議論の余地のない公理と見なされていたレーマンのI4のような公理は、エージェントが自らの認識状態に関する信念を持つ場合に無効であることが示され、普遍的適用性が損なわれる。
• 観察が真であることが知られていると仮定することは、反復的修正において矛盾を引き起こす。特に、φで修正してから¬φで修正する場合、単なる信念集合を超えたより豊かな認識状態のモデル化がなければ、矛盾が生じる。
• 信念集合だけでは合理的な信念変更をモデル化するには不十分であり、可能な世界上の順序付けや妥当性測度といったより洗練された構造が必要である。
• 観察を知られているものではなく、信じられているものとみなす場合、観察に対する信念の固さ（強さ）を定量化する必要があるが、標準的なフレームワークでは、これを原理的に行う方法が提示されていない。
• 確率的プロセスに基づく代替のオントロジー——たとえば、世界wにおけるφの観測の妥当性をモデル化する——は、より洗練された信念変更を可能にし、矛盾する観察があっても一貫した反復的修正を可能にする。
• 批判は信念修正にとどまらず、非単調論理と信念更新にも拡張され、同様のオントロジー的曖昧さが、これらのフレームワークにおける公理の合理性を損なうことが示された。