[논문 리뷰] Epistemic Modeling with Justifications

Sergei Artëmov|arXiv (Cornell University)|2017. 03. 21.

Logic, Reasoning, and Knowledge참고 문헌 10인용 수 7

한 줄 요약

이 논문은 정당화를 기본 대상으로 간주하는 새로운 프레임워크인 정당화 지식 모델(JEM)을 소개한다. 이 모델은 수용된 정당화와 지식을 생성하는 정당화를 구분하며, 정당화 상태로부터 믿음과 지식을 유도함으로써, 루이스의 총리 예시와 같은 오류가 있는 정당화를 포함하는 지식적 상황을 공정하게 모델링한다. 기존의 Kripke 모델은 이들의 모달적이고 증거에 민감하지 않은 구조로 이러한 상황을 제대로 표현하지 못한다.

ABSTRACT

Existing logical models do not fairly represent epistemic situations with fallible justifications, e.g., Russell's Prime Minister example, though such scenarios have long been at the center of epistemic studies. We introduce justification epistemic models, JEM, which can handle such scenarios. JEM makes justifications prime objects and draws a distinction between accepted and knowledge-producing justifications; belief and knowledge become derived notions. Furthermore, Kripke models can be viewed as special cases of JEMs with additional assumptions of evidence insensitivity and common knowledge of the model. We argue that JEM can be applied to a range of epistemic scenarios in CS, AI, Game Theory, etc.

연구 동기 및 목표

• 표준 지식 모델이 오류가 있는 정당화를 포함하는 상황(예: 루이스의 총리 예시)을 표현하는 데에 한계를 보이는 점을 다스리기 위해.
• 믿음이나 지식이 아니라 정당화가 핵심이 되는 지식적 추론을 형식화하기 위해, 새로운 유형의 모델인 정당화 지식 모델(JEM)을 도입함으로써.
• 수용된 정당화(믿어지는 정당화)와 지식을 생성하는 정당화(실제로 진리에 기여하는 정당화)를 구분하여, 믿음과 지식을 파생 개념으로 만든다.
• Kripke 모델이 정당화에 민감하지 않고 모델에 대한 공통 지식이 있다고 가정할 경우 JEM의 특수한 경우임을 보여준다.
• 정당화의 품질과 출처가 중요한 인공지능, 컴퓨터 과학, 게임 이론 분야의 지식 현상 모델링을 위한 기반을 마련한다.

제안 방법

• JEM를 구조 $(W, \tau, \text{Acc}, \text{KP})$로 정의한다. 여기서 $W$는 세계의 집합이며, $\tau$는 각 세계에 정당화 대수를 할당한다. $\text{Acc}$와 $\text{KP}$는 각각 수용된 정당화와 지식을 생성하는 정당화의 집합이다.
• 정당화 진술 $t:F$를 세계 $u$에서 참으로 간주하는 조건은 $F \in t^\tau(u)$이면 성립하며, $t^\tau(u)$는 세계 $u$에서 $t$에 의해 정당화된 공식의 집합이다.
• 정당화가 믿음을 유도하는 성질(JYB)을 도입한다: $t:F$이면 $F$는 모든 접근 가능한 세계에서 참이 되어야 하며, 이는 지식적 일관성을 확보한다.
• 루이스의 총리 상황을 표현하기 위해 최소한의 JEM 모델 $\mathcal{R}$을 구성한다. 이 모델은 잘못된 정당화가 수용되지만 지식을 생성하지는 않는다.
• 모달 논리가 이러한 상황을 공정하게 표현할 수 없음을 증명한다. $\mathbf{J}B \land \mathbf{E}B$는 성립하지만 $\mathbf{K}B$는 성립하지 않으며, 이는 Gettier 스타일의 실패를 드러낸다.
• 정당화에 대한 무관심성($t:F \leftrightarrow s:F$)과 완전한 설명 성질($R(u) \models F \Rightarrow \exists t, u \models t:F$)을 가정할 경우 Kripke 모델이 JEM의 특수한 경우임을 보여준다.

실험 결과

연구 질문

• RQ1 지식 모델이 오류가 있는 정당화를 포함하는 상황(예: 루이스의 총리 예시)을 공정하게 표현할 수 있는가?
• RQ2 믿음과 지식은 정당화 상태로부터 어떻게 형식적으로 유도될 수 있는가? 믿음이나 지식이 기본 개념이 아니라 정당화가 핵심일 경우 어떻게 할 것인가?
• RQ3 왜 표준 Kripke 모델은 정당화가 잘못되었지만 수용된 상황을 표현하지 못하는가?
• RQ4 어떤 조건이 JEM를 Kripke 모델로 전환시키며, 그 데 필요한 가정은 무엇인가?
• RQ5 정당화 논리가 타인의 정당화에 대한 투명성을 포함하는 다중 에이전트 지식 추론을 모델링할 수 있는가?

주요 결과

• JEM는 정당화를 핵심으로 삼고 믿음과 지식을 정당화가 수용되었는지 또는 지식을 생성하는지에 따라 파생시키는 공식적 프레임워크를 제공한다.
• 모델 $\mathcal{R}$은 루이스의 총리 예시를 성공적으로 캡처한다. 이는 잘못되었지만 수용된 정당화가 지식을 유도하지는 않으며, 지식을 생성하는 정당화에 의해 지지되더라도 마찬가지로 지식이 되지 않는다는 점을 보여준다.
• 모달 논리는 이러한 상황을 표현하지 못한다: $\mathbf{J}B \land \mathbf{E}B$는 성립하지만 $\mathbf{K}B$는 성립하지 않으며, 이는 모달 프레임워크 내에서 Gettier 스타일의 지식적 실패를 드러낸다.
• 정당화에 대한 무관심성과 완전한 설명 성질을 가정할 경우 Kripke 모델이 JEM의 특수한 경우임을 보여주며, 이는 Kripke 모델의 한계를 명확히 한다.
• 정당화 모델의 계층이 정교화된다: 기본 모델과 Mkrtychev 모델 ⊂ Fitting 모델 ⊂ 모듈러 모델 ⊂ JEM이며, JEM는 가장 일반적인 형태이다.
• 논문은 $\mathcal{R} \models g:\!B$ for $g \in \mathcal{A} \cap \mathcal{E}$ 이지만 $\mathcal{R} \not\models B$ 임을 증명함으로써, 수용된 정당화와 지식을 생성하는 정당화가 다를 수 있으며, 이는 지식을 무효화함을 입증한다.