[논문 리뷰] Strength Factors: An Uncertainty System for a Quantified Modal Logic

Naveen Sundar Govindarajulu, Selmer Bringsjord|arXiv (Cornell University)|2017. 05. 30.

Logic, Reasoning, and Knowledge참고 문헌 8인용 수 5

한 줄 요약

이 논문은 첫째로 모달 논리에 대한 확률 이론과 증명 이론을 통합하여 신념 강도와 타당성을 측정하는 새로운 불확실성 체계 $σ$를 소개한다. 이는 창쇼름의 인식론에 기반하며, 불확실한 신념의 체계적 처리, 역사적 조건문 추론, 인간이 이해할 수 있는 설명을 가능하게 한다. 이는 로또 역설과 인지 에이전트의 신념 정당화 사례를 통해 검증되었다.

ABSTRACT

We present a new system S for handling uncertainty in a quantified modal logic (first-order modal logic). The system is based on both probability theory and proof theory. The system is derived from Chisholm's epistemology. We concretize Chisholm's system by grounding his undefined and primitive (i.e. foundational) concept of reasonablenes in probability and proof theory. S can be useful in systems that have to interact with humans and provide justifications for their uncertainty. As a demonstration of the system, we apply the system to provide a solution to the lottery paradox. Another advantage of the system is that it can be used to provide uncertainty values for counterfactual statements. Counterfactuals are statements that an agent knows for sure are false. Among other cases, counterfactuals are useful when systems have to explain their actions to users. Uncertainties for counterfactuals fall out naturally from our system. Efficient reasoning in just simple first-order logic is a hard problem. Resolution-based first-order reasoning systems have made significant progress over the last several decades in building systems that have solved non-trivial tasks (even unsolved conjectures in mathematics). We present a sketch of a novel algorithm for reasoning that extends first-order resolution. Finally, while there have been many systems of uncertainty for propositional logics, first-order logics and propositional modal logics, there has been very little work in building systems of uncertainty for first-order modal logics. The work described below is in progress; and once finished will address this lack.

연구 동기 및 목표

• 인지 에이전트에서 반복적 신념과 조건문 추론을 지원하는 양적 모달 논리용 실용적인 불확실성 체계를 개발하기 위해.
• 창쇼름의 추상적인 인식론적 개념인 '타당성'을 공식적 확률과 증명 이론적 메커니즘에 기반시켜야 하며.
• 비전문가가 혼동하기 쉬운 원시적인 확률 값이 아닌 직관적이고 인간이 이해할 수 있는 설명을 생성하는 체계를 만들어야 하며.
• 기억된 사실이 틀리거나 가정적인 상황에 대한 신념인 조건문 문장에 불확실성 값을 할당할 수 있어야 하며.
• 도덕적 추론, 윤리적 의사결정, 인간-로봇 상호작용 등 신념 강도의 정당화가 필요한 애플리케이션을 지원해야 한다.

제안 방법

• 도덕적 인지 이벤트 계산법($\mathcal{DCEC}$)의 하위 집합인 마이크로 인지 미분계산($\mathcal{\mu C}$)을 확장하여, 신념($\mathbf{B}$)과 인지($\mathbf{P}$)를 위한 모달 연산자를 도입한다.
• 신념 집합 $\Gamma$와 일관된 대체 신념 집합 $\Gamma'$ 사이의 거리를 측정하기 위해 강도 요소 $\delta^a_t(\Gamma, \Gamma')$를 도입하며, 이는 거리 함수 $\rho$ 하에서 최소한의 변화 기반이다.
• 타당성은 세 조건으로 정의한다: (1) $\delta^a_t(\Gamma, \Gamma_1) < \delta^a_t(\Gamma, \Gamma_2)$, (2) $\rho(\Gamma, \Gamma_1) < \rho(\Gamma, \Gamma_2)$, (3) $\pi(\Gamma, \Gamma_1) < \pi(\Gamma, \Gamma_2)$, 여기서 $\pi$는 증명 복잡도를 측정한다.
• 기본 확률 함수 $\mathbf{Pr}$를 사용하여 명제에 확률를 할당하고, 이를 타당성 비교에 활용한다.
• 로또 역설에 적용하여, 일관성과 최소한의 변화로 인해 특정 티켓이 당첨되지 않을 것이라는 신념이 타당하다는 것을 보여준다.
• 신념 강도 비교를 통해 설명 스키마를 생성하며, 이는 에이전트가 자연어로 신념을 정당화할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 창쇼름의 인식론적 개념인 '타당성'을 일阶 모달 논리에서 확률 이론과 증명 이론을 활용해 어떻게 공식화할 수 있는가?
• RQ2 일관성 있고 비전문가 사용자에게도 이해 가능한 체계로, 반복적 신념과 조건문 추론에 대한 불확실성을 통합적으로 측정할 수 있는가?
• RQ3 기본적으로 거짓임이 알려진 조건문에 불확실성 값을 어떻게 할당할 수 있으며, 여전히 설명과 추론에 의미가 있을 수 있는가?
• RQ4 원시적인 확률 값을 폭로하지 않고도 고수준의 인간이 이해할 수 있는 신념 강도 설명을 생성하기 위한 메커니즘은 무엇인가?
• RQ5 δ 거리 기반에서 최소한의 신념 집합 변화($\min_{\langle\Theta,\Lambda\rangle}$)를 효율적으로 계산할 때 발생하는 계산적 과제는 무엇이며, 이를 어떻게 해결할 수 있는가?

주요 결과

• 체계 $\mathcal{S}$는 일관성과 최소한의 변화로 인해, 개별 확률이 낮더라도 특정 로또 티켓이 당첨되지 않을 것이라는 신념이 타당하다는 점을 보여주며, 로또 역설을 성공적으로 해결한다.
• 역사적 조건문—예를 들어 '만약 내가 행동하지 않았다면 $\phi$가 일어났을 것이다'—는 조건문이 거짓임이 알려져 있더라도 타당성 프레임워크를 통해 불확실성 값을 할당할 수 있다.
• 강도 요소 $\delta^a_t(\Gamma, \Gamma')$는 신념 집합 간의 공식적 비교를 가능하게 하며, 현재 신념 상태에서의 최소한의 변화 기반으로 어느 신념이 더 타당한지 판단할 수 있다.
• 확률($\mathbf{Pr}$), 증명 복잡도($\pi$), 신념 집합 거리($\rho$)를 통합한 타당성 측정 체계는 불확실성 측정에 다각도 접근을 제공한다.
• 강도 요소 비교를 통해 설명 스키마를 생성할 수 있으며, 이는 에이전트가 '이 신념은 현재 신념 집합에 대한 변경 수가 더 적기 때문에 더 타당하다'와 같은 직관적 기준을 사용해 신념을 정당화할 수 있도록 한다.
• 일阶 논리로 변환된 모달 신념 표현을 통해 추론의 실현 가능성을 확보하였으며, 표준 일阶 정리 증명기 사용이 가능하지만, 효율적인 근사 추론은 향후 과제로 남아 있다.