[논문 리뷰] Deontic Logic for Human Reasoning

Ulrich Furbach, Claudia Schon|arXiv (Cornell University)|2014. 04. 28.

Logic, Reasoning, and Knowledge인용 수 5

한 줄 요약

이 논문은 인간의 인지적 과제(와이슨 선택 과제 및 억제 과제)에서의 추론을 형식적 프레임워크로써 의무논리(deontic logic)를 제안하며, 사회적 계약 맥락에서의 높은 성과를 설명한다. ALC로 번역된 의무논리에 대해 하이퍼(Hyper)를 통한 자동 정리 증명을 통해 규범 체계의 일관성을 점검하고, 논리적 모델링과 모델 체크를 통해 인간의 추론 패턴을 설명한다.

ABSTRACT

Deontic logic is shown to be applicable for modelling human reasoning. For this the Wason selection task and the suppression task are discussed in detail. Different versions of modelling norms with deontic logic are introduced and in the case of the Wason selection task it is demonstrated how differences in the performance of humans in the abstract and in the social contract case can be explained. Furthermore it is shown that an automated theorem prover can be used as a reasoning tool for deontic logic.

연구 동기 및 목표

• 인지심리학 실험에서 인간의 추론을 의무논리로 모델링하는 것, 특히 와이슨 선택 과제와 억제 과제에 초점 맞추기.
• 의무논리가 추상적 사고와 사회적 맥락화된 사고 과제 간의 인간 성과 차이를 설명할 수 있음을 입증하기.
• 의무논리를 ALC로 번역하고 DL-절로 변환하여 자동 정리 증명(Hyper)을 통합함으로써 규범 체계의 형식적 일관성 점검 가능하게 하기.
• 대리자 간의 위반에 대한 의무(contrary-to-duty obligations)와 같은 실제 규범 체계에 적용하여 자동으로 일관성 오류 탐지 가능하게 하기.
• 로봇 윤리에 적용하기 위해 의무논리를 사용해 윤리 규칙을 형식화하고 자동 추론을 통해 준수 여부 검증하기.

제안 방법

• 표준 번역 규칙을 사용해 의무논리 수식을 기술 논리 ALC로 변환하기.
• 의무 연산자(예: '해야 한다', '의무')를 ALC 개념과 역할로 표현하기, 예를 들어 $\Box\Phi \rightarrow \Diamond\Phi$ 는 $\top \sqsubseteq \exists R.\top$ 로 매핑하기.
• ALC 수식을 하이퍼 정리 증명기의 입력 형식인 DL-절로 변환하기.
• 하이퍼를 사용해 초표본(hypertableaux)을 구성하고 만족 가능성(satisfiability)을 점검함으로써 규범 체계의 일관성 검증하기.
• 의무논리와 인지과학 이론을 조합하여 인간의 추론 패턴을 설명하는 정서적 모델(mental models)을 모델링하기.
• 대조적 의무 역설 및 사회적 계약 시나리오와 같은 벤치마크 문제를 대상으로 접근 방법 검증하기.

실험 결과

연구 질문

• RQ1 의무논리는 추상적 버전과 사회적 계약 버전의 와이슨 선택 과제에서 인간 성과의 차이를 어떻게 설명할 수 있는가?
• RQ2 자동 정리 증명이 규범 맥락에서 인간의 추론을 효과적으로 모델링하고 검증하는 데 사용될 수 있는가?
• RQ3 의무논리와 정서적 모델 이론의 통합이 인간의 추론 패턴을 설명하는 데 어떻게 향상되는가?
• RQ4 복잡한 규범 체계, 특히 대조적 의무를 포함한 체계에서 자동 도구가 일관성 오류를 어느 정도 탐지할 수 있는가?
• RQ5 의무논리는 로봇 윤리와 같은 다중 에이전트 시스템에서 윤리 규칙을 형식화하고 일관성을 검증하는 데 사용될 수 있는가?

주요 결과

• 의무논리는 사회적 계약 버전의 와이슨 과제에서 참답게 해결하는 참가자 비율이 75%에 이르는 데 반해, 추상적 버전에서는 25% 미만이라는 점을 성공적으로 설명한다.
• 자동 정리 증명기 하이퍼(Hyper)는 고전적인 대조적 의무 규범 체계에서의 일관성 오류를 정확히 식별하여 이전 이론적 결과를 확인한다.
• 의무논리와 하이퍼를 통한 모델 체크 결과, '늦게 공부하고 있다면 도서관은 열려야 한다'는 규범은 그 규범이 참으로 받아들여지지 않는 한 검증될 수 없다는 점이 드러나, '그녀가 늦게 공부하고 있는가?'에 대한 긍정적 응답이 낮은 이유를 설명한다.
• 의무논리를 ALC로, 그리고 그 다음으로 DL-절로 변환함으로써, 전체 모달 논리에서 결정 불가능한 추론 작업에 대해 하이퍼의 효과적 활용이 가능해졌다.
• 이 프레임워크는 아지모프의 법칙 등 로봇 윤리에서의 윤리 규칙을 형식화하고, 갈등을 탐지하며 다중 에이전트 시스템에서의 일관성을 보장함으로써 윤리 규칙의 형식화 및 검증을 지원한다.