[논문 리뷰] Paraconsistency of Interactive Computation

Dina Goldin, Peter Wegner|ArXiv.org|2002. 07. 21.

Computability, Logic, AI Algorithms참고 문헌 5인용 수 4

한 줄 요약

이 논문은 현대 컴퓨팅의 핵심 요소인 상호작용 계산(자율 주행차 및 AI 에이전트 등)이 환경의 동적 영향으로 인해 사실과 그 부정이 동시에 존재할 수 있기 때문에 필수적으로 무모순 논리(paraconsistent logic)를 필요로 한다고 주장한다. 일阶논리(first-order logic)는 정적이고 일관된 의미론을 가진다 보니 이러한 상황을 모델링하지 못하며, 무모순 논리는 갈등하거나 변화하는 환경 입력에 대해 추론할 수 있게 해주어 실제 상호작용을 모델링하는 데 필수적이다.

ABSTRACT

The goal of computational logic is to allow us to model computation as well as to reason about it. We argue that a computational logic must be able to model interactive computation. We show that first-order logic cannot model interactive computation due to the incompleteness of interaction. We show that interactive computation is necessarily paraconsistent, able to model both a fact and its negation, due to the role of the world (environment) in determining the course of the computation. We conclude that paraconsistency is a necessary property for a logic that can model interactive computation.

연구 동기 및 목표

• 자율 주행차 및 AI 에이전트와 같은 현대 시스템에서 널리 사용되는 상호작용 계산이 고전적 일阶논리로는 충분히 모델링될 수 없다는 것을 입증하는 것.
• 동적 환경에서의 상호작용의 불완전성이 고전적 논리가 실제 컴퓨팅 시나리오를 모델링하는 데 부적절하게 만든다는 것을 보여주는 것.
• 같은 사실과 그 부정이 공존할 수 있도록 허용하는 무모순성(paraconsistency)이 상호작용 계산을 모델링하는 데 필수적인 성질이 되어야 한다는 것을 주장하는 것.
• 계산을 형성하는 데서 환경의 역할이 단조롭고 일관된 추론에서 무모순적이며 비단조적 프레임워크로의 전환을 필요로 한다는 것을 보여주는 것.
• 관찰, 추론적 추론(abductive), 그리고 변화하는 성격을 지닌 상호작용 시스템을 모델링하기 위해 무모순 논리를 필수적이라고 위치짓는 것. 특히 AI 및 임베디드 시스템에서 중요하다.

제안 방법

• 환경 입력이 비정적이고 예측 불가능한 상황을 다루지 못하는 일阶논리(FOL)의 한계를 분석하여 상호작용 시스템 모델링에서의 한계를 강조하는 것.
• 알고리즘적 계산(Turing Machine 기반)과 상호작용 계산을 대조하며, 자율 주행차 주행 문제(WH 문제)를 사례 연구로 삼아 모든 환경 변수를 사전에 계산하는 것이 불가능함을 보여주는 것.
• 논리에서의 '해석의 후행 결합(late binding of interpretations)' 개념을 도입하여, 새로운 환경 데이터에 기반해 추론 도중에 해석이 변화하는 방식으로 상호작용 모델링을 설명하는 것.
• 비단조적(nonmonotonic) 및 추론적 추론(abductive reasoning)을 적용하여 시스템이 환경에서 온 새로운, 갈등할 수 있는 입력에 대해 신념을 어떻게 수정하는지 모델링하는 것.
• 동일한 전제에서 갈등하는 추론이 가능하고, 실제로는 강력한 상호작용을 위해 반드시 필요하므로 이러한 시스템에서는 무모순 논리가 자연스럽게 발생한다는 것을 보여주는 것.
• 상호작용 계산과 과학 이론 간의 유사성을 제시하며, 새로운 데이터에 기반해 이론이 수정되는 방식이 무모순 추론의 필요성을 강화한다는 점을 설명하는 것.

실험 결과

연구 질문

• RQ1 왜 일阶논리는 동적 환경에서의 상호작용 계산을 모델링하는 데 부적합한가?
• RQ2 환경이 계속해서 계산에 영향을 주며 입력이 완전히 사전에 결정되지 않은 시스템을 모델링하기 위해 필요한 논리적 성질은 무엇인가?
• RQ3 상호작용 시스템에서 환경의 역할이 고전적 일관성 대신 무모순 추론을 필수적으로 만드는 이유는 무엇인가?
• RQ4 비단조적 및 추론적 추론 과정이 상호작용 시스템에서 어떻게 본질적으로 무모순성을 요구하는가?
• RQ5 무모순 논리는 자율 에이전트나 지능형 사용자 인터페이스와 같은 실제 상호작용 시스템을 모델링하기 위해 공식적으로 정당화될 수 있는 필수 기초가 될 수 있는가?

주요 결과

• 일阶논리는 그 의미론이 정적이고 사전에 계산된 세계를 전제로 하므로 상호작용 계산을 모델링할 수 없다. 이는 동적이고 상호작용적인 환경에서는 실패한다.
• 상호작용 계산은 본질적으로 무모순적이다. 환경의 실시간 입력에 따라 사실과 그 부정이 동시에 지지될 수 있기 때문이다.
• WH 문제(자율 주행차 주행)는 인간 행동과 같은 모든 환경 변수를 사전에 계산하는 것이 불가능함을 보여주며, 이는 알고리즘적 접근의 무효성을 입증한다.
• 알고리즘적 계산에서 상호작용 계산으로의 전환은 갈등하거나 불완전한 정보를 처리하기 위해 고전적 일관성을 기각하고 무모순 추론으로의 전환을 필요로 한다.
• 핵심적으로 상호작용 시스템에 내재된 추론적 추론과 비단조적 추론은 본질적으로 무모순적이다. 이는 신념 수정과 갈등하는 추론의 공존을 허용하기 때문이다.
• 무모순 논리는 이론적 대안이 아니라, 환경 피드백이 필수적인 AI, 데이터베이스, 실시간 제어 시스템과 같은 상호작용 시스템을 모델링하기 위한 필수적 기초이다.