[논문 리뷰] Constraints on physical reality arising from a formalization of knowledge

David H. Wolpert|arXiv (Cornell University)|2017. 11. 09.

Computability, Logic, AI Algorithms참고 문헌 18인용 수 3

한 줄 요약

이 논문은 '추론 장치'(IDs)를 통해 신체적 에이전트가 지식을 습득하는 방식을 체계화하며, IDs 간의 공동 지식에 가해지는 제약이 특정 물리 법칙과는 독립적으로 물리적 현실에 기본적인 한계를 초래함을 보여준다. 이 논문은 지식 이론에서의 논리적 전지수성 문제를 해결하기 위해 IDs를 확장하여 실질적인 지식 모델링이 가능하게 하며, 오차 한계와 확률적 추론을 수반하는 물리적 지식의 정확한 형식화를 가능하게 한다.

ABSTRACT

There are (at least) four ways that an agent can acquire information concerning the state of the universe: via observation, control, prediction, or via retrodiction, i.e., memory. Each of these four ways of acquiring information seems to rely on a different kind of physical device (resp., an observation device, a control device, etc.). However it turns out that certain mathematical structure is common to those four types of device. Any device that possesses a certain subset of that structure is known as an "inference device" (ID). Here I review some of the properties of IDs, including their relation with Turing machines, and (more loosely) quantum mechanics. I also review the bounds of the joint abilities of any set of IDs to know facts about the physical universe that contains them. These bounds constrain the possible properties of any universe that contains agents who can acquire information concerning that universe. I then extend this previous work on IDs, by adding to the definition of IDs some of the other mathematical structure that is common to the four ways of acquiring information about the universe but is not captured in the (minimal) definition of IDs. I discuss these extensions of IDs in the context of epistemic logic (especially possible worlds formalisms like Kripke structures and Aumann structures). In particular, I show that these extensions of IDs are not subject to the problem of logical omniscience that plagues many previously studied forms of epistemic logic.

연구 동기 및 목표

• 물리적 우주에 임베딩된 에이전트가 관찰, 제어, 예측, 기억을 통해 지식을 습득하는 방식을 체계화하는 것.
• 어떤 물리적 우주의 기본 법칙이 무엇이든 간에, 여러 개의 추론 장치(IDs) 간의 공동 지식에 가해지는 보편적 제약 조건을 규명하는 것.
• 관찰, 제어, 예측, 기억의 네 가지 지식 습득 방식의 구조를 모두 통합하여 ID 프레임워크를 확장함으로써 지식 이론에서의 논리적 전지수성 문제를 해결하는 것.
• 확률적 추론, 오차 분석, 가능한 상태 간의 거리 척도를 지원하는 물리적 지식을 위한 형식화를 개발하는 것.
• 추론 복잡성과 알고리즘 정보 이론 간의 관계를 탐색하며, 하이젠베르크 불확정성 원리에 해당하는 유사한 결과를 도출하는 것.

제안 방법

• 관찰, 제어, 예측, 기억 장치에 공통되는 특정 수학적 구조를 지닌 물리적 시스템으로서 추론 장치(ID)를 정의한다.
• 지식과 신념을 모델링하기 위해 Kripke 및 Aumann 구조를 사용하며, IDs를 지식 이론 프레임워크 내에 통합한다.
• 모든 네 가지 지식 습득 방식의 특징을 통합한 강화된 ID 모델을 도입하여, 계산 가능한, 오류가 가능한 추론에 국한함으로써 논리적 전지수성을 피한다.
• 우주 상태에 대한 확률 분포를 적용하여 불확실성을 모델링하고, 오차 곱의 한계를 도출하며, 양자 불확정성 원리와 유사한 결과를 도출한다.
• 오차의 정량화를 위해 거리 함수 D(Γ(W), γ)를 도입하여 기대 오차, 분산, 오차 전파 분석을 가능하게 한다.
• 수학적 시스템에서의 물리적 지식을 고려하기 위해 형식화를 확장하며, 우주를 진리 문자열의 집합으로 모델링하고 IDs를 정리 증명 알고리즘으로 간주한다.

실험 결과

연구 질문

• RQ1 물리적 우주에 임베딩된 여러 개의 추론 장치(IDs) 간의 공동 지식에 어떤 보편적 제약 조건이 발생하는가?
• RQ2 추론 장치의 형식화가 지식 이론에서의 논리적 전지수성 문제를 어떻게 해결할 수 있는가?
• RQ3 추론 장치에 대한 확률적 오차 모델이 하이젠베르크 불확정성 원리와 유사한 결과를 도출할 수 있는가?
• RQ4 물리적 지식은 어떻게 공리화되고, 공통 지식, 분산 지식, 의미 정보와 같은 개념으로 확장될 수 있는가?
• RQ5 추론 복잡성(ID가 콜모고로프 복잡도의 유사체로 간주되는)과 알고리즘 정보 이론 간의 관계는 무엇인가?

주요 결과

• 물리적 우주에 임베딩된 어떤 추론 장치의 집합이라도, 그 우주의 물리 법칙이 무엇이든 간에 그들의 공동 지식을 제약하는 기본적인 불가능성 정리에 따라 제약을 받는다.
• 확장된 ID 프레임워크는 계산 가능한, 오류가 가능한 추론에 국한함으로써 논리적 전지수성을 피하며, 실제 에이전트를 모델링하는 데 적합하다.
• 서로 독립적인 두 ID의 오차 확률 곱은 아래로 제한되며, 이는 하이젠베르크 불확정성 원리와 형식적으로 유사하다.
• ID가 우주 상태에 대한 주장의 오차는 거리 함수 D(Γ(W), γ)를 통해 정량화할 수 있으며, 이는 기대 오차와 분산 분석을 가능하게 한다.
• 형식화는 Kripke 구조와 유사한 완전한 물리적 지식의 공리화를 지원하며, 공통 지식 및 분산 지식과 같은 개념으로 확장 가능하다.
• 우주를 진리 문자열의 집합으로 모델링하고 IDs를 정리 증명 알고리즘으로 간주함으로써, 수학적 시스템에 물리적 지식을 적용할 수 있으며, 이에 따른 상호 지식의 한계에 대한 결과를 도출할 수 있다.