[논문 리뷰] Epistemology as Information Theory: From Leibniz to Omega

Gregory J. Chaitin|ArXiv.org|2005. 06. 27.

Computability, Logic, AI Algorithms참고 문헌 9인용 수 39

한 줄 요약

이 논문은 우주가 기본적으로 계산 가능한 것으로 보는 디지털 철학 프레임워크를 제안한다. 지식과 수학적 진리는 알고리즘 정보 이론에 기반한다. 의미 있는 이론은 데이터를 압축해야 하며, 이는 알고리즘적으로 불가분한 수학적 사실—체이틴의 정지 확률 Ω를 통해 예시화된다—의 발견으로 이어진다. 이는 수학적 지식과 창의성의 본질적 한계를 보여준다.

ABSTRACT

In 1686 in his Discours de Metaphysique, Leibniz points out that if an arbitrarily complex theory is permitted then the notion of "theory" becomes vacuous because there is always a theory. This idea is developed in the modern theory of algorithmic information, which deals with the size of computer programs and provides a new view of Godel's work on incompleteness and Turing's work on uncomputability. Of particular interest is the halting probability Omega, whose bits are irreducible, i.e., maximally unknowable mathematical facts. More generally, these ideas constitute a kind of "digital philosophy" related to recent attempts of Edward Fredkin, Stephen Wolfram and others to view the world as a giant computer. There are also connections with recent "digital physics" speculations that the universe might actually be discrete, not continuous. This systeme du monde is presented as a coherent whole in my book Meta Math!, which will be published this fall.

연구 동기 및 목표

• 알고리즘 정보 이론의 관점에서 인지론을 재구성하여, 이해는 프로그램적 압축과 동일시된다고 주장한다.
• 이론의 임의의 복잡성이 과도하게 높아지면 그 이론은 공허해지므로, 의미 있는 과학적·수학적 설명을 위한 기준을 설정한다.
• 정지 확률 Ω가 알고리즘적으로 불가분하다는 것을 보여주며, 어떤 유한한 공리 집합으로도 유도될 수 없는 불가분한 수학적 사실을 상징한다.
• 우주가 기본적으로 계산 가능한 존재이며, 신은 수학자이기보다는 프로그래머라는 새로운 본질론적 세계관—디지털 철학—을 옹호한다.
• 수학과 생물학에서 새로운 아이디어의 기원을 기계적 관점이 아닌 창의적·비연역적 과정으로 이해할 수 있으며, 이는 지식과 진화의 기계적 해석을 도전한다.

제안 방법

• 알고리즘 정보 이론을 적용하여, 어떤 이론을 생성할 수 있는 가장 작은 프로그램의 크기를 측정함으로써 이론의 복잡도를 측정한다.
• 정보 내용과 설명력의 척도로 알고리즘 복잡도(코모고로프 복잡도) 개념을 도입한다.
• 정지 확률 Ω를 유니버설 튜링 기계에서 무작위 프로그램이 정지할 확률로 정의하며, 이가 알고리즘적으로 랜덤하고 불가분하다는 것을 보여준다.
• Ω를 통해 어떤 유한한 공리계 내에서 증명할 수 없는 진리의 수학적 사실이 존재한다는 것을 보이며, 굿엘의 완전성 이론과 터닝의 비계산 가능성 이론을 확장한다.
• 정보와 계산에 기반한 세계의 철학적 체계(système du monde)를 구축하며, 신화적 및 전통적 과학적 서사를 대비시킨다.
• 과학 이론이 성공하는 이유는 새로운 실체를 도입하기 때문이 아니라, 관측 결과를 더 단순하고 효율적인 설명으로 압축하기 때문이며, 이는 데이터 압축과 유사하다고 주장한다.

실험 결과

연구 질문

• RQ1 정보 압축 관점에서 의미 있는 과학적 또는 수학적 이론은 무엇을 포함하는가?
• RQ2 알고리즘 정보 이론은 설명과 이해의 개념을 어떻게 재정의하는가?
• RQ3 정지 확률 Ω가 예시로 보여주는 바와 같이, 어떤 사실이 알고리즘적으로 불가분한 복잡도를 지닐 경우 수학적 진리는 어떤 성격을 갖는가?
• RQ4 수학적·생물학적 새로운 아이디어의 기원을 기계적 유도가 아닌 비연역적·창의적 과정으로 이해할 수 있는가?
• RQ5 우주가 계산 시스템으로 모델링될 수 있는 정도는 어느 정도이며, 이는 물리학, 수학, 철학에 어떤 함의를 갖는가?

주요 결과

• 정지 확률 Ω는 알고리즘적으로 불가분하다. 그 비트들은 무작위이며 어떤 유한한 공리 집합으로도 유도될 수 없으며, 따라서 최대한 알 수 없는 상태이다.
• 이론이 임의로 복잡해지면 그 이론은 공허해지므로, 진정한 설명은 압축 가능하고 단순한 서술로만 구성된다.
• 수학적 지식은 정적인 것이 아니며, 고정된 공리계에서의 추론 외에도 새로운 개념과 공리의 창안을 통해 진전된다.
• 우주는 기본적으로 이산적이고 계산 가능한 존재일 수 있으며, 이는 디지털 물리학과 디지털 철학과 일치한다. 여기서 현실은 괴로운 계산과 유사하다.
• 프로그래밍을 하면 깊은 이해가 요구되며, 이는 오직 구현 가능한 것만 진정으로 이해된다는 핵심 원칙—컴퓨터 인지론의 핵심 원칙—을 시사한다.
• 수학과 생물학에서의 창의성은 비연역적·비알고리즘적 과정에서 비롯되며, 새로운 아이디어의 출현은 기계적 계산만으로는 환원될 수 없다.