[论文解读] Epistemology as Information Theory: From Leibniz to Omega

Gregory J. Chaitin|ArXiv.org|Jun 27, 2005

Computability, Logic, AI Algorithms参考文献 9被引用 39

一句话总结

本文提出一种数字哲学框架，认为宇宙本质上是计算性的，知识与数学真理根植于算法信息论。它主张有意义的理论必须能够压缩数据，从而发现算法不可约的数学事实——以 Chaitin 的停止概率 Ω 为典型例证，展示了数学知识与创造力的内在局限。

ABSTRACT

In 1686 in his Discours de Metaphysique, Leibniz points out that if an arbitrarily complex theory is permitted then the notion of "theory" becomes vacuous because there is always a theory. This idea is developed in the modern theory of algorithmic information, which deals with the size of computer programs and provides a new view of Godel's work on incompleteness and Turing's work on uncomputability. Of particular interest is the halting probability Omega, whose bits are irreducible, i.e., maximally unknowable mathematical facts. More generally, these ideas constitute a kind of "digital philosophy" related to recent attempts of Edward Fredkin, Stephen Wolfram and others to view the world as a giant computer. There are also connections with recent "digital physics" speculations that the universe might actually be discrete, not continuous. This systeme du monde is presented as a coherent whole in my book Meta Math!, which will be published this fall.

研究动机与目标

• 通过算法信息论的视角重构认识论，主张理解等同于程序化压缩。
• 证明任意复杂性的理论将变得空洞，从而确立有意义的科学与数学解释的标准。
• 表明停止概率 Ω 是算法不可约的，体现无法从任何有限公理集推导出的不可约数学事实。
• 倡导一种新的形而上学世界观——数字哲学，即宇宙本质上是计算性的，上帝是程序员而非数学家。
• 探讨数学与生物学中新思想的起源作为非演绎、创造性的过程，挑战知识与进化过程的机械论观点。

提出的方法

• 应用算法信息论，通过能生成理论的最小程序的大小来衡量数学理论的复杂性。
• 引入算法复杂性（Kolmogorov 复杂性）作为信息含量与解释力的度量。
• 将停止概率 Ω 定义为随机程序在通用图灵机上停止的概率，证明其具有算法随机性与不可约性。
• 利用 Ω 证明在任何固定形式系统中，存在真但不可证明的数学事实，扩展了哥德尔不完备性与图灵不可计算性。
• 基于信息与计算构建世界的形而上学体系（système du monde），与神话与经典科学叙事形成对比。
• 主张科学理论的成功并非通过假定新实体，而是通过将观察结果压缩为更简单、更高效的描述——类似于数据压缩。

实验结果

研究问题

• RQ1 从信息压缩的角度看，什么构成了有意义的科学或数学理论？
• RQ2 算法信息论如何重新定义解释与理解的概念？
• RQ3 当某些事实具有不可约复杂性时（如停止概率 Ω 所示），数学真理的本质是什么？
• RQ4 数学与生物学中新思想的起源能否被理解为非演绎、创造性的过程，而非机械推导？
• RQ5 宇宙在多大程度上可被建模为计算系统？这对物理学、数学与形而上学有何影响？

主要发现

• 停止概率 Ω 是算法不可约的——其数位是随机的，无法从任何有限公理集推导，因此是最大不可知的。
• 若理论可任意复杂，则其变为空洞，意味着唯有可压缩的、简单的描述才构成真正的解释。
• 数学知识并非静态；它通过新概念与公理的发明而推进，而不仅依赖于从固定系统中演绎。
• 宇宙可能本质上是离散且计算性的，与数字物理和数字哲学一致，即现实类似于巨大计算。
• 编程行为迫使更深层次的理解，表明唯有可实现者才真正被理解——这是计算机认识论的核心原则。
• 数学与生物学中的创造力源于非演绎、非算法的过程，新思想的出现无法仅归结为机械计算。