[論文レビュー] From Philosophy to Program Size

Gregory J. Chaitin|ArXiv.org|Mar 27, 2003

Computability, Logic, AI Algorithms参考文献 3被引用数 16

ひとこと要約

本稿は、プログラムサイズ複雑性を用いて、ある数学的真実が偶然であることを示すことで、数学的推論と知識の限界を探究するための哲学的枠組みとして、アルゴリズム情報理論（AIT）を提示する。ハーティング確率Ωを用いて不完全性を確立し、形式的体系が特定の対象の複雑性を証明できないことを示す。これにより、ランダム性と非還元性が根本的である quasi-empirical（準経験的）な数学の見方を支持する。

ABSTRACT

Most work on computational complexity is concerned with time. However this course will try to show that program-size complexity, which measures algorithmic information, is of much greater philosophical significance. I'll discuss how one can use this complexity measure to study what can and cannot be achieved by formal axiomatic mathematical theories. In particular, I'll show (a) that there are natural information-theoretic constraints on formal axiomatic theories, and that program-size complexity provides an alternative path to incompleteness from the one originally used by Kurt Godel. Furthermore, I'll show (b) that in pure mathematics there are mathematical facts that are true for no reason, that are true by accident. These have to do with determining the successive binary digits of the precise numerical value of the halting probability Omega for a "self-delimiting" universal Turing machine. I believe that these meta-theorems (a,b) showing (a) that the complexity of axiomatic theories can be characterized information-theoretically and (b) that God plays dice in pure mathematics, both strongly suggest a quasi-empirical view of mathematics. I.e., math is different from physics, but perhaps not as different as people usually think. I'll also discuss the convergence of theoretical computer science with theoretical physics, Leibniz's ideas on complexity, Stephen Wolfram's book A New Kind of Science, and how to attempt to use information theory to define what a living being is.

研究の動機と目的

• プログラムサイズ複雑性の哲学的意味を明らかにし、数学的推論の限界を理解するための意義を調査すること。
• ハーティング確率Ωを中核的事例として用い、形式的公理的体系が特定の数学的対象の複雑性を証明できないことを示すこと。
• 一部の数学的事実は、理由がないままに偶然に真である、つまり「理由のない真実」であることを主張し、数学が完全に演繹的であるという考えに挑戦すること。
• 数学が非還元性やランダム性といった物理学的特徴を共有しており、準経験的アプローチを提唱すること。
• アルゴリズム情報理論と離散的物理的原理を用いて、生命や知能を定義する可能性を検討すること。

提案手法

• 対象の情報含量を測る指標として、プログラムサイズ複雑性（別名：アルゴリズム的情報）を用いる。
• 自己区別型ユニバーサルチューリングマシンUを導入し、Uがランダムな入力に対して停止する確率としてハーティング確率Ωを定義する。
• Kraft不等式とアルゴリズム的確率P(x)を適用し、より単純な説明（より短いプログラム）がより可能性が高いという考えを形式化する。
• 証明のスケッチを用いて、Nビットの形式的理論がNビットのプログラムがエレガント（最小）であることを証明できないことを示す。
• 相互情報量と劣加法性の概念を用いて、結合系の複雑性を分析する。
• LISPでユニバーサルコンピュータUを実装し、具体的な計算とプログラムサイズの測定を示す。

実験結果

リサーチクエスチョン

• RQ1 形式的数学的理論は、任意の対象のプログラムサイズ複雑性を証明できるか？
• RQ2 理由のないままに偶然に真である数学的事実は存在するか？
• RQ3 アルゴリズム情報理論は、数学的知識と形式的体系における本質的限界をどの程度明らかにするか？
• RQ4 Ωに体現された数学的ランダム性の概念は、数学の準経験的見方を正当化できるか？
• RQ5 アルゴリズム情報理論と離散的物理的原理を用いて、生命や知能を定義することは可能か？

主な発見

• Nビットの形式的理論は、Nビットのプログラムがエレガント（最小）であることを証明できない。これは、形式的に確立できる範囲に根本的な限界があることを示している。
• ハーティング確率Ωはアルゴリズム的にランダムであり、いかなる形式的体系でも計算できないため、非還元的数学的真実の自然な例である。
• 理由のないままに偶然に真である数学的事実が存在する。具体的には、Ωのビットは非還元的かつ独立的である。
• 理論は、プログラムサイズ複雑性が、ゲーデルの元々の証明とは異なる別路線による不完全性を示す可能性を示している。
• ホログラフィック原理と物理系における離散的情報含量が示す、理論的コンピュータ科学と理論的物理学の一致が示唆される。
• AITを無限集合へと拡張する問題と、数学的概念の出現を記述する動的理論の開発という、未解決の問題が同定される。