[論文レビュー] Forbidden Information

Leonid A. Levin|arXiv (Cornell University)|Mar 27, 2002

Computability, Logic, AI Algorithms被引用数 7

ひとこと要約

この論文は、任意の再帰的可算な拡張（例：ペアノ算術）が、nビットの入力文の解決に失敗するか、あるいは任意の再帰的可算な実数ρのnビット接頭辞に関するほぼすべての情報を含む必要があることを示している。主な結果は、物理的に実現可能なプロセス（決定的であれ確率的であれ）、特定の数学的系列に関する有意な情報を生成できないことであり、これはゲーデルの不完全性定理における一貫した開き口を閉じるものである。すなわち、PAのような形式的体系の完全化は、いかなる現実的な手段でも根本的には不可能であることを示している。

ABSTRACT

Goedel Incompleteness Theorem leaves open a way around it, vaguely perceived for a long time but not clearly identified. (Thus, Goedel believed informal arguments can answer any math question.) Closing this loophole does not seem obvious and involves Kolmogorov complexity. (This is unrelated to, well studied before, complexity quantifications of the usual Goedel effects.) I consider extensions U of the universal partial recursive predicate (or, say, Peano Arithmetic). I prove that any U either leaves an n-bit input (statement) unresolved or contains nearly all information about the n-bit prefix of any r.e. real r (which is n bits for some r). I argue that creating significant information about a SPECIFIC math sequence is impossible regardless of the methods used. Similar problems and answers apply to other unsolvability results for tasks allowing multiple solutions, e.g. non-recursive tilings.

研究の動機と目的

• 形式的でない、またはアルゴリズム的でない手段が未決定な命題を解決できる可能性があるという、ゲーデルの不完全性定理における長年の開き口を閉じること。
• ペアノ算術のような形式的体系の整合的完全化が、再帰的メソッドだけでなく、物理的に実現可能ないかなるプロセスに対しても不可能であることを示すこと。
• 決定的または確率的プロセスが、数学的系列と形式的体系の拡張との間の相互情報量を増加させることができないことを確立すること。
• 数学的真理に関する物理的プロセスから抽出可能な情報の限界を規定する「独立性仮説」（IP）を形式化し、裏付けを提供すること。
• 特定の数学的系列に関する新しい情報を生成できないことの背後には、アルゴリズム的情報理論における保存則があることを示すこと。

提案手法

• Kolmogorov複雑性と相互情報量を用いて、普遍部分再帰述語の拡張の情報含量を分析する。
• 保存不等式を適用：決定的または確率的プロセスは、系列とその記述との間の相互情報量を増加させることができない。
• 任意の全関数への拡張が、ρのnビット接頭辞に関するほぼすべての情報を含むような特定の再帰的可算実数ρを構成する。
• 独立性仮説（IP）を適用：数学的に定義された系列Xと物理的にアクセス可能な系列Yとの間の相互情報量は、k + n + cで上限が与えられる。ここでkはYの記述長、nはXの命題長である。
• 確率的議論を用いて、確率的アルゴリズムがnビット入力に対して普遍部分再帰述語の全関数への拡張を計算する確率が指数的に小さいことを示す。
• アルゴリズム的確率論および非再帰的タイリング（例：Durand, Levin, Shen 01）の結果を活用し、情報保存に関する主張を強化する。

実験結果

リサーチクエスチョン

• RQ1 物理的に実現可能なプロセス（決定的であれ確率的であれ）、特定の再帰的可算実数のnビット接頭辞に関する有意な情報を生成できるか？
• RQ2 ペアノ算術を再帰的でない、非アルゴリズム的手段（例：直感的推論や物理的プロセス）によって整合的に完全化することは可能か？
• RQ3 独立性仮説（IP）は、数学的真実と物理的システムとの間の情報伝達に関する根本的制約として成立するか？
• RQ4 決定的および確率的プロセスにおける相互情報量の保存が、未決定な数学的系列に関する新しい情報の生成を排除できるか？
• RQ5 非再帰的タイリングや類似構造は、形式的体系と同等の情報理論的限界をどのように示唆するか？

主な発見

• 任意の普遍部分再帰述語の再帰的可算な拡張は、nビットの入力文を解決できないか、あるいは任意の再帰的可算実数ρのnビット接頭辞に関するほぼすべての情報を含む必要がある。
• 確率的アルゴリズムがnビット入力に対して普遍部分再帰述語の全関数への拡張を計算する確率は、O(2^(-n)) / m(K(n)|n)以下であり、これは指数的に小さい。
• アルゴリズム的情報理論における保存則により、物理的に実現可能なプロセスは、数学的系列と形式的体系の拡張との間の相互情報量を増加させることができない。
• 独立性仮説（IP）は、数学的に定義された系列Xと物理的にアクセス可能な系列Yとの間の相互情報量が、k + n + cで上限が与えられることを示唆する。ここでkはYの記述長、nはXの命題長である。
• 特定の数学的系列に関する新しい情報を生成できないことは、アルゴリズムの制限を超えて、物理的現実の根本的制約である。保存不等式がこれを裏付けている。
• この結果により、ゲーデルの不完全性定理における長年の開き口が閉じられ、再帰的でない、あるいは形式的でない手段ですら、PAのような形式的体系における未決定な命題を解決できないことが示された。