[論文レビュー] On the Running Time of the Shortest Programs

Norbert Bátfai|ArXiv.org|Aug 10, 2009

Computability, Logic, AI Algorithms参考文献 5被引用数 4

ひとこと要約

この論文は、与えられた文字列を生成する最短プログラムの実行時間を調査し、文字列 $ w $ のすべての最短プログラムのうち最小の実行時間である $ K_T(w) $ をコルモゴロフ時間複雑性として導入する。非圧縮可能文字列に対しては $ K_T(w) = O(1) $ であることが示され、バジル・ビーバーおよびプラシド・プラットピュースのマシンを用いて極端な実行時間行動を分析し、非常に圧縮可能な文字列ですら最短プログラムが短時間で実行されることを示している。

ABSTRACT

The Kolmogorov complexity of the word w is equal to the length of the shortest concatenation of program Z and its input x with which the word w is computed by the universal turing machine U. The question introduced in this paper is the following: How long do the shortest programs run for?

研究の動機と目的

• 文字列の長さを超えて、与えられた文字列を生成する最短プログラムの実行時間行動を理解すること。
• コルモゴロフ時間複雑性 $ K_T(w) $ として、文字列 $ w $ のすべての最短プログラムにおける最小実行時間の定義と分析を行うこと。
• 非常に圧縮可能な文字列（例：バジル・ビーバー文字列）の最短プログラムが、極めて長い時間実行される可能性があるかどうかを調査すること。
• 具体的なマシン（特にバジル・ビーバーおよびプラシド・プラットピュースのマシン）を用いて、コルモゴロフ複雑性と実行時間の関係を調査すること。
• 特に非圧縮可能および圧縮可能な文字列に対して、$ K_T(w) $ の実験的証拠と理論的上限・下限を提供すること。

提案手法

• 定義：$ K_T(w) = \min\{ t_U(Zx) \mid U(Zx) = w, \, |Zx| = K(w) \} $、すなわち、$ w $ を出力するすべての最短プログラムのうち最小の実行時間。
• ユニバーサルチューリングマシン $ U $ を用いてプログラム $ Zx $ をシミュレートし、ステップ数として実行時間 $ t_U(Zx) $ を測定する。
• ユニバーサルマシンのオーバーヘッドに関する境界を適用：$ t_U(Zx) \leq c_{\text{init}}|Zx| + c_{\text{run}} t_Z(|x|) $ であり、これにより $ K_t(w) \leq c|w| $ が示される。
• $ n = 1 $ から $ 4 $ までのバジル・ビーバー・マシン $ \mathcal{M}_{BB}(n) $ を分析し、実行時間と出力を計算する。
• 独自のCプログラムを用いて、少ない状態数とルールで多数の1を生成するプラシド・プラットピュース・マシンを探索・検証する。
• Cコードにおけるルールインデキシング方式を用いて、チューリングマシンの遷移を効率的に表現・シミュレートする。

実験結果

リサーチクエスチョン

• RQ1 与えられた文字列 $ w $ を生成するすべての最短プログラムにおける最小実行時間は何か？
• RQ2 非圧縮可能文字列 $ w $ の最短プログラムは、長時間実行される可能性があるか、それとも実行時間は有界であるか？
• RQ3 非常に圧縮可能な文字列（例：バジル・ビーバー文字列）の最短プログラムの実行時間は、その長さと比べてどうなるか？
• RQ4 特に $ K(w) \approx |w| $ の場合に、$ K_T(w) $ に理論的上限または下限があるか？
• RQ5 決定不能性の文脈において、最短プログラムの実行時間は長さとは独立に特徴付けられるか？

主な発見

• 非圧縮可能文字列 $ K(w) = |w| + |Z_{\text{trivial}}| $ の場合、最短プログラムの実行時間は $ O(1) $ で有界であり、$ K_T(w) \leq c_{\text{init}}|Z_{\text{trivial}}||w| $ により示される。
• この論文は、非圧縮可能文字列の最短プログラムが文字列長に対して定数時間で実行されることを確認しており、$ K_T(w) = O(1) $ であることを示唆している。
• $ n=4 $ の場合、バジル・ビーバー・マシン $ \mathcal{M}_{BB}(4) $ は $ 1^{12} $ を出力し、95〜106ステップで実行される。これは、短いプログラムでも非自明な実行時間を持つ可能性を示している。
• 5状態・9ルールのプラシド・プラットピュース・マシンは、20,927ステップで $ 1^{160} $ を生成する。短いプログラムが長時間実行され、非常に長い出力を生成することを示している。
• 実験的結果から、非常に圧縮可能な文字列（例：$ 1^{12} $）の最短プログラムは、文字列長よりもはるかに長い実行時間を示すが、依然としてユニバーサルマシンのオーバーヘッドによって有界であることが判明した。
• この研究は、文字列の最短プログラムが無限に実行されることはなく、常に停止し、有限で有界な実行時間を有することを確認しており、最短プログラムは常に有限時間で終了するという仮説を支持している。