[論文レビュー] Program-Size Versus Time Complexity, Speed-Up and Slowdown Phenomena in Small Turing Machines

Joost J. Joosten, Fernando Soler Toscano+1 more|arXiv (Cornell University)|Feb 26, 2011

Cellular Automata and Applications参考文献 6被引用数 4

ひとこと要約

本稿は、2,2）、（3,2）、および（4,2）マシンのサンプルを含む小さなチューリングマシンにおいて、プログラムサイズの複雑さと時間計算量のトレードオフを実験的に調査している。すべてのこのようなマシンを網羅的に分析することで、状態数を増やすと一般に著しい遅延が生じることが明らかになった—平均的な遅延は2,300倍以上に達する—一方で、高速化はまれで限定的であり、小さなチューリングマシンの『マイクロ・ユニバース』において、広範な遅延現象が存在することが示された。

ABSTRACT

The aim of this paper is to undertake an experimental investigation of the trade-offs between program-size and time computational complexity. The investigation includes an exhaustive exploration and systematic study of the functions computed by the set of all 2-color Turing machines with 2, 3 and 4 states--denoted by (n,2) with n the number of states--with particular attention to the runtimes and space usages when the machines have access to larger resources (more states). We report that the average runtime of Turing machines computing a function almost surely increases as a function of the number of states, indicating that machines not terminating (almost) immediately tend to occupy all the resources at hand. We calculated all time complexity classes to which the algorithms computing the functions found in both (2,2) and (3,2) belong to, and made a comparison among these classes. For a selection of functions the comparison was extended to (4,2). Our study revealed various structures in the micro-cosmos of small Turing machines. Most notably we observed "phase-transitions" in the halting-probability distribution that we explain. Moreover, it is observed that short initial segments fully define a function computed by a Turing machine.

研究の動機と目的

• 小さなチューリングマシンにおけるプログラムサイズの複雑さ（記述長）と時間計算量の関係を調査すること。
• （2,2）、（3,2）、および（4,2）チューリングマシンが計算する関数について、状態数を増加させると実行時間性能にどのように影響するかを調査すること。
• 小さなチューリングマシンの『マイクロ・ユニバース』における構造的パターン、フェーズ転移、計算行動を同定すること。
• 異なるマシンサイズ間で速度向上および遅延現象を定量化し、その統計的有意性を評価すること。

提案手法

• 2, 3、および4状態の2色チューリングマシンを網羅的に列挙し、シミュレーションすること。
• 入力0から20までの実行時間、メモリ使用量、出力パターンを体系的に計算すること。
• すべての計算された関数をその時間計算量クラスに分類し、マシンサイズ間で比較すること。
• 停止確率と実行時間分布の統計的分析により、フェーズ転移を検出すること。
• （2,2）と（3,2）マシン間でアルゴリズムの性能を比較し、速度向上および遅延要因を計算すること。
• 速度向上と遅延の確率を推定し、観察された傾向の統計的有意性を評価すること。

実験結果

リサーチクエスチョン

• RQ1 2色チューリングマシンの状態数を増加させると、計算する関数の平均実行時間にどのように影響するか？
• RQ2 （2,2）から（3,2）チューリングマシンに移行する際、速度向上と遅延の頻度および大きさはどの程度か？
• RQ3 計算ステップ数の関数としての停止確率分布に、検出可能なフェーズ転移は存在するか？
• RQ4 小さな初期入力セグメントが、チューリングマシンの全行動をどれほど決定づけるか？
• RQ5 （4,2）マシンの空間は、（3,2）と比較して、速度向上および遅延の傾向においてどのように異なるか？

主な発見

• 平均して、状態数を増やすと実行時間が著しく延び、（3,2）のアルゴリズムの平均は（2,2）で最も遅いものよりも2,379.75倍も長くなった。
• 観察された最大の遅延は約1.198 × 10⁶倍に達し、状態を追加することで性能が著しく劣化することを示している。
• （3,2）で（2,2）の関数を計算する3,414個のアルゴリズムのうち、わずか122個しか高速化されておらず、50/50の速度向上仮定下では確率が約10⁻¹⁰⁸に達するため、遅延が統計的に支配的であることが確認された。
• 速度向上はまれだが存在した：（2,2）の74の関数のうち、少なくとも1つの（3,2）アルゴリズムが高速化されており、平均的な速度向上要因は1.23であった。
• （4,2）では、関数のうち0.0069が線形の高速化（2.5〜3倍速）を示した。これは（3,2）の傾向を裏付け、速度向上が希少で限定的であることを確認した。
• 停止確率分布には明確なフェーズ転移が見られ、臨界ステップ数での計算行動の構造的変化を示唆していた。