[논문 리뷰] Most Programs Stop Quickly or Never Halt

Cristian S. Calude, Michael Stay|ArXiv.org|2006. 10. 26.

Computability, Logic, AI Algorithms참고 문헌 11인용 수 4

한 줄 요약

이 논문은 프로그램 공간과 시간에 대한 확률 공간을 확장하여 히딩 문제에 대한 확률적 분석을 제안한다. 여기서는 사전에 계산 가능한 실행시간 분포를 사용한다. 이에 따라 임의의 k > 0에 대해, T 시간 이내에 정지하지 않은 N비트 프로그램이 T 이후에 정지할 확률이 2^{-k} 미만임을 효과적으로 증명한다. 이는 장시간 실행이 실제로 드물다는 것을 보여준다.

ABSTRACT

Since many real-world problems arising in the fields of compiler optimisation, automated software engineering, formal proof systems, and so forth are equivalent to the Halting Problem--the most notorious undecidable problem--there is a growing interest, not only academically, in understanding the problem better and in providing alternative solutions. Halting computations can be recognised by simply running them; the main difficulty is to detect non-halting programs. Our approach is to have the probability space extend over both space and time and to consider the probability that a random $N$-bit program has halted by a random time. We postulate an a priori computable probability distribution on all possible runtimes and we prove that given an integer k>0, we can effectively compute a time bound T such that the probability that an N-bit program will eventually halt given that it has not halted by T is smaller than 2^{-k}. We also show that the set of halting programs (which is computably enumerable, but not computable) can be written as a disjoint union of a computable set and a set of effectively vanishing probability. Finally, we show that ``long'' runtimes are effectively rare. More formally, the set of times at which an N-bit program can stop after the time 2^{N+constant} has effectively zero density.

연구 동기 및 목표

• 프로그램과 시간에 대한 확률을 확장하여, 양자적이지 않은 확률적 분석을 통해 히딩 문제를 다루는 것.
• 임의의 k > 0에 대해, T 시간 이내에 정지하지 않은 프로그램이 T 이후에 정지할 확률이 2^{-k} 미만이 되는 시간 경계 T를 효과적으로 계산할 수 있음을 보여주는 것.
• 정지하는 프로그램의 집합이 계산 가능한 집합과 효과적으로 확률이 0에 가까운 집합의 서로소 합집합으로 분해될 수 있음을 보여주는 것.
• N비트 프로그램의 실행시간이 2^{N+constant}보다 훨씬 길 경우, 그 밀도가 실제로 0에 가까운 것으로 간주될 수 있음을 주장하는 것.

제안 방법

• 모든 가능한 실행시간에 대한 사전에 계산 가능한 확률 분포를 가정하여, 프로그램과 시간의 공동 확률 공간을 정의한다.
• 균일한 프로그램 분포와 선택된 실행시간 분포의 곱 측도를 사용하여 조건부 정지 확률을 계산한다.
• T 시점까지 정지하지 않은 경우, T 이후에 정지할 확률이 효과적으로 계산 가능한 T에 대해 2^{-k} 이하로 유계임을 입증한다.
• 알고리즘적 무작위성을 활용하여, 비무작위적이고 장시간 실행되는 경우가 실제로 드물다는 것을 보여준다.
• 정지하는 프로그램의 집합이 계산 가능한 집합과 확률이 2^{-k} 미만인 집합의 서로소 합집합임을 증명한다.
• 2^{N+constant} 시간 이내에 정지하지 않은 프로그램은 이후에 알고리즘적으로 비무작위적인 시간에 정지할 수 없음을 보여준다.

실험 결과

연구 질문

• RQ1 N비트 프로그램이 T 이후에 정지할 확률이 2^{-k} 미만이 되는 시간 경계 T를 효과적으로 계산할 수 있는가?
• RQ2 정지하는 프로그램의 집합을 계산 가능한 부분과 확률이 효과적으로 0에 가까운 부분으로 분해할 수 있는가?
• RQ3 N비트 프로그램의 실행시간이 2^{N+constant}보다 훨씬 길 경우, 실제로 드물게 발생하는가?
• RQ4 계산 가능한 실행시간 분포가 모두 유사한 장시간 실행의 드물음을 보여주므로, 실행시간 분포의 선택이 한계에서 중요할까?

주요 결과

• 임의의 k > 0에 대해, T 시간 이내에 정지하지 않은 N비트 프로그램이 T 이후에 정지할 조건부 확률이 2^{-k} 이하가 되는 시간 경계 T를 효과적으로 계산할 수 있다.
• 정지하는 프로그램의 집합은 임의의 k > 0에 대해, 계산 가능한 집합과 확률이 효과적으로 2^{-k} 이하인 집합의 서로소 합집합으로 표현할 수 있다.
• N비트 프로그램의 실행시간이 2^{N+constant}를 초과하는 경우, 계산 가능한 실행시간 분포의 선택에 관계없이 실제로 밀도가 0에 가깝다.
• 수렴하는 튜링 기계에서 N비트 프로그램이 영원히 정지하지 않을 확률은 N이 증가함에 따라 1에 수렴한다.
• 2^{N+constant} 시간 이내에 정지하지 않은 프로그램은 이후에 알고리즘적으로 비무작위적인 시간에 정지할 수 없다.
• 특정 계산 가능한 실행시간 분포의 선택에 관계없이 결과가 동일하게 유지되며, 대부분의 장시간 실행이 실제로 드물다는 조건을 만족하면 된다.