[논문 리뷰] On the Running Time of the Shortest Programs

Norbert Bátfai|ArXiv.org|2009. 08. 10.

Computability, Logic, AI Algorithms참고 문헌 5인용 수 4

한 줄 요약

이 논문은 주어진 문자열을 생성하는 최단 프로그램의 실행 시간을 조사하며, 문자열 $ w $에 대한 모든 최단 프로그램 중에서 가장 작은 실행 시간을 의미하는 $ K_T(w) $라는 콜모고로프 실행 시간 복잡도를 도입한다. 비압축 가능 문자열에 대해 $ K_T(w) = O(1) $임을 입증하고, 바이저 베버 및 플라시드 플라티푸스 기계를 분석하여 극단적인 실행 시간 행동을 탐구하며, 매우 압축 가능성이 높은 문자열일지라도 최단 프로그램이 짧은 실행 시간을 가질 수 있음을 보여준다.

ABSTRACT

The Kolmogorov complexity of the word w is equal to the length of the shortest concatenation of program Z and its input x with which the word w is computed by the universal turing machine U. The question introduced in this paper is the following: How long do the shortest programs run for?

연구 동기 및 목표

• 주어진 문자열을 생성하는 최단 프로그램의 실행 시간 행동을 그 길이를 넘어서 이해하는 것.
• 새로운 복잡도 측정법인 콜모고로프 실행 시간 복잡도 $ K_T(w) $를 정의하고 분석하는 것, 이는 $ w $에 대한 모든 최단 프로그램 중에서 가장 작은 실행 시간을 의미한다.
• 매우 압축 가능성이 높은 문자열(예: 바이저 베버 단어)에 대한 최단 프로그램이 매우 긴 시간 동안 실행될 수 있는지 조사하는 것.
• 특히 바이저 베버 및 플라시드 플라티푸스 기계를 연구하여 콜모고로프 복잡도와 실행 시간 간의 관계를 탐구하는 것.
• 특히 비압축 가능하고 압축 가능한 문자열에 대해 $ K_T(w) $에 대한 경험적 증거와 이론적 상한을 제공하는 것.

제안 방법

• 모든 최단 프로그램 중에서 가장 작은 실행 시간을 의미하는 $ K_T(w) = \min\{ t_U(Zx) \mid U(Zx) = w, \, |Zx| = K(w) \} $를 정의한다.
• 실행 시간 $ t_U(Zx) $를 단계 수로 측정하기 위해 유니버설 튜링 기계 $ U $를 사용하여 프로그램 $ Zx $를 시뮬레이션한다.
• 유니버설 기계 오버헤드에 대한 상한을 적용: $ t_U(Zx) \leq c_{\text{init}}|Zx| + c_{\text{run}} t_Z(|x|) $로, $ K_t(w) \leq c|w| $임을 보여준다.
• 1에서 4까지의 $ n $에 대해 특정 바이저 베버 기계 $ \mathcal{M}_{BB}(n) $를 분석하여 실행 시간과 출력을 계산한다.
• 고유의 C 프로그램을 사용하여 플라시드 플라티푸스 기계를 탐색하고 검증한다. 이 기계는 적은 수의 상태와 규칙으로 많은 1을 생성한다.
• C 코드 내의 규칙 인덱싱 체계를 사용하여 튜링 기계 전이를 효율적으로 표현하고 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 주어진 문자열 $ w $를 생성하는 모든 최단 프로그램 중에서 가장 짧은 실행 시간은 무엇인가?
• RQ2 비압축 가능 문자열 $ w $에 대한 최단 프로그램이 오랫동안 실행될 수 있는가, 아니면 실행 시간이 유한한가?
• RQ3 매우 압축 가능성이 높은 문자열(예: 바이저 베버 단어)에 대한 최단 프로그램의 실행 시간은 그 길이와 어떻게 비교되는가?
• RQ4 특히 $ K(w) \approx |w| $인 문자열에 대해 $ K_T(w) $에 대한 이론적 상한 또는 하한이 존재하는가?
• RQ5 실행 시간이 길이와 독립적으로 특징지어질 수 있는가, 특히 결정 불가능성의 맥락에서?

주요 결과

• 비압축 가능 문자열에서 $ K(w) = |w| + |Z_{\text{trivial}}| $일 경우, 최단 프로그램의 실행 시간은 $ O(1) $로 유한하며, $ K_T(w) \leq c_{\text{init}}|Z_{\text{trivial}}||w| $로 보여진다.
• 논문은 비압축 가능 문자열에 대한 최단 프로그램이 문자열 길이에 대해 상수 시간 내에서 실행됨을 확인하며, 이는 $ K_T(w) = O(1) $임을 의미한다.
• $ n=4 $일 때, 바이저 베버 기계 $ \mathcal{M}_{BB}(4) $는 $ 1^{12} $을 생성하고 95에서 106단계 동안 실행되며, 짧은 프로그램이 비트리플 실행 시간을 가질 수 있음을 보여준다.
• 5개 상태와 9개 규칙을 가진 플라시드 플라티푸스 기계는 20,927단계 동안 $ 1^{160} $을 생성하며, 짧은 프로그램이 긴 실행 시간 동안 매우 긴 출력을 생성할 수 있음을 보여준다.
• 경험적 결과는 매우 압축 가능성이 높은 문자열(예: $ 1^{12} $)에 대한 최단 프로그램이 문자열 길이보다 훨씬 긴 실행 시간을 가질 수 있음을 보여주지만, 여전히 유니버설 기계 오버헤드에 의해 유한하게 제한됨을 확인한다.
• 이 연구는 최단 프로그램이 항상 정지하고 유한하며 유한한 실행 시간을 가지며, 무한히 실행되지 않는다는 것을 확인한다.