[논문 리뷰] Short lists with short programs for functions

Nikolay Vereshchagin|arXiv (Cornell University)|2014. 09. 20.

Computability, Logic, AI Algorithms참고 문헌 1인용 수 3

한 줄 요약

이 논문은 계산 가능한 함수에 대해 근사 최적 프로그램을 포함하는 단기 목록의 크기에 대한 기본적인 하한을 설정한다. 어떤 총계산 가능한 함수가 프로그램을 목록으로 매핑하더라도, 그 목록에 최소한 $2^{|p| - \varepsilon(p) - O(1)}$개의 문자열이 포함되어야 하며, 이는 최소한의 프로그램보다 $\varepsilon(p)$ 비트 더 긴 프로그램을 포함할 수 있도록 보장한다. 이는 무수히 많은 프로그램에 대해 성립한다.

ABSTRACT

Let $\{ϕ_p\}$ be an optimal Gödel numbering of the family of computable functions (in Schnorr's sense), where $p$ ranges over binary strings. Assume that a list of strings $L(p)$ is computable from $p$ and for all $p$ contains a $ϕ$-program for $ϕ_p$ whose length is at most $\varepsilon$ bits larger that the length of the shortest $ϕ$-program for $ϕ_p$. We show that for infinitely many $p$ the list $L(p)$ must have $2^{|p|-\varepsilon-O(1)}$ strings. Here $\varepsilon$ is an arbitrary function of $p$.

연구 동기 및 목표

• 어떤 문자열에 대한 프로그램이 주어지면, 그 문자열에 대해 근사 최적 프로그램을 포함하는 단기 목록을 출력하는 총계산 가능한 알고리즘의 존재 여부에 관한 알렉산더 셰인의 질문을 해결하기 위해.
• 목록이 최소한의 길이보다 $\varepsilon(p)$ 비트 이내의 프로그램을 포함해야 할 경우, 그러한 목록의 크기에 대한 날카운 하한을 설정하기 위해.
• 그러한 총계산 가능한 단기 목록 생성이 효율적일 수 없다는 것을 보여주기 위해 — 특히, 목록 크기가 입력 길이에서 초과 길이 $\varepsilon(p)$를 뺀 값에 대해 지수적으로 증가해야 한다는 점을 입증하기 위해.

제안 방법

• 목표 문자열의 고도의 콜모고로프 복잡도를 확보하기 위해 대각선화 기법을 사용하여 유니버설 머신 $U$와 프로그램을 문자열로 매핑하는 계산 가능한 함수 $V$를 구성한다.
• 유니버설 머신 $U$와 $\Phi$ (목록을 위한 유니버설 머신)의 그래프를 재귀적으로 열거하여 부분 근사치 $\bar{U}$와 $\bar{\Phi}$를 유지한다.
• 현재 근사치 상태가 요구되는 복잡도 및 목록 크기 제약 조건을 만족하지 못할 경우를 감지하기 위한 조건 검사 메커니즘을 도입한다.
• 이러한 실패가 발생할 경우, 프로그램과 문자열 쌍 ($q_{kn}, x_{kn}$)을 동적으로 재할당하여 필요한 성질을 복구하고, 고복잡도의 문자열과 큰 목록 크기를 보장한다.
• 계산 가능한 수의 문자열이 적절한 복잡도와 목록 호환성을 유지할 수 있음을 보여주기 위해 수량적 추론을 적용한다.
• 프로그램 길이 $|p|$와 $V$-프로그램 $q$ 사이의 선형적으로 유한한 번역기의 존재에 의존하여, $|p|$와 $\varepsilon(p)$의 관계를 유지함으로써 지수적 하한을 보존한다.

실험 결과

연구 질문

• RQ1 어떤 $U$-프로그램 $p$가 문자열 $x$에 대해 주어지면, 그에 대해 $C_U(x) + \varepsilon(p)$ 비트 이내의 길이를 가진 $U$-프로그램을 포함하는 단기 목록 $L(p)$를 출력하는 총계산 가능한 함수가 존재하는가?
• RQ2 목록이 최적에 $\varepsilon(p)$ 비트 이내의 프로그램을 포함해야 할 경우, 그러한 목록 $L(p)$의 최소 크기는 얼마인가?
• RQ3 $|x|$ 또는 $|p|$에 대해 다항식으로 목록 크기를 유 bounds할 수 있을까? 여전히 근사 최적 프로그램 포함 보장을 할 수 있는가?
• RQ4 목록 크기 $L(p)$는 초과 길이 $\varepsilon(p) = C_{U,L(p)}(U(p)) - |U(p)|$와 어떻게 관련이 있는가?
• RQ5 단기 목록 생성의 효율성에 대한 본질적인 제약이 존재하는가? 이로 인해 무수히 많은 입력에 대해 지수적 목록 크기가 피할 수 없는가?

주요 결과

• 모든 총계산 가능한 함수 $L$가 프로그램을 유한한 목록으로 매핑하는 한, 무수히 많은 프로그램 $p$에 대해 $L(p)$는 최소한 $2^{|x| - \varepsilon(p) - O(1)}$개의 문자열을 포함해야 하며, 이는 $C_U(x) + \varepsilon(p)$ 비트 이내의 길이를 가진 $U$-프로그램을 포함할 수 있도록 보장한다.
• 무수히 많은 $p$에 대해 $L(p)$의 크기는 $2^{|p| - \varepsilon(p) - O(1)} - 2$ 이상이어야 하며, 여기서 $\varepsilon(p) = C_{U,L(p)}(U(p)) - |U(p)|$이다.
• 이 하한은 날카로운 편이며, 예를 들어 $L_i(p) = \{p\} \cup \{0,1\}^{<i}$와 같은 특정 계산 가능한 목록에 대해, 목록 크기와 목록 내 프로그램 길이가 체계적 상수 오차 이내로 이론적 하한과 일치함을 보여준다.
• $\varepsilon(p)$가 $C_{U,L(p)}(U(p)) - C_U(U(p))$로 정의되더라도 결과는 그대로 성립함을 보여주며, 이는 표준 콜모고로프 복잡도 차이에 대해서도 하한이 적용됨을 의미한다.
• 이 구성은 효과적이다: 재귀 알고리즘을 설계하여 열거 과정 중에 필요한 성질을 유지할 수 있으며, 그러한 문자열과 프로그램의 존재를 보장한다.
• 지수적 하한은 계산적 추론에 의해 유도되며, 고복잡도를 가진 길이 $n$인 문자열의 수가, 낮은 기술 복잡도를 가진 작은 목록이 커버할 수 있는 문자열 수를 초과하기 때문이다.