[논문 리뷰] Complexity of complexity and maximal plain versus prefix-free Kolmogorov complexity

Bruno Bauwens|arXiv (Cornell University)|2012. 02. 29.

Algorithms and Data Compression인용 수 7

한 줄 요약

이 논문은 고전적 및 접두사 자유 Kolmogorov 복잡도에 대해 log n − O(1)의 날카러운 상한을 확보하면서, 조건부 복잡도가 높은 문자열의 존재를 게임 이론적 방법으로 증명한다. 이는 Solovay의 결과에 대한 간결한 증명을 제공하며, 평범한 복잡도와 접두사 자유 복잡도 사이의 분리에 대해 일반화하여, 무수히 많은 n에 대해, 평균 복잡도 결함은 유계이지만 접두사 자유 복잡도 결함은 이론적 상한에 가까운 문자열이 존재함을 보여준다.

ABSTRACT

Peter Gacs showed [2] that for every n there exists a bit string x of length n whose plain complexity C(x) has almost maximal conditional complexity relative to x, i.e., C(C(x)|x)≥logn−log(2)n−O(1). Here log2(i)=loglogi etc. Following Elena Kalinina [4], we provide a game-theoretic proof of this result; modifying her argument, we get a better (and tight) bound logn−O(1). We also show the same bound for prefix-free complexity. Robert Solovay's showed [11] that infinitely many strings x have maximal plain complexity but not maximal prefix-free complexity (among the strings of the same length); i.e. for some c: |x|−C(x)≤c and |x|+K(|x|)−K(x)≥log(2) |x|−clog(3) |x|. Using the result above, we provide a short proof of Solovay's result. We also generalize it by showing that for some c and for all n there are strings x of length n with n−C(x)≤c, and n+K(n)−K(x)≥K(K(n)|n)−3K( K(K(n)|n) |n)−c . This is very close to the upperbound K(K(n)|n)+O(1) proved by Solovay.

연구 동기 및 목표

• 길이 n인 문자열에 대해 조건부 평범한 복잡도 C(C(x)|x)가 높은 문자열의 존재를 게임 이론적 방법으로 증명하는 것.
• log n 항에서 O(log log n)에서 O(1)로 조건부 복잡도의 상한을 향상하고 날카럽게 다듬는 것.
• 동일한 상한이 접두사 자유 Kolmogorov 복잡도에도 적용됨을 보여주는 것.
• Solovay의 결과에 대해 간결하고 명료한 증명을 제공하는 것.
• Solovay의 결과를 일반화하여, 평범한 복잡도와 접두사 자유 복잡도 결함 간의 최대 가능한 격차를 정량화하는 것.

제안 방법

• 빌더와 검증자 간의 상호작용을 모델링하는 게임 이론적 프레임워크를 사용하여 조건부 복잡도가 높은 문자열의 구성 분석을 수행한다.
• Elena Kalinina의 접근 방식을 변형하였지만, O(log log n)에서 O(1)로 개선된 날카러운 오차 항을 확보하기 위해 보완하였다.
• Kolmogorov 복잡도와 조건부 복잡도의 구조를 활용하여, x가 주어졌을 때 C(x)의 정보량을 제한한다.
• 접두사 자유 코드와 자가 구분 프로그램을 사용함으로써 동일한 프레임워크를 접두사 자유 복잡도에 적용한다.
• K(K(n)|n)의 복잡도가 접두사 자유 복잡도의 최대 결함을 제어한다는 사실을 이용한다.
• Solovay의 기존 상한과 이론적 상한을 결합함으로써, 평범한 복잡도와 접두사 자유 복잡도의 결함 간의 거의 최적의 격차를 유도한다.

실험 결과

연구 질문

• RQ1 길이 n인 문자열에 대해 조건부 평범한 복잡도 C(C(x)|x)의 최대 가능한 상한은 무엇인가?
• RQ2 게임 이론적 접근 방식을 사용하여 기존의 조건부 복잡도 상한을 향상시킬 수 있는가?
• RQ3 같은 길이를 가진 문자열에 대해 평범한 복잡도와 접두사 자유 복잡도 사이의 격차는 얼마나 클 수 있는가?
• RQ4 Solovay의 결과는 더 단순하고 체계적인 추론을 통해 재현될 수 있는가?
• RQ5 평균 복잡도 결함이 유계인 길이 n인 문자열 x에 대해, n + K(n) − K(x)의 최대 가능한 값은 무엇인가?

주요 결과

• 논문은 길이 n인 어떤 문자열 x에 대해 조건부 평범한 복잡도 C(C(x)|x)에 대해 log n − O(1)의 날카러운 상한을 확립한다.
• 동일한 상한이 접두사 자유 복잡도에도 적용되며, 길이 n인 어떤 x에 대해 K(K(x)|x) ≥ log n − O(1)임을 보여준다.
• Solovay의 결과에 대해 간결한 증명을 제공하여, 무수히 많은 문자열 x에 대해 |x| − C(x) ≤ c 이지만 |x| + K(|x|) − K(x) ≥ log(2)|x| − c log(3)|x|임을 보여준다.
• 논문은 Solovay의 결과를 일반화하여, 모든 n에 대해 길이 n인 문자열 x가 존재함을 보여주며, n − C(x) ≤ c 이고 n + K(n) − K(x) ≥ K(K(n)|n) − 3K(K(K(n)|n)|n) − c임을 보여준다.
• 이 일반화된 상한은 Solovay의 알려진 상한 K(K(n)|n) + O(1)에 매우 가까운 것으로 나타나, 거의 최적임을 보여준다.
• 결과들은 평범한 복잡도와 접두사 자유 복잡도 간 격차가 정량적으로 제한될 수 있으며, 이러한 격차는 작은 덧셈 항을 제외하고 최대임을 보여준다.