[论文解读] Complexity of complexity and maximal plain versus prefix-free Kolmogorov complexity

Bruno Bauwens|arXiv (Cornell University)|Feb 29, 2012

Algorithms and Data Compression被引用 7

一句话总结

本文通过博弈论方法证明了存在具有高条件复杂度的字符串，为普通复杂度与前缀无关复杂度均建立了紧致的 log n − O(1) 上界。该研究提供了索洛瓦伊结果的简洁证明，即普通复杂度与前缀无关复杂度之间的分离，并将其推广，表明对无穷多个 n，存在长度为 n 的字符串，其普通复杂度缺陷有界但前缀无关复杂度缺陷较大，接近理论上的上界。

ABSTRACT

Peter Gacs showed [2] that for every n there exists a bit string x of length n whose plain complexity C(x) has almost maximal conditional complexity relative to x, i.e., C(C(x)|x)≥logn−log(2)n−O(1). Here log2(i)=loglogi etc. Following Elena Kalinina [4], we provide a game-theoretic proof of this result; modifying her argument, we get a better (and tight) bound logn−O(1). We also show the same bound for prefix-free complexity. Robert Solovay's showed [11] that infinitely many strings x have maximal plain complexity but not maximal prefix-free complexity (among the strings of the same length); i.e. for some c: |x|−C(x)≤c and |x|+K(|x|)−K(x)≥log(2) |x|−clog(3) |x|. Using the result above, we provide a short proof of Solovay's result. We also generalize it by showing that for some c and for all n there are strings x of length n with n−C(x)≤c, and n+K(n)−K(x)≥K(K(n)|n)−3K( K(K(n)|n) |n)−c . This is very close to the upperbound K(K(n)|n)+O(1) proved by Solovay.

研究动机与目标

• 提供一种博弈论方法，证明存在具有高条件普通复杂度 C(C(x)|x) 的字符串。
• 将条件复杂度的界从 O(log log n) 改进并紧化为 log n 项中的 O(1)。
• 将结果推广至前缀无关柯尔莫哥洛夫复杂度，证明相同的界依然成立。
• 给出索洛瓦伊关于普通复杂度与前缀无关复杂度分离结果的简明、清晰证明。
• 通过量化普通复杂度与前缀无关复杂度缺陷之间最大可能差距，推广索洛瓦伊的结果。

提出的方法

• 采用博弈论框架分析具有高条件复杂度的字符串构造，建模构建者与验证者之间的交互。
• 该论证源自叶莲娜·卡林尼娜的方法，但经过优化，将误差项从 O(log log n) 紧化为 O(1)。
• 该方法利用柯尔莫哥洛夫复杂度与条件复杂度的结构，以界定在给定 x 时 C(x) 的信息含量。
• 通过使用前缀无关码和自界定程序，将同一框架应用于前缀无关复杂度。
• 证明利用了复杂度的复杂度 K(K(n)|n) 控制前缀无关复杂度最大缺陷的事实。
• 通过将这些界与索洛瓦伊已知的上界结合，论文推导出普通复杂度与前缀无关复杂度缺陷之间近乎最优的差距。

实验结果

研究问题

• RQ1 对于长度为 n 的字符串，条件普通复杂度 C(C(x)|x) 的最紧可能界是什么？
• RQ2 博弈论方法能否用于改进现有条件复杂度的界？
• RQ3 对于相同长度的字符串，普通复杂度与前缀无关柯尔莫哥洛夫复杂度之间的差距最大可以达到多大？
• RQ4 索洛瓦伊关于普通复杂度与前缀无关复杂度分离的结果能否通过更简单、更结构化的论证重新证明？
• RQ5 对于长度为 n 且普通复杂度缺陷有界的字符串 x，n + K(n) − K(x) 的最大可能值是多少？

主要发现

• 本文为某些长度为 n 的字符串 x 建立了条件普通复杂度 C(C(x)|x) 的紧致界 log n − O(1)。
• 相同的界也适用于前缀无关复杂度，表明对某些长度为 n 的字符串 x，有 K(K(x)|x) ≥ log n − O(1)。
• 给出了索洛瓦伊结果的简明证明，表明存在无穷多个字符串 x，满足 |x| − C(x) ≤ c，但 |x| + K(|x|) − K(x) ≥ log(2)|x| − c log(3)|x|。
• 本文通过证明对所有 n，均存在长度为 n 的字符串 x，使得 n − C(x) ≤ c 且 n + K(n) − K(x) ≥ K(K(n)|n) − 3K(K(K(n)|n)|n) − c，推广了索洛瓦伊的结果。
• 该推广界被证明非常接近索洛瓦伊已知的上界 K(K(n)|n) + O(1)，表明其近乎最优。
• 结果表明，普通复杂度与前缀无关复杂度之间的差距可被定量界定，且该差距在小的加法常数项内达到最大。