[論文レビュー] Short lists with short programs for functions

Nikolay Vereshchagin|arXiv (Cornell University)|Sep 20, 2014

Computability, Logic, AI Algorithms参考文献 1被引用数 3

ひとこと要約

本稿は、計算可能関数の近似的最適プログラムを含むショートリストのサイズに対する基本的な下界を確立する。任意の全計算可能関数がプログラムからリストへ写像する場合、そのリストに、最短のものより ε(p) ビットだけ長いプログラムを含める必要があるような、無限に多くのプログラム p が存在する。その場合、リストには少なくとも $2^{|p| - \varepsilon(p) - O(1)}$ 個の文字列を含む必要がある。

ABSTRACT

Let $\{ϕ_p\}$ be an optimal Gödel numbering of the family of computable functions (in Schnorr's sense), where $p$ ranges over binary strings. Assume that a list of strings $L(p)$ is computable from $p$ and for all $p$ contains a $ϕ$-program for $ϕ_p$ whose length is at most $\varepsilon$ bits larger that the length of the shortest $ϕ$-program for $ϕ_p$. We show that for infinitely many $p$ the list $L(p)$ must have $2^{|p|-\varepsilon-O(1)}$ strings. Here $\varepsilon$ is an arbitrary function of $p$.

研究の動機と目的

• 任意の文字列の U-プログラム p が与えられたとき、その文字列の近似的最適プログラムを含むショートリスト L(p) を出力する全計算可能アルゴリズムが存在するかというアレクサンドル・シェンの問いを解決すること。
• リストに最小長さより ε(p) ビット以内の長さのプログラムが含まれる場合、そのようなショートリストのサイズに対するタイトな下界を確立すること。
• このような全計算可能ショートリスト構成が効率的であることは不可能であることを示すこと — 特に、リストのサイズが入力長さから過剰長 ε(p) を引いたものに関して指数的に増大しなければならないこと。

提案手法

• ユニバーサルマシン $U$ と、プログラムから文字列へ写像する計算可能関数 $V$ を、ターゲット文字列の高コルモゴロフ複雑度を保証する対角線的議論を用いて構築する。
• ユニバーサルマシン $U$ と $\Phi$（リスト用のユニバーサルマシン）のグラフの再帰的列挙を用い、部分近似 $\bar{U}$ と $\bar{\Phi}$ を維持する。
• 現在の近似状態が必要な複雑度およびリストサイズ制約を満たさない場合を検出するための条件チェック機構を採用する。
• そのような失敗が発生した場合、動的にプログラム・文字列ペア ($q_{kn}, x_{kn}$) を再割り当てして、必要な性質を回復させ、高複雑度の文字列および大きな必要なリストサイズを持つ文字列の存在を保証する。
• 数え上げ的議論を用いて、常に適切な複雑度とリスト適合性を持つ未使用文字列が存在することを示す。
• V から U への線形有界翻訳機の存在に依存し、プログラム長 $|p|$ を V-プログラム $q$ の長さに結びつけることで、指数的下界を保持する。

実験結果

リサーチクエスチョン

• RQ1 任意の U-プログラム p が文字列 x のものであるとき、x の U-プログラムで長さが $C_U(x) + \varepsilon(p)$ 以内のものを含むショートリスト $L(p)$ を出力する全計算可能関数が存在するか？
• RQ2 リストに最小長さより ε(p) ビット以内の長さのプログラムが含まれるという条件下で、そのようなショートリスト $L(p)$ の最小サイズは何か？
• RQ3 $|x|$ や $|p|$ に対して多項式的に有界なサイズの $L(p)$ であっても、近似的最適プログラムの包含を保証できるか？
• RQ4 ショートリストのサイズ $L(p)$ と過剰長 $\varepsilon(p) = C_{U,L(p)}(U(p)) - |U(p)|$ の関係は何か？
• RQ5 ショートリスト構成の効率に根本的な制限があり、無限に多くの入力に対して指数的リストサイズが避けられないのはなぜか？

主な発見

• 任意の全計算可能関数 $L$ がプログラムから有限リストへ写像する場合、$L(p)$ に長さが $C_U(x) + \varepsilon(p)$ 以内の U-プログラムを含めるためには、無限に多くのプログラム $p$ に対して、少なくとも $2^{|x| - \varepsilon(p) - O(1)}$ 個の文字列を含む必要がある。
• 無限に多くの $p$ に対して、$L(p)$ のサイズは $2^{|p| - \varepsilon(p) - O(1)} - 2$ よりも大きくなければならない。ここで $\varepsilon(p) = C_{U,L(p)}(U(p)) - |U(p)|$ である。
• この下界はタイトである。例えば $L_i(p) = \{p\} \cup \{0,1\}^{<i}$ のような計算可能リストでは、リストサイズとリスト内のプログラム長が、加法的定数の差異を除いて理論的境界と一致する。
• この結果は、$\varepsilon(p)$ を $C_{U,L(p)}(U(p)) - C_U(U(p))$ として定義しても成り立つ。これは、標準的なコルモゴロフ複雑度差に適用可能であることを示している。
• 構成は有効的である：再帰的アルゴリズムを設計することで、列挙の過程で必要な性質を維持でき、そのような文字列およびプログラムの存在を保証できる。
• 指数的下界は、数え上げ的議論から生じる。長さ $n$ の文字列のうち、高コルモゴロフ複雑度を持つものの数は、低記述複雑度の小さなリストがカバーできる文字列数を上回る。