[論文レビュー] Information Kernels

Samuel Epstein|arXiv (Cornell University)|Jul 1, 2019

Computability, Logic, AI Algorithms被引用数 1

ひとこと要約

この論文は、停止列列に対して相互情報量が低い場合、有限集合 X 内に他のすべての要素に対して条件付きで単純な文字列が存在することを確立する。最大条件付き複雑さと期待条件付き複雑さという2つの異なる複雑さ測度を用いて、これらの条件下で常にこのような条件付き単純な要素が存在することを証明し、アルゴリズム的情報理論における基礎的理解を深める。

ABSTRACT

Given a set X of finite strings, one interesting question to ask is whether there exists a member of X which is simple conditional to all other members of X. Conditional simplicity is measured by low conditional Kolmogorov complexity. We prove the affirmative to this question for sets that have low mutual information with the halting sequence. There are two results with respect to this question. One is dependent on the maximum conditional complexity between two elements of X, the other is dependent on the maximum expected value of the conditional complexity of a member of X relative to each member of X.

研究の動機と目的

• 有限集合 X 内の文字列が、X の他のすべての文字列に対して条件付きで単純であるかどうかを調査すること。
• 特に停止列列との相互情報量に注目して、そのような条件付き単純な文字列が存在する条件を分析すること。
• 最大条件付き複雑さと期待条件付き複雑さという2つの異なる複雑さ測度を用いて、理論的保証を確立すること。

提案手法

• 論文は、ある文字列が他の文字列に対して条件付きで単純であることを、その文字列のKolmogorov 複雑さが低いことによって定義する。
• 2つの複雑さに基づく基準を導入する：X の任意の2要素間の最大条件付き複雑さ、および他の要素に対するランダムな要素の期待条件付き複雑さ。
• X が停止列列と相互情報量が低いという制約の下で、X の構造を分析することにより存在性の結果を証明する。
• 証明は、アルゴリズム的確率論と停止列列の性質に依存し、条件付き複雑さをバウンディングする。
• 測度論的および情報理論的議論を用いて、相互情報量が低い場合、最小限の複雑さを持つ条件付き基準文字列が必ず存在することを示す。

実験結果

リサーチクエスチョン

• RQ1 停止列列との相互情報量が低い場合、有限集合 X 内に他のすべての文字列に対して条件付きで単純な文字列が存在するか？
• RQ2 X の要素間の最大条件付き複雑さが、条件付きで単純な文字列の存在にどのように影響するか？
• RQ3 X のランダムな要素の期待条件付き複雑さは、普遍的に単純な条件付き基準文字列の存在を決定づける役割を果たすか？

主な発見

• X が停止列列と相互情報量が低い場合、他のすべての X の要素に対して条件付きで単純な文字列が存在する。
• 相互情報量の条件が満たされていれば、最大条件付き複雑さ基準のもとで、そのような文字列の存在が保証される。
• 期待条件付き複雑さ基準のもとでは、停止列列との相互情報量が低い集合に対し、普遍的に単純な条件付き基準文字列の存在が確立される。
• X がアルゴリズム的確率的でなくても、X と停止列列との相互情報量が低い限り、結果は成り立つ。