[論文レビュー] A New Approach to Formal Language Theory by Kolmogorov Complexity

Ming Li, Paul Vitányi|ArXiv.org|Oct 18, 2001

Computability, Logic, AI Algorithms被引用数 3

ひとこと要約

この論文は、コルモゴロフ複雑性を用いた形式言語理論の新しい枠組みを提示する。伝統的なポンピング補題に代わって、圧縮不能性に基づく議論を採用する。正規言語の新たな特徴付けと、決定的と非決定的文脈自由言語を分離する強力で使いやすい基準を提供し、複雑性の上限を用いることで非再帰的言語へ応用を拡張する。

ABSTRACT

We present a new approach to formal language theory using Kolmogorov complexity. The main results presented here are an alternative for pumping lemma(s), a new characterization for regular languages, and a new method to separate deterministic context-free languages and nondeterministic context-free languages. The use of the new `incompressibility arguments' is illustrated by many examples. The approach is also successful at the high end of the Chomsky hierarchy since one can quantify nonrecursiveness in terms of Kolmogorov complexity. (This is a preliminary uncorrected version. The final version is the one published in SIAM J. Comput., 24:2(1995), 398-410.)

研究の動機と目的

• コルモゴロフ複雑性を用いて、形式言語における非正規性の証明のための、より直感的で強力な新しい手法を開発すること。
• 複雑で特異なポンピング補題に代わって、正規言語の統一的かつ圧縮不能性に基づく特徴付けを提供すること。
• 決定的と非決定的文脈自由言語を区別するための、簡単で汎用性の高い基準を提供すること。
• コルモゴロフ複雑性の適用範囲を、非再帰的言語や再帰的可算言語を含むチャイムスキー階層の高次のレベルへ拡張すること。
• 従来の手法が失敗するか扱いにくくなる場面でも、圧縮不能性の議論により簡潔で効果的な証明が得られることを示すこと。

提案手法

• ほとんどの文字列が高きコルモゴロフ複雑性を持つ、すなわち圧縮不能であることに着目し、言語の複雑性の下界を導出する証明技法を用いる。
• 言語が正規であるための必要十分条件として、その特徴関数の長さ $ n $ の接頭辞のコルモゴロフ複雑度が $ O(\log n) $ であることと定義し、新たな特徴付けを提供する。
• KC-DCFL補題を用い、言語が決定的文脈自由であるための必要条件を、接頭辞の複雑度の上限に基づいて与える。
• 文字列が圧縮不能であれば、それ以上に短くは表現できないことを利用して、言語が特定の複雑度クラスに属すると仮定した場合に矛盾を導く。
• 古典的な数え上げ的議論で全文字列を検討する必要を避け、証明の証拠として個々の圧縮不能文字列を構成する。
• 特に再帰的および非再帰的実数の文脈において、言語の特徴関数の複雑度を分析するために、接頭辞複雑度 $ K $ と通常複雑度 $ C $ を用いる。

実験結果

リサーチクエスチョン

• RQ1 コルモゴロフ複雑性は、ポンピング補題の代替として、非正規性の証明においてより一般的で直感的な手法を提供できるか？
• RQ2 すべての既知のポンピング補題を包含する、コルモゴロフ複雑性に基づく正規言語の単一で統一的な特徴付けは存在するか？
• RQ3 圧縮不能性の議論は、従来の手法が煩雑だった決定的と非決定的文脈自由言語を効果的に分離できるか？
• RQ4 コルモゴロフ複雑性を用いて、チャイムスキー階層の頂点に位置する非再帰的言語の非再帰性を定量化できるか？
• RQ5 言語が決定的文脈自由であるために必要な複雑度条件は何か？そして、それらは実際の応用にどう応用できるか？

主な発見

• この論文は、正規言語の新たな特徴付けを確立した。すなわち、言語が正規であるための必要十分条件は、その特徴関数の長さ $ n $ の接頭辞のコルモゴロフ複雑度が $ O(\log n) $ であることである。
• KC-DCFL補題は、言語が決定的文脈自由であるための必要条件を、接頭辞の複雑度の上限に基づいて与え、従来の手法が失敗する言語の分離において有効であることが示された。
• この手法は、特殊な目的のポンピング補題を必要とする非正規言語の例を効果的に扱い、従来の技術よりも広範な適用範囲を有することが示された。
• この論文は、すべての $ n $ に対して $ C(\omega_{1:n}) \leq \log n + c $ を満たす無限の二進列 $ \omega $ は有限個しか存在しないことを証明した。これは、このような列がまれであり、複雑度クラスの特徴付けに利用できることを示唆する。
• 再帰的言語については、既知の特徴付けが与えられ、再帰的可算言語についてはコルモゴロフ複雑度に基づく必要条件が提示された。
• 命題1の証明は、再帰性の仮定を一切せず、複雑度の上限と文字列再構築の技術のみを用いても、すべての $ n $ に対して $ C(\omega_{1:n}) \leq \log n + c $ を満たす列の集合が有限であることを示している。