[論文レビュー] An error correcting parser for context free grammars that takes less than cubic time

Sanguthevar Rajasekaran, Marius Nicolae|arXiv (Cornell University)|Jun 13, 2014

semigroups and automata theory参考文献 11被引用数 8

ひとこと要約

本稿では、言語編集距離問題をトロピカル行列積に還元することにより、立方時間未塔の時間計算量で動作する文脈自由文法の誤り訂正パーサーを提示する。主な貢献は、$ O\big(n^3 (\text{log}\text{log}\text{ }n)^3 / (\text{log}\text{ }n)^2\big) $ 時間で実行される正確なアルゴリズムと、$ O(Mn^\omega) $ 時間で実行される $ \frac{n}{M} $-近似アルゴリズムであり、ここで $ \omega \approx 2.376 $ であり、1972年のAhoとPetersonによる立方時間境界を改善する。

ABSTRACT

The problem of parsing has been studied extensively for various formal grammars. Given an input string and a grammar, the parsing problem is to check if the input string belongs to the language generated by the grammar. A closely related problem of great importance is one where the input are a string ${\cal I}$ and a grammar $G$ and the task is to produce a string ${\cal I}'$ that belongs to the language generated by $G$ and the `distance' between ${\cal I}$ and ${\cal I}'$ is the smallest (from among all the strings in the language). Specifically, if ${\cal I}$ is in the language generated by $G$, then the output should be ${\cal I}$. Any parser that solves this version of the problem is called an {\em error correcting parser}. In 1972 Aho and Peterson presented a cubic time error correcting parser for context free grammars. Since then this asymptotic time bound has not been improved under the (standard) assumption that the grammar size is a constant. In this paper we present an error correcting parser for context free grammars that runs in $O(T(n))$ time, where $n$ is the length of the input string and $T(n)$ is the time needed to compute the tropical product of two $n imes n$ matrices. In this paper we also present an $\frac{n}{M}$-approximation algorithm for the {\em language edit distance problem} that has a run time of $O(Mn^ω)$, where $O(n^ω)$ is the time taken to multiply two $n imes n$ matrices. To the best of our knowledge, no approximation algorithms have been proposed for error correcting parsing for general context free grammars.

研究の動機と目的

• 1972年にAhoとPetersonによって確立された、文脈自由文法の誤り訂正パーサーにおける長年の $ O(n^3) $ 時間境界を克服すること。
• 与えられた文脈自由文法の言語内の文字列と入力文字列の間の最小編集距離を、立方時間未塔でより効率的に計算するパーサーを開発すること。
• 一般の文脈自由文法の言語編集距離問題に対する、性能保証付きの最初の近似アルゴリズムを提供すること。
• 言語編集距離問題が $ n \times n $ 行列のトロピカル積の計算に還元可能であることを示し、高度な行列乗算技術を用いて高速なアルゴリズムを実現すること。

提案手法

• アプローチは、言語編集距離問題を、二つの $ n \times n $ 行列のトロピカル積（min-plus積）の計算に還元することに依存し、この演算の既知のアルゴリズムを活用する。
• 動的計画法を用い、CYKパーサーの枠組みを拡張し、挿入、削除、置換の編集操作を行列演算によって処理する。
• 正確なパーサーのため、トロピカル行列積を用いた修正されたCYK型アルゴリズムを採用し、高速行列乗算を用いることで立方時間未塔の時間計算量を達成する。
• 近似のため、編集距離が $ M $ を超える値はすべて $ M+1 $ に置き換えることで、$ O(Mn^\omega) $ の実行時間を達成する。
• 計算された行列を用いて再帰的バックトラッキング手順を実行することで、パーサーの出力 $ \mathcal{I}' $ を $ O(n^2) $ 時間で再構築する。
• 近似モデル下で効率的な計算を可能にするために、すべての行列要素が $ M+1 $ でキャップされるように保証する。

実験結果

リサーチクエスチョン

• RQ1 一般の文脈自由文法の言語編集距離問題は、立方時間未塔で解けるか？
• RQ2 立方時間未塔の実行時間と有界な近似係数を持つ近似アルゴリズムを設計することは可能か？
• RQ3 言語編集距離をトロピカル行列積に還元することで、より高速なパーサーのアルゴリズムが実現可能か？
• RQ4 時間計算量および実用的効率の観点から、提案されたパーサーは古典的なAho-Petersonアルゴリズムと比較してどのように性能を発揮するか？

主な発見

• 本稿では、$ O\big(n^3 (\text{log}\text{log}\text{ }n)^3 / (\text{log}\text{ }n)^2\big) $ 時間で実行される正確な誤り訂正パーサーを提示し、1972年の $ O(n^3) $ の境界を改善する。
• $ \frac{n}{M} $-近似アルゴリズムが提案され、$ O(Mn^\omega) $ の実行時間で動作し、ここで $ \omega \approx 2.376 $ であり、$ M $ が小さい場合には立方時間未塔の性能が達成できる。
• 言語編集距離問題がトロピカル行列積に還元され、パーサーと高度な行列計算の間の新たな接点を確立した。
• 最小編集距離を達成する文字列 $ \mathcal{I}' $ は、計算された行列とバックトラッキング手順を用いて $ O(n^2) $ 時間で再構築可能である。
• 提案されたアルゴリズムは、従来の立方時間アプローチよりも単純であり、高速行列乗算を活用することで、より優れた漸近的性能を実現する。
• 本研究は、一般の文脈自由言語編集距離に対する最初の近似アルゴリズムを提供し、文献における重要な空白を埋めた。