[論文レビュー] Learning rational stochastic languages

François Denis, Yann Esposito+1 more|arXiv (Cornell University)|Feb 17, 2006

Machine Learning and Algorithms参考文献 10被引用数 6

ひとこと要約

本稿では、確率オートマトン（PA）を厳密に一般化する乗数オートマトン（MA）を用いて、有理数確率的言語を学習するための効率的なアルゴリズムDEESを提案する。ターゲットクラスは非再帰的可算でないが、DEESは有理数体 ℚ 上の有理数確率的言語を極限において強く同定し、絶対収束する有理数系列を定義する中間MAを生成することで、正規化による確率分布への変換により正確な確率的言語推定を可能にする。

ABSTRACT

Given a finite set of words w1,...,wn independently drawn according to a fixed unknown distribution law P called a stochastic language, an usual goal in Grammatical Inference is to infer an estimate of P in some class of probabilistic models, such as Probabilistic Automata (PA). Here, we study the class of rational stochastic languages, which consists in stochastic languages that can be generated by Multiplicity Automata (MA) and which strictly includes the class of stochastic languages generated by PA. Rational stochastic languages have minimal normal representation which may be very concise, and whose parameters can be efficiently estimated from stochastic samples. We design an efficient inference algorithm DEES which aims at building a minimal normal representation of the target. Despite the fact that no recursively enumerable class of MA computes exactly the set of rational stochastic languages over Q, we show that DEES strongly identifies tis set in the limit. We study the intermediary MA output by DEES and show that they compute rational series which converge absolutely to one and which can be used to provide stochastic languages which closely estimate the target.

研究の動機と目的

• 確率オートマトン（PA）によって生成される全クラスの確率的言語に対する効率的な推論アルゴリズムの欠如、特に制限された部分クラスにとどまらない問題に対処すること。
• 特に有理数パラメータにおいて、より表現力が高く、コンactな表現としての乗数オートマトン（MA）の有効性を検討すること。
• クラスが再帰的可算でない場合でも、有理数確率的言語の最小正規表現を学習できるアルゴリズムを設計すること。
• 中間仮説の収束性と正確性について、それらが確率的言語でない場合でも理論的保証を提供すること。
• 中間MA出力が正規化手法を用いて、ターゲット言語との相対誤差が小さい有効な確率的言語に変換可能であることを示すこと。

提案手法

• DEESは、確率的サンプルからパラメータを推定することで、ターゲット有理数確率的言語の最小正規表現を段階的に構築する反復的学習プロセスを採用する。
• アルゴリズムは、有理数体 ℚ 上の有理数系列における線形代数的手法を活用し、有理数系列のベクトル空間構造を利活用して効率的なパラメータ推定を実現する。
• DEESは、構造とパラメータが進化する仮説MAを維持し、観測された語の頻度と接頭辞ベースの確率推定に基づいて仮説を更新する。
• 中間MA出力は、$ u \notin N $ に対して $ p_r(u) = \lambda_u r(u) $ という変換により正規化され、$ N $ は $ r(u) < 0 $ となる語の集合である。これにより $ p_r $ は有効な確率的言語となる。
• 正規化係数 $ \lambda_u $ は、$ u $ の近傍における負の寄与の合計から導出され、$ p_r $ が確率分布のまま保たれることを保証する。
• アルゴリズムは、学習が進むにつれて総負の重み $ N_r = \sum_{r(u)<0} |r(u)| $ がゼロに近づくことを保証し、ターゲット分布への収束を確実にする。

実験結果

リサーチクエスチョン

• RQ1 クラスが非再帰的可算であるにもかかわらず、有理数体 ℚ 上の有理数確率的言語を極限において効率的に同定できる学習アルゴリズムは存在するか？
• RQ2 中間仮説の品質について、特にそれらが有効な確率的言語を定義しない場合でも、どのような保証を提供できるか？
• RQ3 中間MAが計算する有理数系列は、ターゲット言語との相対誤差が有界であるように、有効な確率的言語に変換可能か？
• RQ4 MAにおける最小正規表現の使用は、標準的なPAと比較して、確率的言語学習のサンプル効率と正確性をどのように向上させるか？
• RQ5 パラメータ推定の収束性と有理数系列の絶対収束性は、実際の推論においてどれほど信頼性を保証するか？

主な発見

• DEESはクラス $ \mathcal{S}_{\mathbb{Q}}^{rat}(\Sigma) $ を極限において強く同定する。これは、任意の有理数体 ℚ 上のターゲット有理数確率的言語の正しい最小正規表現に収束することを意味する。
• DEESが生成する中間MAは、すべての語に対して1に絶対収束する有理数系列を計算し、すべての語に対して明確で一意な確率値を保証する。
• 学習が進むにつれて、中間系列の総負の重み $ N_r = \sum_{r(u)<0} |r(u)| $ はゼロに近づく。これは仮説が有効な確率的言語に次第に近づいていることを示している。
• 正規化出力 $ p_r $ は、すべての $ u $ について $ r(u) > 0 $ を満たす場合に $ e^{r(N)/\overline{r}} \leq p_r(u)/r(u) \leq 1 $ を満たす。これにより、相対誤差に対するタイトな乗法的バインドが得られる。
• アルゴリズムは多項式時間で実行され、古典的な統計的収束レートでパラメータを推定するため、実世界の文法推論タスクにおいて効率的かつ実用的である。
• 実験により、DEESは、基本的な確率的推論アルゴリズムを上回ることを確認した。これは、潜在的な確率的事象（例：$ u\Sigma^* $）と整合する自然で最小の表現に焦点を当てたアプローチのおかげである。