[论文解读] Learning rational stochastic languages

François Denis, Yann Esposito+1 more|arXiv (Cornell University)|Feb 17, 2006

Machine Learning and Algorithms参考文献 10被引用 6

一句话总结

该论文提出了DEES，一种利用多重自动机（MA）高效学习有理概率语言的算法，其中MA严格推广了概率自动机（PA）。尽管目标类别的不可递归枚举性，DEES在极限下能强识别ℚ上的有理概率语言，并生成定义绝对收敛有理级数的中间MA，通过归一化可准确估计概率分布，从而获得有效的概率分布。

ABSTRACT

Given a finite set of words w1,...,wn independently drawn according to a fixed unknown distribution law P called a stochastic language, an usual goal in Grammatical Inference is to infer an estimate of P in some class of probabilistic models, such as Probabilistic Automata (PA). Here, we study the class of rational stochastic languages, which consists in stochastic languages that can be generated by Multiplicity Automata (MA) and which strictly includes the class of stochastic languages generated by PA. Rational stochastic languages have minimal normal representation which may be very concise, and whose parameters can be efficiently estimated from stochastic samples. We design an efficient inference algorithm DEES which aims at building a minimal normal representation of the target. Despite the fact that no recursively enumerable class of MA computes exactly the set of rational stochastic languages over Q, we show that DEES strongly identifies tis set in the limit. We study the intermediary MA output by DEES and show that they compute rational series which converge absolutely to one and which can be used to provide stochastic languages which closely estimate the target.

研究动机与目标

• 为解决概率自动机（PA）生成的完整有理概率语言类缺乏高效推理算法的问题，特别是针对受限子类之外的情况。
• 探索使用多重自动机（MA）作为更富表达力且紧凑的有理参数有理语言表示方法。
• 设计一种算法，即使在目标类别不可递归枚举的情况下，也能学习有理概率语言的最小规范表示。
• 在中间假设非概率性的情况下，提供关于学习过程中中间假设收敛性与准确性的理论保证。
• 证明中间MA输出可通过归一化技术转化为具有紧致误差边界的合法概率语言。

提出的方法

• DEES采用迭代学习过程，通过从概率样本中估计参数，构建目标有理概率语言的最小规范表示。
• 该算法在ℚ上的有理级数上运用线性代数技术，利用有理级数的向量空间结构实现高效参数估计。
• DEES维护一个假设MA，其结构与参数随学习过程演化以匹配目标；假设基于观察到的词频和基于前缀的概率估计进行更新。
• 中间MA输出通过变换 $ p_r(u) = \lambda_u r(u) $ 进行归一化，其中 $ u \notin N $，$ N $ 为 $ r(u) < 0 $ 的词集，确保 $ p_r $ 为合法的概率语言。
• 归一化因子 $ \lambda_u $ 由 $ u $ 邻域内负贡献的总和导出，确保 $ p_r $ 保持为概率分布。
• 该算法确保随着学习进行，总负权重 $ N_r = \sum_{r(u)<0} |r(u)| $ 趋近于零，从而保证收敛至目标分布。

实验结果

研究问题

• RQ1 尽管该类别不可递归枚举，能否设计一种学习算法，在极限下高效识别ℚ上的有理概率语言？
• RQ2 在中间假设不定义合法概率语言的情况下，能否为学习过程中生成的中间假设质量提供保证？
• RQ3 中间MA计算出的有理级数能否被转化为与目标具有有界相对误差的合法概率语言？
• RQ4 与标准PA相比，MA中使用最小规范表示在样本效率和概率语言学习准确性方面有何提升？
• RQ5 参数估计的收敛性与有理级数的绝对收敛性在多大程度上确保了实际应用中的可靠推理？

主要发现

• DEES在极限下强识别类别 $ \mathcal{S}_{\mathbb{Q}}^{rat}(\Sigma) $，即收敛至任意ℚ上有理概率语言的正确最小规范表示。
• DEES生成的中间MA计算的有理级数绝对收敛于1，确保所有词的概率值定义良好且无歧义。
• 随着学习进行，中间级数的总负权重 $ N_r = \sum_{r(u)<0} |r(u)| $ 趋近于零，表明假设逐渐接近合法概率语言。
• 归一化输出 $ p_r $ 满足对所有 $ r(u) > 0 $ 的 $ u $ 有 $ e^{r(N)/\overline{r}} \leq p_r(u)/r(u) \leq 1 $，提供相对误差的紧致乘法界。
• 该算法时间复杂度为多项式时间，参数估计具有经典统计收敛速率，因此在实际语法推理任务中高效且实用。
• 实验结果表明，由于聚焦于最小且自然的表示形式，其与底层概率事件（如 $ u\Sigma^* $）一致，DEES优于经典概率推理算法。