[论文解读] Rational stochastic languages

François Denis, Yann Esposito|arXiv (Cornell University)|Feb 27, 2006

semigroups and automata theory参考文献 14被引用 4

一句话总结

本文系统研究了有理随机语言——在具有参数的半环（如 ℚ, ℝ, ℚ⁺, 或 ℝ⁺）上的多重自动机生成的自由幺半群上的概率分布。研究发现，基于 ℝ 或 ℚ 的有理随机语言具有有限生成的残差子半模，从而建立了与概率自动机之间的结构联系；而基于 ℝ⁺ 或 ℚ⁺ 的有理随机语言则不一定具有此性质，解释了通用概率自动机在推理中的局限性，以及概率确定性自动机与残差自动机成功的原因。

ABSTRACT

The goal of the present paper is to provide a systematic and comprehensive study of rational stochastic languages over a semiring K \in {Q, Q +, R, R+}. A rational stochastic language is a probability distribution over a free monoid Σ^* which is rational over K, that is which can be generated by a multiplicity automata with parameters in K. We study the relations between the classes of rational stochastic languages S rat K (Σ). We define the notion of residual of a stochastic language and we use it to investigate properties of several subclasses of rational stochastic languages. Lastly, we study the representation of rational stochastic languages by means of multiplicity automata.

研究动机与目标

• 为 ℚ, ℝ, ℚ⁺, ℝ⁺ 等不同半环上的有理随机语言提供全面的理论框架。
• 澄清有理随机语言与概率自动机之间的关系，特别是在语法推断背景下的意义。
• 研究残差语言（导出语言）在刻画有理性和表示有限性中的作用。
• 确定具有有理数值的有理随机语言是否总能以 ℚ⁺ 或 ℝ⁺ 中的系数表示，以及这种表示是否总是可行。

提出的方法

• 使用 K ∈ {ℚ, ℝ, ℚ⁺, ℝ⁺} 上的形式幂级数定义有理随机语言，即那些可由系数属于 K 的多重自动机表示的语言。
• 引入残差语言 u⁻¹p(w) = p(uw)/p(uΣ*) 的概念（其中 u 为非零概率的词），证明残差语言本身也是随机语言。
• 将残差子半模 [Res(p)] 定义为某随机语言 p 的所有残差语言的张量，证明当且仅当 [Res(p)] 有限生成时，p 为有理语言。
• 应用形式幂级数与子半模理论分析有理随机语言类之间的封闭性与包含关系。
• 从有限个残差语言构造多重自动机，证明当 K ∈ {ℝ⁺, ℚ⁺} 时，其与概率确定性自动机（PDA）等价。
• 使用 Fatou 扩张概念比较不同半环上的有理性，证明 ℝ 是 ℚ 的 Fatou 扩张，但 ℝ⁺ 不是 ℚ⁺ 的 Fatou 扩张。

实验结果

研究问题

• RQ1 每个取值在 ℚ⁺ 中的 ℝ⁺ 上的有理随机语言是否也是 ℚ⁺ 上的有理语言？
• RQ2 具有有理数值的有理随机语言是否总能以 ℚ⁺ 中的系数表示为多重自动机？
• RQ3 在 ℝ 或 ℚ 上，有理随机语言的残差子半模是否总能拥有由残差语言构成的有限基？
• RQ4 不同半环上，有理随机语言类之间的关系如何，特别是包含关系与封闭性？
• RQ5 在何种条件下，ℝ⁺ 或 ℚ⁺ 上的有理随机语言能通过残差语言实现有限表示？

主要发现

• 半环 ℝ 是随机语言中 ℚ 的 Fatou 扩张：任何取值在 ℚ 中的 ℝ 上的有理随机语言，也必然是 ℚ 上的有理语言。
• 半环 ℝ⁺ 不是 ℚ⁺ 的 Fatou 扩张：存在取值在 ℚ⁺ 中的 ℝ⁺ 上的有理随机语言，但其在 ℚ⁺ 上并非有理语言。
• 有理随机语言 p 的残差子半模 [Res(p)] 有限生成，当且仅当 p 是有理语言，且该结论对 K = ℝ 或 ℚ 成立。
• 当 K ∈ {ℝ⁺, ℚ⁺} 时，有理随机语言具有有限多个残差语言，当且仅当其由概率确定性自动机（PDA）生成。
• ℝ⁺ 上有理随机语言的类等于概率自动机（PA）生成的语言类，ℚ⁺ 情况同理。
• ℝ（或 ℚ）上，有理随机语言的类等于概率残差自动机（PRA）生成的语言类，且该类也等于具有有限生成残差子半模的语言类。