[论文解读] Learning Residual Finite-State Automata Using Observation Tables

Anna Kasprzik|arXiv (Cornell University)|Aug 10, 2010

Machine Learning and Algorithms参考文献 17被引用 5

一句话总结

该论文提出一种两步算法，通过观察表学习最小残差有限状态自动机（RFSAs），利用目标语言反转上的现有最小DFA推理算法。通过修改所得表格以反映残差语言结构，该方法在无需额外等价查询的情况下推导出规范RFSAs，与直接RFSAs学习者相比实现了最优查询复杂度。

ABSTRACT

We define a two-step learner for RFSAs based on an observation table by using an algorithm for minimal DFAs to build a table for the reversal of the language in question and showing that we can derive the minimal RFSA from it after some simple modifications. We compare the algorithm to two other table-based ones of which one (by Bollig et al. 2009) infers a RFSA directly, and the other is another two-step learner proposed by the author. We focus on the criterion of query complexity.

研究动机与目标

• 开发一种模块化、两步法的算法，使用观察表学习最小残差有限状态自动机（RFSAs）。
• 通过重用目标语言反转上的高效最小DFA推理，降低查询复杂度。
• 证明所推导的RFSAs为规范且最小，保留DFA学习的理论效率。
• 从查询复杂度和实际性能两方面，将所提方法与直接RFSAs学习者进行比较。

提出的方法

• 为目标语言 $L$ 的反转构建观察表，使用最小DFA推理算法（例如 $L^*$）在 $\overline{L}$ 上进行推理。
• 确保表格闭合并一致，从而保证 $\overline{L}$ 的最小DFA。
• 通过反转行与列的角色并添加字符串以表示残差语言，将表格转换为 $L$ 的新观察表。
• 修改表格以消除所有零行和零列，并添加字符串以确保所推导自动机中的每个终态均可通过唯一残差可达。
• 使用标准观察表到自动机构造规则，从修改后的表格推导出规范RFSAs。
• 通过验证RFSAs-闭合性与RFSAs-一致性条件，证明所得自动机为最小且等价于 $L$ 的规范RFSAs。

实验结果

研究问题

• RQ1 能否通过在语言反转上重用现有最小DFA推理算法，高效学习到最小RFSAs？
• RQ2 为将 $\overline{L}$ 的最小DFA转换为 $L$ 的规范RFSAs，观察表需要进行哪些修改？
• RQ3 与直接RFSAs学习算法（如 $NL^*$）相比，该两步法的查询复杂度如何？
• RQ4 模块化的两步设计是否在保持DFA学习理论查询效率的同时，实现了最小RFSAs的推理？

主要发现

• 所提出的两步算法达到与最小DFA推理步骤相同的查询复杂度，无需额外等价查询。
• 该方法需要 $O(I_L \cdot |F_L|)$ 次额外成员查询，其中 $I_L$ 为Myhill-Nerode指数，$|F_L|$ 为最小DFA中终态的数量。
• 所得自动机为 $L$ 的规范最小RFSAs，其正确性通过RFSAs框架下的闭合性与一致性条件得到证明。
• 尽管先前研究显示 $NL^*$ 在实际性能上更优，该算法在理论查询复杂度上优于直接 $NL^*$ 算法。
• 对于双确定语言，无需额外查询，因为表格结构本身已支持规范RFSAs。
• 该方法表明，通过在 $\overline{L}$ 上使用DFA推理学习最小RFSAs，在等价查询使用方面具有理论最优性。