[论文解读] Learning Product Automata

Joshua Moerman|arXiv (Cornell University)|May 8, 2017

Machine Learning and Algorithms被引用 3

一句话总结

本文通过将具有多可观测输出的莫尔机分解为乘积自动机，提出了一种主动自动机学习的优化方法，其中每个可观测输出独立学习。通过利用结构分解，该方法显著降低了查询复杂度——在合成基准测试中，等价查询和成员查询减少了数个数量级，为具有组合行为的复杂软件系统学习提供了显著的可扩展性提升。

ABSTRACT

In this paper we give an optimization for active learning algorithms, applicable to learning Moore machines where the output comprises several observables. These machines can be decomposed themselves by projecting on each observable, resulting in smaller components. These components can then be learnt with fewer queries. This is in particular interesting for learning software, where compositional methods are important for guaranteeing scalability.

研究动机与目标

• 为解决复杂软件系统在主动自动机学习中因多输出导致的可扩展性瓶颈问题。
• 通过基于输出可观测性的分解，利用莫尔机中的组合结构，将其分解为独立组件。
• 减少学习过程中所需的等价查询和成员查询数量，尤其适用于高状态空间复杂度的系统。
• 为现有学习算法（如L*）提供一种实用且可插拔的扩展，支持乘积自动机学习。
• 在真实世界和合成软件模型中展示该分解方法的有效性，特别是在组件近乎独立的情况下。

提出的方法

• 该方法将具有输出 $O_1 \times O_2$ 的莫尔机分解为两个组件机 $M_1$ 和 $M_2$，分别具有输出 $O_1$ 和 $O_2$，使得原机器等价于其乘积 $M_1 \times M_2$。
• 对每个组件机独立应用主动学习（如L*），使用投影函数 $\pi_i$ 提取相关输出轨迹。
• 该算法为每个组件维护独立的假设，并通过在完整乘积上进行等价查询来验证一致性。
• 利用若组件独立，则组件总状态数在最佳情况下为 $2\sqrt{|M|}$ 的事实，远小于 $|M|$。
• 在乘积假设上执行可达性检查，以检测不在 $O_1 \times O_2$ 允许子集内的无效输出，从而实现无需教师交互的自我调试。
• 该方法被集成到修改后的L*算法中，通过在学习组件和验证乘积之间交替进行，降低整体查询成本。

实验结果

研究问题

• RQ1 将具有多可观测输出的莫尔机分解为独立组件，是否能减少主动自动机学习中所需的查询数量？
• RQ2 与单体学习相比，组件化学习乘积自动机在查询效率和可扩展性方面有多高效？
• RQ3 组件独立性对基于分解的学习方法性能有何影响？
• RQ4 该方法能否扩展以处理某些输出组合被禁止的受限输出集合？
• RQ5 在软件模型学习中，该乘积分解方法是否优于其他结构优化方法（如反向自动机构造）？

主要发现

• 对于 $n$-位寄存器机，乘积学习器将等价查询从超过13,000次减少至仅22次（$n=7$ 时），相比单体学习减少了99%以上。
• 在具有2048个状态的 $M_8$ 机器上，乘积学习器使用了3,289次等价查询和41,732次成员查询，而TTT学习器超过160,000次查询，查询成本减少90%以上。
• 该方法在最佳情况下将状态空间从 $n \cdot 2^n$ 减少至 $2\sqrt{n \cdot 2^n}$，展示了理论复杂度上的指数级改进。
• 在 $\text{mark1}$ 电路模型中，使用组件学习使等价查询减少了70%，成员查询减少了80%以上。
• 性能提升仅在组件近乎独立时显著；对于紧密耦合的系统（如 $\text{keyb}$ 和 $\text{ex3}$），改进微乎其微，表明依赖性是关键影响因素。
• 该方法通过在乘积假设中检测无效输出组合，实现了自我调试，减少了对教师提供反例的依赖。