[论文解读] Ergodicity of Random Walks on Random DFA

Borja Balle|arXiv (Cornell University)|Nov 26, 2013

semigroups and automata theory参考文献 14被引用 3

一句话总结

本文证明了在随机生成的确定性有限自动机（DFA）上进行的随机游走几乎必然诱导出遍历的马尔可夫链，这意味着状态分布会收敛到唯一的平稳分布。当DFA以均匀随机方式采样时，该结果以高概率成立，并且在最小化后仍保持不变，表明典型DFA中存在结构规律性，这可能有助于在均匀分布下的学习。

ABSTRACT

Given a DFA we consider the random walk that starts at the initial state and at each time step moves to a new state by taking a random transition from the current state. This paper shows that for typical DFA this random walk induces an ergodic Markov chain. The notion of typical DFA is formalized by showing that ergodicity holds with high probability when a DFA is sampled uniformly at random from the set of all automata with a fixed number of states. We also show the same result applies to DFA obtained by minimizing typical DFA.

研究动机与目标

• 研究典型DFA（以均匀随机方式采样）是否表现出结构规律性，使其比最坏情况边界所暗示的更容易学习。
• 分析随机游走在随机DFA上的行为，并确定其是否诱导出遍历的马尔可夫链。
• 检查在最小化随机生成的DFA时，遍历性是否得以保留，这一点对学习至关重要，因为最小化过程保持语言不变。
• 为随机DFA的结构提供基础性洞见，该主题与随机图相比，此前研究较为有限。

提出的方法

• 作者将DFA上的随机游走建模为一个随机过程，从初始状态开始，每一步通过均匀随机的转移进行状态转移。
• 他们分析了该游走所诱导的马尔可夫链，重点关注通信类和遍历性属性以确立遍历性。
• 通过概率论证，他们证明以高概率，一个均匀随机生成的DFA具有唯一的封闭通信类，且该类不可约且非周期，从而确保遍历性。
• 他们证明了在状态最小化过程中，遍历性得以保持，通过证明合并操作保持了封闭通信类的不可约性和非周期性。
• 该分析依赖于通信类的结构性质、遍历性，以及周期性和不可约性在状态合并下的不变性。

实验结果

研究问题

• RQ1 在均匀随机DFA上进行的随机游走是否收敛到唯一的平稳分布？
• RQ2 随机DFA的哪些结构性质确保了其随机游走的遍历性？
• RQ3 在最小化底层DFA后，随机游走的遍历性是否得以保留？
• RQ4 随机DFA的通信类和遍历性属性如何影响随机游走的混合行为？

主要发现

• 以高概率，均匀随机DFA上的随机游走收敛到唯一的平稳分布，表明其具有遍历性。
• 典型随机DFA中的封闭通信类是不可约且非周期的，这正是遍历性的必要且充分条件。
• 在DFA最小化后，遍历性得以保持，意味着在最小化自动机上的随机游走同样诱导出遍历的马尔可夫链。
• 结果表明，在典型DFA中，通过均匀采样字符串所能达到的状态分布是良好行为的，并收敛到平稳分布。