[论文解读] Equivalence of History and Generator Epsilon-Machines

Nicholas F. Travers, James P. Crutchfield|arXiv (Cornell University)|Nov 18, 2011

Cellular Automata and Applications被引用 9

一句话总结

本文建立了两种epsilon-机器定义的正式等价性：基于具有相同未来分布的过去序列等价类定义的history epsilon-machine（历史epsilon-机器），以及基于概率上不同的状态、具有边缘输出的unifilar HMM定义的generator epsilon-machine（生成epsilon-机器）。关键贡献是使用同步理论和大偏差估计，在有限状态、平稳、遍历、有限字母表的情况下，提供了二者等价性的直接、初等证明。

ABSTRACT

Epsilon-machines are minimal, unifilar presentations of stationary stochastic processes. They were originally defined in the history machine sense, as hidden Markov models whose states are the equivalence classes of infinite pasts with the same probability distribution over futures. In analyzing synchronization, though, an alternative generator definition was given: unifilar, edge-emitting hidden Markov models with probabilistically distinct states. The key difference is that history epsilon-machines are defined by a process, whereas generator epsilon-machines define a process. We show here that these two definitions are equivalent in the finite-state case.

研究动机与目标

• 正式建立历史定义与生成定义epsilon-机器之间的等价性，此前该等价性虽被假设但未得到严格证明。
• 阐明在有限状态、平稳、遍历过程中，基于过程推导的（历史）epsilon-机器与基于过程定义的（生成）epsilon-机器之间的基础性区别。
• 提供一个自包含的、初等的等价性证明，避免使用先前工作中依赖的高级测度论工具。
• 通过验证生成epsilon-机器与更成熟的基于历史的epsilon-机器框架在形式上的等价性，支持其在同步理论中的应用。
• 澄清该等价性在平稳性、遍历性和有限字母表的标准假设下成立，这些假设对于生成定义能产生明确定义的过程而言是必要的。

提出的方法

• 将历史epsilon-机器定义为unifilar HMM，其状态为在关系 $\sim_\epsilon$ 下具有相同未来分布的无限过去序列的等价类。
• 将生成epsilon-机器定义为具有概率上不同状态的unifilar、边缘输出HMM，其通过平稳分布生成平稳过程。
• 利用先前工作[12, 13]中的同步结果，分析在生成模型下过去序列收敛至同一状态的过程。
• 应用有限状态马尔可夫链的大偏差估计，以限制状态转移中误分类的概率。
• 利用过程的平稳性和遍历性，确保历史epsilon-机器的转移矩阵为随机矩阵且定义良好。
• 通过证明两者均产生相同的不变测度和转移结构，从而证明生成模型的状态转移和输出分布与历史模型一致。

实验结果

研究问题

• RQ1 在有限状态、平稳、遍历、有限字母表的情况下，历史与生成定义的epsilon-机器是否等价？
• RQ2 作为具有概率上不同状态的unifilar HMM定义的生成epsilon-机器，是否与从该过程导出的历史epsilon-机器产生相同的随机过程？
• RQ3 能否仅使用信息论和大偏差理论的初等工具证明该等价性，而无需依赖高级测度论论证？
• RQ4 等价性成立所需的最小假设是什么？与先前构造中的假设相比如何？
• RQ5 该等价性是否隐含于早期工作中（如[11]中的形式化构造），还是需要显式证明与澄清？

主要发现

• 在有限状态空间、平稳性、遍历性和有限字母表的假设下，历史与生成epsilon-机器的定义在形式上是等价的。
• 历史epsilon-机器的转移矩阵 $T = \sum_{x \in \mathcal{X}} T^{(x)}$ 是随机矩阵，确保该模型作为隐马尔可夫模型是定义良好的。
• 生成epsilon-机器的输出过程与原始过程 $\mathcal{P}$ 一致，其状态转移结构与历史epsilon-机器同构。
• 该证明依赖于初等技术——特别是大偏差估计和基础信息论——而非超鞅论证或鞅收敛定理。
• 该等价性并非自动成立；它依赖于遍历性和有限字母表的假设，这些假设对于生成模型能定义唯一平稳过程而言是必要的。
• 该结果验证了在同步与预测建模中使用生成epsilon-机器的合理性，因为其在形式上与更成熟的基于历史的构造等价。