[论文解读] A temporally abstracted Viterbi algorithm

Shaunak Chatterjee, Stuart Russell|arXiv (Cornell University)|Feb 14, 2012

Algorithms and Data Compression参考文献 12被引用 11

一句话总结

该论文提出了一种时间抽象化的维特比算法，通过利用粗粒度时间尺度的边界来剪枝细粒度时间尺度的状态网格，从而加速隐马尔可夫模型中的序列解码。通过在状态动态变化时间尺度差异极大的系统中利用时间抽象，该方法在多速率问题中相比标准维特比算法实现了数个数量级的加速，并且在性能上显著优于粗粒度到细粒度动态规划（CFDP）。

ABSTRACT

Hierarchical problem abstraction, when applicable, may offer exponential reductions in computational complexity. Previous work on coarse-to-fine dynamic programming (CFDP) has demonstrated this possibility using state abstraction to speed up the Viterbi algorithm. In this paper, we show how to apply temporal abstraction to the Viterbi problem. Our algorithm uses bounds derived from analysis of coarse timescales to prune large parts of the state trellis at finer timescales. We demonstrate improvements of several orders of magnitude over the standard Viterbi algorithm, as well as significant speedups over CFDP, for problems whose state variables evolve at widely differing rates.

研究动机与目标

• 为解决标准维特比算法在状态变量以截然不同时间尺度演化的系统中计算效率低下的问题。
• 通过引入时间抽象，扩展粗粒度到细粒度动态规划（CFDP），实现在分层模型中的更快推理。
• 通过基于时间边界的剪枝，降低隐马尔可夫模型（HMM）序列解码的计算复杂度。
• 在多速率时间系统中，展示该方法相比标准维特比算法和现有CFDP方法在速度和可扩展性方面的显著提升。

提出的方法

• 该算法利用时间抽象分析粗粒度时间尺度下的状态转移，推导出状态序列可能性的边界。
• 利用这些粗粒度边界的约束，在细粒度时间尺度下剪枝掉状态网格的大部分区域，同时不损害最优性。
• 该方法将分层状态抽象与动态规划相结合，保持维特比算法的最优性，同时减少搜索空间。
• 基于粗粒度分析推导出的上下界应用剪枝规则，确保仅在细粒度层级探索可行路径。
• 该方法将时间抽象与维特比式递推相结合，实现在多速率HMM中的高效计算。
• 该算法在动态规划原理上具有严格的理论基础，其边界由状态转移概率和输出概率推导得出。

实验结果

研究问题

• RQ1 时间抽象能否被有效应用于维特比算法，以降低多速率系统中的计算成本？
• RQ2 粗粒度时间尺度的边界在不牺牲解最优性的情况下，如何提升状态网格的剪枝效率？
• RQ3 与标准维特比算法和现有CFDP方法相比，该方法在速度和可扩展性方面能实现多大程度的性能提升？
• RQ4 时间抽象对具有广泛时间尺度差异的状态动态系统的HMM解码中搜索空间的缩减有何影响？

主要发现

• 所提出的算法在多速率HMM问题中相比标准维特比算法实现了数个数量级的加速。
• 在状态变量之间存在显著时间差异的系统中，该方法相比粗粒度到细粒度动态规划（CFDP）表现出显著的性能优势。
• 该方法在大幅减少探索的状态和转移数量的同时，保持了维特比算法的最优性。
• 时间抽象通过利用粗粒度边界有效剪枝了状态网格，从而带来了显著的计算节省。