[論文レビュー] A temporally abstracted Viterbi algorithm

Shaunak Chatterjee, Stuart Russell|arXiv (Cornell University)|Feb 14, 2012

Algorithms and Data Compression参考文献 12被引用数 11

ひとこと要約

この論文では、粗い時間スケールでの境界を用いて細かい時間スケールでの状態トレリスを刈り込むことで、隠れマルコフモデルにおけるシーケンスデコードの高速化を図る、時間的に抽象化されたバイテルビアルゴリズムを提案する。広範な時間スケール差を示す状態ダイナミクスを持つシステムにおいて時間抽象化を活用することで、標準バイテルビアルゴリズムに対して数個のオーダーの高速化を達成し、マルチレート問題においてコarse-to-fine動的計画法（CFDP）よりも顕著な性能向上を実現する。

ABSTRACT

Hierarchical problem abstraction, when applicable, may offer exponential reductions in computational complexity. Previous work on coarse-to-fine dynamic programming (CFDP) has demonstrated this possibility using state abstraction to speed up the Viterbi algorithm. In this paper, we show how to apply temporal abstraction to the Viterbi problem. Our algorithm uses bounds derived from analysis of coarse timescales to prune large parts of the state trellis at finer timescales. We demonstrate improvements of several orders of magnitude over the standard Viterbi algorithm, as well as significant speedups over CFDP, for problems whose state variables evolve at widely differing rates.

研究の動機と目的

• 状態変数が著しく異なる時間スケールで変化するシステムにおける、標準バイテルビアルゴリズムの計算非効率性を解消すること。
• 時間抽象化を組み込むことでコarse-to-fine動的計画法（CFDP）を拡張し、階層的モデルにおけるより高速な推論を可能にすること。
• 時間的境界に基づく刈り込みを用いて、隠れマルコフモデル（HMM）におけるシーケンスデコードの計算複雑度を低減すること。
• マルチレート時間的システムにおいて、標準バイテルビアルゴリズムおよび既存のCFDPアプローチと比較して顕著な高速化を示すこと。

提案手法

• アルゴリズムは時間抽象化を用いて、粗い時間スケールでの状態遷移を分析し、状態系列の尤度に関する境界を導出する。
• これらの粗いスケールの境界を用いて、最適性を損なわせることなく、細かい時間スケールでの状態トレリスの大部分を削除する。
• 動的計画法を維持しながら、階層的状態抽象化と統合し、探索空間を削減しつつもバイテルビアルゴリズムの最適性を保つ。
• 粗いレベルでの分析から導出された上限および下限に基づく刈り込みルールを適用し、細かいレベルで探索されるのは妥当な経路のみを保証する。
• 時間抽象化とバイテルビスタイルの再帰を組み合わせることで、マルチレートHMMにおける効率的な計算を可能にする。
• 動的計画法の原則に基づく形式的基盤を有し、状態遷移確率および出力確率から境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 時間抽象化をバイテルビアルゴリズムに効果的に適用することで、マルチレートシステムにおける計算コストを低減できるか？
• RQ2 粗い時間スケールの境界は、解の最適性を損なわず、状態トレリスの刈り込み効率をどのように向上させるか？
• RQ3 提案手法は、標準バイテルビアルゴリズムおよび既存のCFDPアプローチと比較して、速度およびスケーラビリティの面でどの程度優れているか？
• RQ4 時間抽象化は、著しく異なる状態ダイナミクスを持つシステムにおけるHMMデコードの探索空間削減にどのような影響を与えるか？

主な発見

• 提案手法は、マルチレートHMM問題において、標準バイテルビアルゴリズムと比較して数個のオーダーの高速化を達成した。
• 特に状態変数間の時間的差が著しいシステムにおいて、コarse-to-fine動的計画法（CFDP）と比較して顕著な性能向上を示した。
• 最適性を保ちつつ、探索される状態および遷移の数を著しく削減した。
• 時間抽象化により、粗いスケールの境界を活用した効果的なトレリス刈り込みが可能となり、顕著な計算コスト削減が達成された。