[論文レビュー] Products of Hidden Markov Models: It Takes N>1 to Tango

Graham W. Taylor, Geoffrey E. Hinton|arXiv (Cornell University)|May 9, 2012

Generative Adversarial Networks and Image Synthesis参考文献 13被引用数 7

ひとこと要約

この論文は、部品構造を持つ複雑な時系列データのための強力な生成モデルとして、隠れマルコフモデルの積（PoHMMs）を提案する。複数のHMMをエキスパートの積の枠組みで組み合わせ、分割数が計算不能な不変量を推定するために焼きなまし重要度サンプリング（AIS）を用いることで、PoHMMsは実世界の降雨データおよび人間の運動データにおいて、特に部品的依存性が強い場合に優れた対数尤度性能を達成した。これは、標準HMMよりも高い訓練コストを要するが、高次元時系列モデリングの有効性を示している。

ABSTRACT

Products of Hidden Markov Models(PoHMMs) are an interesting class of generative models which have received little attention since their introduction. This maybe in part due to their more computationally expensive gradient-based learning algorithm,and the intractability of computing the log likelihood of sequences under the model. In this paper, we demonstrate how the partition function can be estimated reliably via Annealed Importance Sampling. We perform experiments using contrastive divergence learning on rainfall data and data captured from pairs of people dancing. Our results suggest that advances in learning and evaluation for undirected graphical models and recent increases in available computing power make PoHMMs worth considering for complex time-series modeling tasks.

研究の動機と目的

• 長距離依存性を示す高次元的・部品的構造を持つ時系列データをモデル化する際の標準HMMの限界を克服すること。
• 隠れ状態が分散化された非方向的モデルとしてのProducts of Hidden Markov Models（PoHMMs）の分野を再活性化すること。PoHMMsは導入以降ほとんど使用されていない。
• PoHMMsにおける計算不能な分割数の信頼性の高い推定法を提供し、モデル評価および選択のための正確な対数尤度計算を可能にすること。
• 実世界のデータセット（降雨および人間の運動キャプチャ）に対してPoHMMsを実証的に評価し、ベースラインHMMと比較してその有効性を示すこと。

提案手法

• PoHMMsは個々のHMMの積として定義され、各HMMが時系列の別個の側面をモデル化するエキスパートとして機能し、個々のHMM尤度を乗算して結合分布を形成し、正規化する。
• 非方向的モデルでは計算不能な分割数は、5000個の均等に配置された焼きなまし区間を用いた焼きなまし重要度サンプリング（AIS）により推定され、高精度な対数尤度推定が達成された。
• 対数尤度の最小化を目的とした対照的ダイバージェンス（CD）法を用い、K=10ステップでPoHMMsを学習した。
• 運動データの場合、次元が体の部位（例：左脚、右腕）にグループ化され、各グループに対して25クラスタリングを適用して離散的時系列を生成した。
• 単一および複数人の運動データ間での公平な比較を可能にするために、対数尤度の比較は次元ごとの正規化が行われた。
• ベースラインHMMsはEM法で学習され、状態数を2N（N=2から6まで）変化させた。一方、PoHMMsはCD(10)とモーメントム法を用い、パラメータ数が同等になるように学習された。

実験結果

リサーチクエスチョン

• RQ1 PoHMMsは、人間の運動や降雨パターンのような部品的構造を持つ高次元的実世界時系列データを効果的にモデル化できるか？
• RQ2 計算不能な分割数は、焼きなまし重要度サンプリング（AIS）により信頼性高く推定可能であり、正確な対数尤度評価を可能にするか？
• RQ3 パrameter数が同程度に制限された場合、PoHMMsは標準HMMと比較して対数尤度性能で優れているか？
• RQ4 データの部品的構造が強くなる（例：複数エージェントの運動キャプチャ）に従って、PoHMMsの性能優位性が増すか？
• RQ5 計算コストが高いために、勾配ベースのCD学習にAISに基づく尤度推定を組み合わせた手法が、従来のEMベースのHMM学習を上回る性能を発揮できるか？

主な発見

• PoHMMsは、単一被験者および二被験者運動キャプチャデータの両方で、ベースラインHMMよりも顕著に高い対数尤度スコアを達成した。特に二被験者データの場合は、部品的構造が強い場合に顕著な優位性が見られた。
• 単一被験者運動データにおいて、4つのエキスパート（各8状態）を有するPoHMMs（4×8）は、最大32状態を持つHMMよりも、正規化された対数尤度において優れた性能を示した。
• 二被験者データにおいて、4×8および8×4の構成を持つPoHMMsは、64状態を持つHMMよりも優れたテスト対数尤度を達成した。これは、複数の影響要因を持つ時系列をモデル化する能力に優れていることを示している。
• 5000区間を用いたAISの使用により、信頼性の高い対数尤度推定が可能になった。100回のAISランで得られた誤差範囲は非常に小さく、プロット上ではほとんど見えなかった。
• 訓練コストが高かった（PoHMMsは1回あたり約1時間、HMMsは数分）にもかかわらず、PoHMMsは一般化性能およびモデリング能力に優れ、特に部品的依存性が強いデータでは顕著だった。
• 1つのHMMの状態数を増やすのではなく、複数のHMMを積モデルで組み合わせることで、特に状態数が増加する際の性能向上が顕著であることが示唆された。