[論文レビュー] Collapsed Amortized Variational Inference for Switching Nonlinear Dynamical Systems

Zhe Dong, Bryan Seybold+2 more|arXiv (Cornell University)|Oct 21, 2019

Generative Adversarial Networks and Image Synthesis参考文献 28被引用数 4

ひとこと要約

本稿では、スイッチング非線形動的システム（SNLDS）のための畳み込み型アモアタイズド変分推論を提案し、離散的 latent 状態を周辺化し、連続的状態に対してアモアタイズド推論ネットワークを用いることで、再パrameterization を介した効率的かつエンドツーエンドの学習を可能にする。この手法は、動画や3次元ヒューマンポーズなどの複雑な時系列データの分割において、従来手法に比べて優れた性能を示し、特にモード数を少なくした非線形ダイナミクスのモデル化において顕著である。

ABSTRACT

We propose an efficient inference method for switching nonlinear dynamical systems. The key idea is to learn an inference network which can be used as a proposal distribution for the continuous latent variables, while performing exact marginalization of the discrete latent variables. This allows us to use the reparameterization trick, and apply end-to-end training with stochastic gradient descent. We show that the proposed method can successfully segment time series data, including videos and 3D human pose, into meaningful ``regimes'' by using the piece-wise nonlinear dynamics.

研究の動機と目的

• スイッチング非線形動的システム（SNLDS）に、離散的および連続的 latent 変数を併用した効率的な推論手法の開発。
• 離散状態を周辺化した後、連続変数に再パラメータ化トリックを適用することで、確率的勾配降下法によるエンドツーエンド学習を可能にする。
• 単一のモードの過剰使用を防ぐために、SNLDS モデルにおける後方分布崩壊を是正する新しい後方分布正則化スキームの導入。
• 従来のモデル（例：SLDS）と比較して、動画や3次元ヒューマンポーズ時系列データなどの非線形時系列の分割精度を向上させる。
• CMU MoCap や分(piecewise)非線形ダイナミクスを有する合成モーションシーケンスを含む実世界データセットにおける本手法の有効性を示すこと。

提案手法

• 本手法は、離散的 latent 状態 $s_{1:T}$ を前向き後向きアルゴリズムを用いて正確に周辺化する畳み込み型変分推論フレームワークを採用し、効率的な勾配計算を可能にする。
• 連続的状態 $\mathbf{z}_{1:T}$ の後方分布を近似するためのアモアタイズド推論ネットワーク $q_{\boldsymbol{\phi}}(\mathbf{z}_{1:T}|\mathbf{v}_{1:T})$ を学習させ、再パラメータ化と微分可能な学習を実現する。
• 観測値 $\mathbf{x}_{1:T}$ を符号化するための双方向RNNと、隠れ状態を伝搬するための単方向RNNを用い、時間軸に跨るパラメータ共有を実施する。
• 提案手法では、ラオ・ブラックウェルド化されたパーティクルフィルタをプロポーザルとして用いるが、主にVAEと同様に1つの後方サンプルに依存している。
• 後方分布正則化として、冷却されたエントロピー正則化と温度スケジューリングを導入し、モード崩壊の防止と学習の安定化を図る。
• 尤度下限界（ELBO）を確率的勾配降下法で同時に最適化するが、初期学習段階では高いエントロピーと温度を用いて、すべてのモードの探索を促進する。

実験結果

リサーチクエスチョン

• RQ1 畳み込み型アモアタイズド変分推論は、非線形ダイナミクスを有するSNLDSの効率的かつスケーラブルな学習を可能にするか？
• RQ2 離散状態を周辺化することで、ハイブリッドシステムにおける学習安定性が向上し、再パラメータ化が可能になるメカニズムは何か？
• RQ3 柔軟な非線形ダイナミクスを有するSNLDSモデルにおいて、後方分布正則化がモード崩壊をどの程度効果的に防止できるか？
• RQ4 本手法は、最小限のモード数で非線形時系列を分割する点で、SLDS や他のベースラインと比較してどの程度優れているか？
• RQ5 冷却スケジュールが、非教師あり設定におけるモデル収束性および分割品質に与える影響は何か？

主な発見

• 非線形2次元モーションタスクにおいて、SNLDS モデルは SLDS を著しく上回り、特に変化検出の5フレーム許容範囲を設けた場合、より高い F1 スコアを達成した。
• ダビンスカーのパスデータセットにおいて、最適な冷却スケジュールを用いた場合、SNLDS モデルはベースラインと比較して相対的な負の対数尤度が10%以上改善された。
• CMU MoCap データを用いたサルサダンスタスクでは、3次元ヒューマンモーションが3つの解釈可能なモード（前後移動、時計回り回転、反時計回り回転）に的確に分割された。
• 遅延された冷却（50kステップ目から開始）を用いた場合、サルサダンスシーケンスの F1 スコアが20%以上向上した。これは、後期の正則化がより明確なモードを学習するのに寄与することを示している。
• SLDS よりも少ないモード数でより優れた分割性能を達成した。非線形モデルが、分(piecewise)線形近似に比べて複雑なダイナミクスをより効率的に捉えることができることを示している。
• エントロピー係数と温度の両方の冷却をそれぞれ50kステップ目と100kステップ目に遅延させた冷却スケジュールが、尤度および F1 スコアの両面で最良の最終的性能を達成した。