[論文レビュー] Conditional Flow Variational Autoencoders for Structured Sequence Prediction

Apratim Bhattacharyya, Michael Hanselmann+3 more|arXiv (Cornell University)|Aug 24, 2019

Anomaly Detection Techniques and Applications参考文献 54被引用数 12

ひとこと要約

本稿では、構造的シーケンス予測における複雑で多モーダルな条件付き分布をモデル化するために、条件付きノーマライジングフローを事前分布として用いる新規手法、条件付きフロー変分オートエンコーダー（CF-VAE）を提案する。後方正則化と条件正則化を組み合わせることで、訓練の安定化と後方分布の崩壊の緩和を実現し、MNIST、Stanford Drone、HighDのデータセットにおいて、複数の指標で最先端の性能を達成した。

ABSTRACT

Prediction of future states of the environment and interacting agents is a key competence required for autonomous agents to operate successfully in the real world. Prior work for structured sequence prediction based on latent variable models imposes a uni-modal standard Gaussian prior on the latent variables. This induces a strong model bias which makes it challenging to fully capture the multi-modality of the distribution of the future states. In this work, we introduce Conditional Flow Variational Autoencoders (CF-VAE) using our novel conditional normalizing flow based prior to capture complex multi-modal conditional distributions for effective structured sequence prediction. Moreover, we propose two novel regularization schemes which stabilizes training and deals with posterior collapse for stable training and better fit to the target data distribution. Our experiments on three multi-modal structured sequence prediction datasets -- MNIST Sequences, Stanford Drone and HighD -- show that the proposed method obtains state of art results across different evaluation metrics.

研究の動機と目的

• 標準的なCVAEが単一モードのガウス事前分布を用いるため、多モーダルなシーケンス予測においてモデルバイアスと後方分布の崩壊を起こすという限界を解消すること。
• 構造的シーケンス生成における複雑でデータ依存の条件付き分布を捉える、より表現力のある事前分布の開発。
• 新規の正則化スキームにより、最適化の安定化と真のデータ分布への適合性の向上。
• トラジェクトリ予測や筆圧予測を含む、多様な構造的シーケンス予測ベンチマークにおける最先端の性能の実証。

提案手法

• 将来のシーケンスにおける複雑で多モーダルな条件付き分布をモデル化する、柔軟で学習可能な事前分布としての条件付きノーマライジングフローを提案。
• 可逆的かつ微分可能なニューラルネットワークを用いて、単純なベース分布を複雑な条件付き事前分布に変換するフロー変換を採用。
• 変分下界の最適化を安定化させ、真のデータ分布との整合性を高めるために、後方正則化（pR）を導入。
• 訓練中に余分な条件信号を除去することで、後方分布の崩壊を防ぐために、条件正則化（cR）を導入。
• 入力を潜在コードにマップする条件付き推論ネットワークを用い、フロー事前分布を入力コンテキストに条件づける。
• ノーマライジングフローと変分推論を組み合わせることで、構造的シーケンス生成における正確な尤度推定と効率的なサンプリングを可能にした。

実験結果

リサーチクエスチョン

• RQ1 条件付きノーマライジングフロー事前分布は、構造的シーケンス予測タスクにおいて、複雑で多モーダルな条件付き分布を効果的にモデル化できるか？
• RQ2 高可変性で多モーダルな将来のシーケンスをモデル化する際、CVAEにおける後方分布の崩壊はどのように緩和できるか？
• RQ3 後方正則化は、複雑な事前分布を備えた条件付きVAEにおいて、訓練の安定性と一般化性能を向上させるか？
• RQ4 条件正則化により、条件信号への過剰な依存を防ぎ、モデル性能を向上させられるか？
• RQ5 提案されたCF-VAEは、多様な構造的シーケンス予測ベンチマークで最先端の結果を達成できるか？

主な発見

• MNIST Sequencesデータセットでは、後方正則化と条件正則化を組み合わせたCF-VAEが、最小平均移動誤差（mADE）において前回の最先端手法比で20%の改善を達成した。
• Stanford Droneデータセットでは、MoG-CVAE や BMS-CVAE などのすべてのベースラインを上回り、mADE と mFDE の両指標で20%の改善を達成した。
• HighDデータセットでは、pR と cR の両方の正則化を適用したCF-VAEが、mADE 0.29、mFDE 0.55 を達成し、CVAEベースライン（mADE: 0.38、mFDE: 0.80）および決定的ベースラインを著しく上回った。
• 畳み込み型ソーシャルプーリングネットワークによる文脈情報の追加により、HighDでの性能がさらに向上し、現実世界のシナリオにおける条件付きフローポリシーの有効性を示した。
• 定性的な結果から、CF-VAEはシャープな曲がり角を含む複雑な軌道を、多様で詳細な予測として生成できるのに対し、標準的なCVAEは限られた、多様性に欠ける出力を生成することが分かった。
• アブレーションスタディの結果、pR と cR の両方が不可欠であることが確認された。両方の正則化を除去すると性能が低下し、特にモードが少ない状況下で後方分布の崩壊を防止する点でcRが顕著に有効であった。