[論文レビュー] Greedy Hierarchical Variational Autoencoders for Large-Scale Video Prediction

Bo-Han Wu, Suraj Nair+3 more|arXiv (Cornell University)|Mar 6, 2021

Generative Adversarial Networks and Image Synthesis参考文献 79被引用数 7

ひとこと要約

本論文では、深層階層的動画予測モデルを段階的でグリーディに訓練する手法として、グリーディ階層的変分オートエンコーダー（GHVAEs）を提案する。この手法により、安定した最適化と向上したメモリ効率が実現される。以前に訓練されたモジュールの重みを固定し、各レベルを独立して訓練することで、GHVAEsは動画データセットでFVDスコアが17–55%向上し、実ロボットの操作タスクで成功確率が35–40%向上する。性能はさらにモジュールを増やすことで単調に向上する。

ABSTRACT

A video prediction model that generalizes to diverse scenes would enable intelligent agents such as robots to perform a variety of tasks via planning with the model. However, while existing video prediction models have produced promising results on small datasets, they suffer from severe underfitting when trained on large and diverse datasets. To address this underfitting challenge, we first observe that the ability to train larger video prediction models is often bottlenecked by the memory constraints of GPUs or TPUs. In parallel, deep hierarchical latent variable models can produce higher quality predictions by capturing the multi-level stochasticity of future observations, but end-to-end optimization of such models is notably difficult. Our key insight is that greedy and modular optimization of hierarchical autoencoders can simultaneously address both the memory constraints and the optimization challenges of large-scale video prediction. We introduce Greedy Hierarchical Variational Autoencoders (GHVAEs), a method that learns high-fidelity video predictions by greedily training each level of a hierarchical autoencoder. In comparison to state-of-the-art models, GHVAEs provide 17-55% gains in prediction performance on four video datasets, a 35-40% higher success rate on real robot tasks, and can improve performance monotonically by simply adding more modules.

研究の動機と目的

• 多様で大規模なデータセット上で学習する大規模な動画予測モデルにおけるアンダーフィッティング問題に対処すること。
• GPU/TPUのメモリ制限がエンドツーエンド訓練におけるモデルサイズを制限する問題を克服すること。
• 潜在変数間の双方向的依存関係によって影響を受ける深層階層的VAEにおける最適化の不安定性を解消すること。
• スケーラブルで高精度な動画予測を実現し、多様なシーンに一般化可能であり、ロボット計画を支援すること。
• モデルの深さを増すに従い性能が単調に向上する訓練パラダイムを設計すること。

提案手法

• GHVAEsは、各階層的モジュールを、以前に訓練されたモジュールの固定重みを用いて独立して訓練するグリーディで逐次的な訓練戦略を採用する。
• 各モジュールは確率的潜在変数を備えたエンコーダ・デコーダ構造からなり、変分下界（ELBO）を最大化するように訓練される。
• モジュールを独立して訓練することで階層的潜在変数間の双方向的依存関係を解消し、最適化の安定性が向上する。
• 階層構造にアクション条件付き事前分布を組み込むことで、ロボット制御における計画が可能になる。
• 訓練はメモリ効率が良く、固定されたGPU/TPUメモリ制限内でより大きなモデルを訓練可能である。
• 推論時、すべてのモジュールを同時に使用して、入力フレームから高精度な動画予測を生成する。

実験結果

リサーチクエスチョン

• RQ1 グリーディでモジュール式の訓練は、動画予測のための深層階層的VAEにおける最適化を安定化させることができるか？
• RQ2 階層的モジュールの逐次的訓練は、大規模で多様な動画データセットにおける性能を向上させるか？
• RQ3 GHVAEsは最先端のモデルと比較して、より優れた動画予測品質とロボットタスクの成功確率を達成できるか？
• RQ4 GHVAEモジュールの数を増やすことで性能が単調に向上するか？
• RQ5 GHVAEsは大規模な動画予測モデルの訓練におけるメモリボトルネックを克服できるか？

主な発見

• GHVAEsは、4つの多様な動画データセットで、最先端のモデルと比較してFVDスコアが17–55%向上した。
• ロボットタスクの計画に使用した場合、実ロボットのタスク成功確率が35–40%向上した。
• より多くのGHVAEモジュールを追加することで性能が単調に向上し、スケーラビリティが示された。
• RoboNetにおける失敗事例（動く物体の追跡が不正確）は、アンダーフィッティングに起因し、モデルの深さを増すことで解消できる。
• モデルの性能は部分観測性に敏感である。3D状態やマルチビュー入力を追加することで、さらに耐性が向上する可能性がある。
• 理論的分析により、グリーディ訓練がELBOを維持または向上させることを確認し、最適化の安定性が保証された。