[論文レビュー] VFlow: More Expressive Generative Flows with Variational Data Augmentation

Jianfei Chen, Cheng Lu+3 more|arXiv (Cornell University)|Feb 22, 2020

Generative Adversarial Networks and Image Synthesis参考文献 35被引用数 14

ひとこと要約

VFlowは、補助潜在変数を用いた変分的データ拡張を導入することで、顕著な計算コスト増加なしに生成的フローの表現力を向上させている。画像密度モデリングにおいて最先端の結果を達成し、CIFAR-10では2.98 bpdまで低下させ、Glow や Flow++ より優れた性能を示している。

ABSTRACT

Generative flows are promising tractable models for density modeling that define probabilistic distributions with invertible transformations. However, tractability imposes architectural constraints on generative flows, making them less expressive than other types of generative models. In this work, we study a previously overlooked constraint that all the intermediate representations must have the same dimensionality with the original data due to invertibility, limiting the width of the network. We tackle this constraint by augmenting the data with some extra dimensions and jointly learning a generative flow for augmented data as well as the distribution of augmented dimensions under a variational inference framework. Our approach, VFlow, is a generalization of generative flows and therefore always performs better. Combining with existing generative flows, VFlow achieves a new state-of-the-art 2.98 bits per dimension on the CIFAR-10 dataset and is more compact than previous models to reach similar modeling quality.

研究の動機と目的

• 生成的フローにおけるボトルneck問題に対処すること。特に、深く逆変換可能な変換が複雑なデータ分布をモデル化しにくくなる問題に焦点を当てる。
• 潜在変数を導入することで正規化フローの表現力を向上させること。これにより、より豊かなモデリング能力を実現する。
• 可逆性を保ちつつ、変分的データ拡張をフロー枠組みに統合すること。これにより、尤度推定が tractable なままであるようにする。
• 最大尤度推定下で、VFlowがバニラフローに比べてより良い尤度を達成できるという理論的保証を提供すること。
• CIFAR-10などのベンチマークデータセットにおける密度モデリングにおいて、実験的に優れた性能を示すこと。

提案手法

• 入力データ 𝐱 と補助潜在変数 𝐳 を同時にモデル化する条件付き正規化フローを導入し、結合密度 p(𝐱, 𝐳; θ_XZ) を定義する。
• 真の事後分布を近似するための変分的事後分布 q(𝐳|𝐱; ϕ) を用いる。これは、可逆性を保つために別の条件付きフローで実装される。
• 下界の期待値（ELBO）を目的関数として採用する：E[log p(𝐱,𝐳;θ_XZ) − log q(𝐳|𝐱;ϕ)]。これにより、エンドツーエンドの学習が可能になる。
• 可逆なフローブロック（例：アフィンカップリング層）を維持することで、ヤコビアン行列式の計算が容易になり、正確な尤度推定が可能になる。
• 結合フローを、(𝐱, 𝐳) → 𝐡₁ → … → 𝐞 という一連の可逆変換として構築する。最終的な潜在変数 𝐞 は単純な事前分布に従う。
• 結合部と変分的部の両方でフローアーキテクチャを共有することで、追加パラメータと計算量を最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 補助潜在変数を導入することで、計算コストを増加させずに正規化フローの表現力を向上させることができるか？
• RQ2 提案された変分的データ拡張フレームワークは、標準的な正規化フローに比べてより優れた尤度推定を達成できるか？
• RQ3 Glow や FFJORD といった既存のフローと比較して、VFlowは画像密度モデリングにおいて最先端の性能を達成できるか？
• RQ4 VFlowがバニラフローに理論的に優位であるという性質が、さまざまなアーキテクチャや深さ設定において実際の性能にも反映されるか？
• RQ5 データと潜在変数の共同モデリングが、複雑なデータ分布を捉える能力にどのように影響を与えるか？

主な発見

• CIFAR-10におけるVFlowのbits per dimension（bpd）は2.98であり、Glow（3.35）、FFJORD（3.40）、Flow++（3.08）を上回っている。
• わずか1190万パラメータと10ステップのフローで、3.08 bpdを達成しており、高い効率性と性能を示している。
• 理論的分析により、VFlowの最大ELBOは、いかなるバニラフローの最大尤度よりも常に大きいことが証明された。
• モデル容量を減らしてもVFlowは強力な性能を維持し、1650万パラメータと64の隠れ次元を用いて3.03 bpdを達成した。
• 既存のフローアーキテクチャと互換性があり、Flow++ や Glow といったモデルにスムーズに統合可能である。
• トイラベルデータにおける実験結果から、VFlowは標準的なフローに比べて複雑でマルチモーダルな分布をよりよく捉えていることが示された。