[論文レビュー] Guided Variational Autoencoder for Disentanglement Learning

Zheng Ding, Yifan Xu+5 more|arXiv (Cornell University)|Apr 2, 2020

Generative Adversarial Networks and Image Synthesis参考文献 71被引用数 10

ひとこと要約

この論文は、VAEのバックボーンを変更せずに、軽量なガイド機構を用いて潜在表現の分離性と制御可能性を向上させる、新しい変分オートエンコーダー枠組みであるGuided-VAEを提案する。非教師あり可変PCAと教師あり対抗的活性化／抑制を導入することで、潜在空間の学習をガイドし、MNIST、CelebA、CIFAR10、Omniglotデータセットにおいて、分離性の向上、画像生成性能の向上、少サンプル分類誤差の低減を達成する。

ABSTRACT

We propose an algorithm, guided variational autoencoder (Guided-VAE), that is able to learn a controllable generative model by performing latent representation disentanglement learning. The learning objective is achieved by providing signals to the latent encoding/embedding in VAE without changing its main backbone architecture, hence retaining the desirable properties of the VAE. We design an unsupervised strategy and a supervised strategy in Guided-VAE and observe enhanced modeling and controlling capability over the vanilla VAE. In the unsupervised strategy, we guide the VAE learning by introducing a lightweight decoder that learns latent geometric transformation and principal components; in the supervised strategy, we use an adversarial excitation and inhibition mechanism to encourage the disentanglement of the latent variables. Guided-VAE enjoys its transparency and simplicity for the general representation learning task, as well as disentanglement learning. On a number of experiments for representation learning, improved synthesis/sampling, better disentanglement for classification, and reduced classification errors in meta-learning have been observed.

研究の動機と目的

• 変分オートエンコーダーにおける潜在表現の分離性と解釈可能性を、VAEのコアアーキテクチャを変更せずに向上させること。
• 回転、スケーリング、性別などの意味的意味のある属性を特定の潜在変数が符号化できるように、制御可能な生成を可能にすること。
• 補助的で軽量なデコーダーを用いて、確率的生成能力を維持しつつ、透明性とモデリングの正確性を向上させること。
• エンドツーエンドで訓練可能な非教師ありおよび教師ありガイド戦略を、マルチタスク学習フレームワーク内で開発すること。
• 標準VAEおよびベースラインと比較して、表現学習、画像生成、分離性、少サンプル分類の各分野で向上した性能を示すこと。

提案手法

• 非教師ありGuided-VAEでは、軽量な補助デコーダーを導入し、主成分分析（PCA）の可変化を学習することで、主デコーダーが幾何学的に意味のある潜在表現を学習するのをガイドする。
• 主VAEが入力データを再構築する一方で、補助デコーダーが潜在空間に幾何的および主成分制約を課すマルチタスク学習目的関数を採用する。
• 教師ありバージョンでは、1つの潜在変数を判別的にする（分類誤差を最小化する）ための対抗的活性化と、他の潜在変数を最大限に混乱させる（対抗的抑制）メカニズムを適用する。
• 潜在コードからラベルを予測するサブネットワークを用い、勾配を逆伝播させて潜在空間における分離性と情報量の向上を促進する。
• 標準VAEアーキテクチャと訓練目的を維持し、ガイドのための追加的な軽量コンponentsと損失項のみを追加する。
• 再構築損失とガイド損失の組み合わせを用いて、モデル全体をエンドツーエンドで訓練し、VAEの確率的モデリングおよび生成能力を保持する。

実験結果

リサーチクエスチョン

• RQ1 アーキテクチャの変更なしに、軽量なガイドのみを用いて、分離可能で解釈可能な表現をVAEで学習できるか？
• RQ2 可変PCAが、幾何学的に意味のある分離要因を学習するVAEをガイドするサブタスクとしてどれほど有効か？
• RQ3 対抗的活性化と抑制は、VAEの潜在空間における分離性と制御可能性を向上させることができるか？
• RQ4 ガイド付き潜在学習は、標準VAEと比較して、少サンプル分類および画像生成の性能を向上させるか？
• RQ5 ガイド機構は、VAEの生成および再構築特性を保持しつつ、どの程度分離性を向上させるか？

主な発見

• Guided-VAEは、潜在空間における分離性と制御可能性を向上させ、画像トレース実験で明確な属性制御が観察された。
• 非教師ありガイド付きVAEは、可変PCAを用いることで、標準PCAよりもクリアで構造的なサンプリング結果を生成した。
• Omniglotデータセットでは、1ショット学習で97.8％の少サンプル分類精度を達成し、Bruno や Matching Nets といった最先端の判別モデルと同等の性能を示した。
• 教師ありバージョンは、メタラーニングタスクにおける分類誤差を低減し、1ショットOmniglotで97.8％の精度を達成し、ベースラインVAEを上回り、最上位クラスのモデルと同等の性能を示した。
• アブレーションスタディにより、幾何的ガイドや抑制メカニズムを除去すると、分離性が劣化し、属性制御が失われる結果となった。
• ガイド付きオートエンコーダーのバージョンは、非確率的設定でもMNIST分類誤差を改善しており（d_z=64のとき1.10％）、標準AE（1.34％）と比較してガイドの利点を示した。